日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2507.12440

EgoVLA:自己中心視点の人間動画から視覚-言語-行動モデルを学習

EgoVLA: Learning Vision-Language-Action Models from Egocentric Human Videos

シェア:XThreadsFacebookLINEはてブBluesky

一人称視点の人間動画でVLAモデルを訓練し、逆運動学とリターゲティングで人間の手の動きをロボット動作に変換、少数のロボット実演で微調整してロボットポリシーを獲得する手法を提案。

詳しい要約

1. どんなもの?

- 一人称視点(egocentric)の人間動画から Vision-Language-Action(VLA)モデルを学習する手法 EgoVLA を提案する研究。 - 人間動画で手首・手の動作を予測する VLA を学習し、Inverse Kinematics と retargeting で人間の動作をロボット動作へ変換する。 - 少数のロボット操作デモで fine-tune してロボット policy を得る。 - 両手操作タスクを設計したシミュレーションベンチマーク Ego Humanoid Manipulation Benchmark も提案する。

2. 先行研究と比べてどこがすごい?

- 従来の imitation learning は実ロボットデータ収集を前提とし、ロボットハードウェアの必要性がデータ規模を根本的に制約していた。 - 本研究は egocentric human videos を学習に用いることで、規模だけでなくシーンやタスクの多様性・豊かさを活用できる点を利点とする。 - 人間動画で学習した VLA を IK と retargeting でロボット動作に変換し、少数のロボットデモの fine-tune で policy 化する点が特徴。 - 提案ベンチマーク上で baselines に対し有意な改善を示し、人間データの重要性を ablation で確認したと主張。

3. 技術・手法の肝は?

- egocentric human videos を用い、人間の wrist と hand の action を予測する VLA を学習する。 - 予測された人間 action を Inverse Kinematics と retargeting によりロボット action へ変換する。 - 変換後のデータ/モデルを少数のロボット manipulation demonstrations で fine-tune し、ロボット policy EgoVLA を得る。 - 評価用に両手操作の多様なタスクとデモを設計した Ego Humanoid Manipulation Benchmark を構築する。

4. どうやって有効だと検証した?

- 提案する Ego Humanoid Manipulation Benchmark 上で EgoVLA を fine-tune し評価。 - baselines と比較して有意な改善を報告。 - 人間データの重要性について ablation を実施。 - 詳細な実験設定・指標・数値は要旨からは不明。

5. 議論はある?

- 人間動画の利点として規模に加えシーン・タスクの豊かさを挙げている。 - 人間 action からロボット action への IK・retargeting 変換を介する設計の影響や限界については要旨からは不明。 - シミュレーションベンチマークでの評価が中心であり、実機での検証や sim-to-real の議論は要旨からは不明。 - 人間データの ablation の具体的結果や定量的議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている個別研究は明示されていない。 - 関連手法として Vision-Language-Action(VLA)モデル、imitation learning、Inverse Kinematics、retargeting に関する研究を挙げる。 - 評価基盤として提案された Ego Humanoid Manipulation Benchmark 自体も参照すべき資料。 - egocentric human video を用いたロボット学習や human-to-robot action transfer の同分野研究が次の候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ruihan Yang, Qinxi Yu, Yecheng Wu, Rui Yan, Borui Li, An-Chieh Cheng, Xueyan Zou, Yunhao Fang, Xuxin Cheng, Ri-Zhao Qiu, Hongxu Yin, Sifei Liu, Song Han, Yao Lu, Xiaolong Wang

分類: cs.RO, cs.AI, cs.CV, cs.LG

原文アブストラクト

Real robot data collection for imitation learning has led to significant advancements in robotic manipulation. However, the requirement for robot hardware in the process fundamentally constrains the scale of the data. In this paper, we explore training Vision-Language-Action (VLA) models using egocentric human videos. The benefit of using human videos is not only for their scale but more importantly for the richness of scenes and tasks. With a VLA trained on human video that predicts human wrist and hand actions, we can perform Inverse Kinematics and retargeting to convert the human actions to robot actions. We fine-tune the model using a few robot manipulation demonstrations to obtain the robot policy, namely EgoVLA. We propose a simulation benchmark called Ego Humanoid Manipulation Benchmark, where we design diverse bimanual manipulation tasks with demonstrations. We fine-tune and evaluate EgoVLA with Ego Humanoid Manipulation Benchmark and show significant improvements over baselines and ablate the importance of human data. Videos can be found on our website: https://rchalyang.github.io/EgoVLA

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI