日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2509.17759

MotionTrans: 人間のVRデータでロボットマニピュレーション方策の動作レベル学習を実現

MotionTrans: Human VR Data Enable Motion-Level Learning for Robotic Manipulation Policies

シェア:XThreadsFacebookLINEはてブBluesky

VRで収集した人間の動作データを変換し、ロボットデータと重み付き共訓練することで、13タスクの動作をエンドツーエンド方策へ直接転移。9タスクはゼロショットで成功し、事前学習・微調整性能も40%向上。

詳しい要約

1. どんなもの?

- 本論文は、人間のVRデータを用いてロボットマニピュレーション方策が運動(motion)レベルで学習できるかを体系的に探る研究。 - MotionTransというフレームワークを提案し、データ収集システム、人間データ変換パイプライン、重み付きcotraining戦略を含む。 - 30の人間-ロボットタスクを同時にcotrainingし、13タスクの運動を人間データから展開可能なend-to-endロボット方策へ直接転移。 - 9タスクはzero-shotで非自明な成功率を達成。pretraining-finetuning性能も+40%向上。 - データ・コード・モデル重みはオープンソース化。

2. 先行研究と比べてどこがすごい?

- 従来、実ロボットデータのスケーリングが模倣学習のボトルネックであり、補助データ利用が検討されてきた。 - 画像や言語理解はインターネットデータセットから学習可能だが、運動知識の獲得は困難とされる。 - 先行研究は人間データ利用がロバスト性や訓練効率を改善することを示すが、最大の利点である『新しい運動を直接学習してタスクを完了できるか』は不明だった。 - 本研究はmulti-task human-robot cotrainingを通じてこの可能性を体系的に検証し、運動レベルの転移を実証した点が新しい。

3. 技術・手法の肝は?

- データ収集システム、人間データ変換パイプライン、重み付きcotraining戦略からなるMotionTransを構築。 - 人間のVRデータをロボット方策学習に利用可能な形へ変換するパイプラインが中核。 - 30の人間-ロボットタスクを同時にcotrainingするmulti-task human-robot cotrainingを実施。 - 重み付きcotrainingにより人間データとロボットデータの寄与を調整。 - ablation studyで、ロボットデータとのcotrainingと広範なタスク関連運動カバレッジが運動学習成功の鍵と特定。

4. どうやって有効だと検証した?

- 30の人間-ロボットタスク同時cotrainingにより、13タスクの運動を人間データからend-to-endロボット方策へ転移。 - 9タスクでzero-shotの非自明な成功率を確認。 - pretraining-finetuning性能が+40%成功率向上することを示した。 - ablation studyを実施し、運動学習成功の主要因子(ロボットデータとのcotraining、広範なタスク関連運動カバレッジ)を同定。

5. 議論はある?

- 人間データからの運動レベル学習の可能性を解き放ち、ロボットマニピュレーション方策訓練への有効活用への知見を提供。 - 成功要因としてロボットデータとのcotrainingと広範なタスク関連運動カバレッジを特定。 - 具体的な限界や失敗事例、一般化範囲についての詳細は要旨からは不明。 - データ・コード・モデル重みのオープンソース化により再現性・追試が可能。

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている個別研究名は記載なし。 - 関連手法として、human-robot cotraining、imitation learning、pretraining-finetuning、multi-task learning、end-to-end robot policy learning、VR-based human data collectionが挙げられる。 - 同分野の定番としてbehavior cloningやrobot demonstrationを用いた模倣学習研究を次に読む候補として検討。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chengbo Yuan, Rui Zhou, Mengzhen Liu, Yingdong Hu, Shengjie Wang, Li Yi, Chuan Wen, Shanghang Zhang, Yang Gao

分類: cs.RO

原文アブストラクト

Scaling real robot data is a key bottleneck in imitation learning, leading to the use of auxiliary data for policy training. While other aspects of robotic manipulation such as image or language understanding may be learned from internet-based datasets, acquiring motion knowledge remains challenging. Human data, with its rich diversity of manipulation behaviors, offers a valuable resource for this purpose. While previous works show that using human data can bring benefits, such as improving robustness and training efficiency, it remains unclear whether it can realize its greatest advantage: enabling robot policies to directly learn new motions for task completion. In this paper, we systematically explore this potential through multi-task human-robot cotraining. We introduce MotionTrans, a framework that includes a data collection system, a human data transformation pipeline, and a weighted cotraining strategy. By cotraining 30 human-robot tasks simultaneously, we direcly transfer motions of 13 tasks from human data to deployable end-to-end robot policies. Notably, 9 tasks achieve non-trivial success rates in zero-shot manner. MotionTrans also significantly enhances pretraining-finetuning performance (+40% success rate). Through ablation study, we also identify key factors for successful motion learning: cotraining with robot data and broad task-related motion coverage. These findings unlock the potential of motion-level learning from human data, offering insights into its effective use for training robotic manipulation policies. All data, code, and model weights are open-sourced https://motiontrans.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI