ロボットマニピュレーションのための大規模行動モデルの共訓練におけるデータモダリティと戦略の系統的研究

大規模行動モデル(Large Behavior Models)の汎化性能を高めるための co-training を体系的に検討した実証研究。5つのデータモダリティ(標準 vision-language データ、ロボット軌道への密な言語注釈、cross-embodiment ロボットデータ、human videos、離散ロボット action tokens)と single-/multi-phase 訓練戦略を比較。4,000時間のロボット・人間操作データと50M vision-language サンプルで vision-language-action ポリシーを訓練し、89ポリシーを58,000シミュレーションロールアウトと2,835実世界ロールアウトで評価。

従来の co-training 研究は個別のモダリティや戦略の効果が不明瞭だった。本研究は5モダリティ×訓練戦略を大規模に比較し、vision-language と cross-embodiment ロボットデータの co-training が分布シフト・未見タスク・言語追従の汎化を大幅改善する一方、離散 action token 変種は有意な利益がないことを示した。有効モダリティの組み合わせで累積的利得が得られ、fine-tuning による未見 long-horizon 巧緻タスクへの迅速適応を可能にした。ロボットデータのみの訓練は vision-language モデル backbone の視覚言語理解を劣化させるが、有効モダリティとの co-training で回復することを明らかにした。

co-training のデータモダリティと訓練戦略を体系的に比較する大規模実証フレームワーク。5モダリティ(標準 vision-language データ、ロボット軌道への密な言語注釈、cross-embodiment ロボットデータ、human videos、離散ロボット action tokens)を single-phase および multi-phase 訓練戦略で組み合わせ、vision-language-action ポリシーを訓練。4,000時間のロボット・人間操作データと50M vision-language サンプルを使用。co-training データから学習した chain-of-thought トレースで action 生成を明示的に条件付ける手法も検討。

89ポリシーを58,000シミュレーションロールアウトと2,835実世界ロールアウトで評価。分布シフト、未見タスク、言語追従への汎化を測定。有効モダリティの組み合わせによる累積的利得と、fine-tuning による未見 long-horizon 巧緻タスクへの迅速適応を検証。ロボットデータのみの訓練による vision-language backbone の視覚言語理解劣化と、有効モダリティ co-training による回復を評価。chain-of-thought 条件付けの効果もシミュレーションベンチマークで検証。

vision-language と cross-embodiment ロボットデータの co-training は汎化を大幅改善するが、離散 action token 変種は有意な利益なし。有効モダリティの組み合わせは累積的利得をもたらし、fine-tuning で未見 long-horizon 巧緻タスクへ迅速適応可能。ロボットデータのみの訓練は vision-language backbone の視覚言語理解を劣化させるが、有効モダリティとの co-training で回復。co-training データから学習した chain-of-thought トレースによる action 生成の明示的条件付けは、シミュレーションベンチマークで性能改善なし。これらの結果はスケーラブルな汎用ロボットポリシー構築への実践的指針を提供。

要旨で参照/比較されている研究や関連手法: co-training を用いた先行研究(具体的名称は要旨からは不明)、vision-language-action ポリシー、cross-embodiment ロボットデータ、human videos、離散ロボット action tokens、chain-of-thought トレース。同分野の定番として imitation learning、large behavior models、vision-language models が関連。