日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.23863

接地行動モデル:ロボティクスの基盤としての3Dグラウンディング

Grounded Action Model: 3D Grounding as a Foundation for Robotics

シェア:XThreadsFacebookLINEはてブBluesky

言語・点・ボックス指示を対象物の3D表現に変換し、マルチストリームTransformerで行動を予測するロボット基盤モデルGAMを提案。RoboTwin 2.0やLIBERO-PROで高い成功率を示した。

詳しい要約

1. どんなもの?

- 3D grounding を基盤に据えた新しい robot foundation model のパラダイム **Grounded Action Models (GAMs)** を提案する研究。 - language, points, box prompts を入力として受け取り、選択対象の共有 object-centric representation に変換する。 - この表現は target-focused visual features と metric object geometry を含み、robot state history と multi-stream transformer で混合して action chunks を予測する。 - 自律実行も可能だが、high-level planner の low-level controller としても機能し、long-horizon かつ memory-dependent な manipulation を可能にする。

2. 先行研究と比べてどこがすごい?

- 既存の robot foundation models は VLA の language や WAM の video generation など pretrained backbone に依存し、metric grounding を明示的に要求せず robot demonstrations から暗黙学習に委ねていた。 - GAM は 3D grounding を明示的に組み込むことで、この暗黙学習の限界を補う。 - RoboTwin 2.0 では 50 タスク平均 55.3%(Spatial Forcing は 52.0%)、scene randomization 下で 47.6%(Abot-M0 は 30.4%)を達成し、clean-scene demonstrations のみで訓練。 - LIBERO-PRO では 16 perturbation settings で SOTA の平均 61%($\pi_{0.5}$ は 53%)。 - 実機 bimanual YAM では visual shift 下で 17/20 成功($\pi_{0.5}$ は 4/20)。

3. 技術・手法の肝は?

- language, points, box prompts を shared object-centric representation に変換する 3D grounding 機構が中核。 - この表現は target-focused visual features と metric object geometry を保持する。 - robot state history と multi-stream transformer で混合し、action chunks を予測する。 - 自律動作に加え、high-level planner から制御される low-level controller としても使える設計。

4. どうやって有効だと検証した?

- RoboTwin 2.0 の 50 タスクで平均成功率 55.3% を達成(Spatial Forcing 52.0%)。 - scene randomization 下で 47.6%(Abot-M0 30.4%)。action policy は clean-scene demonstrations のみで訓練。 - LIBERO-PRO の 16 perturbation settings で SOTA 平均 61%($\pi_{0.5}$ 53%)。target の再配置や新規指定時に最大の改善。 - 実機 2 台で検証。bimanual YAM では visual shift 下で 17/20 成功($\pi_{0.5}$ 4/20)。Franka では Molmo2 planner との組み合わせで long-horizon かつ memory-dependent タスクの step completion が ID 64.7%、OOD 49.8%。

5. 議論はある?

- 要旨からは、GAM の限界や失敗事例、計算コスト、スケーラビリティに関する議論は明示されていない。 - 提案手法の有効性は複数ベンチマークと実機で示されているが、他の grounding 手法との詳細な比較や ablation は要旨からは不明。 - high-level planner との組み合わせの汎用性や、異なるロボットへの転移性についての議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で比較対象として挙げられている **Spatial Forcing**, **Abot-M0**, **$\pi_{0.5}$**, **Molmo2** が直接の関連研究。 - 背景として **Vision-Language-Action models (VLAs)** や **World-Action Models (WAMs)** が基盤として言及されている。 - 同分野の定番として **RT-1**, **RT-2**, **OpenVLA**, **Diffusion Policy** なども次に読むべき候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Gehao Zhang, Weikai Huang, Shailesh Shailesh, Yiyan Peng, Jiafei Duan, Ranjay Krishna

分類: cs.RO

原文アブストラクト

Manipulation policies must know which objects matter and where they are, yet the pretrained backbones that current robot foundation models build on, from language in vision-language-action models (VLAs) to video generation in world-action models (WAMs), do not directly require this metric grounding, leaving it to be learned implicitly from robot demonstrations. We propose Grounded Action Models (GAMs), a new paradigm of robot foundation models built with 3D grounding. GAM can be conditioned using language, points, or box prompts, which are first transformed into a shared object-centric representation of the selected objects. This representation captures target-focused visual features and metric object geometry, which is mixed with robot state history through a multi-stream transformer to predict action chunks. Although GAMs can be run autonomously, they can also serve as a low-level controller that a high-level planner controls using its various input modalities, allowing for long-horizon and memory-dependent manipulation. On RoboTwin 2.0, GAM achieves an average success rate of 55.3% across 50 tasks (vs. 52.0% for Spatial Forcing), including 47.6% under scene randomization (vs. 30.4% for Abot-M0), with its action policy trained only on clean-scene demonstrations. On LIBERO-PRO, it achieves a state-of-the-art average success rate of 61% (vs. 53% for $π_{0.5}$) across 16 perturbation settings, with the largest gains when targets are relocated or newly designated. On two real robots, GAM retains 17/20 successes under visual shift on a bimanual YAM versus 4/20 for $π_{0.5}$, while its composition with a Molmo2 planner on a Franka achieves 64.7% ID and 49.8% OOD step completion on long-horizon and memory-dependent tasks.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI