日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.15651

失敗から学ぶ:物理的失敗の理解と修正のためのフィードバック学習

Recover, Don't Just Continue: Learning from Feedback for Physical Failure Understanding and Correction

シェア:XThreadsFacebookLINEはてブBluesky

実行中の失敗を原因特定・能力制約下での適応・経験に基づく修正として捉え、失敗回復データとJudge-Cause-Sub-Fine監督で身体的AIの自己修正能力を訓練する手法を提案。

詳しい要約

1. どんなもの?

- 本論文は、embodied intelligence の認知基盤としての Multimodal large language models (MLLMs) が実行中の失敗を理解し修正する能力を欠いている点を問題視する研究。 - 提案手法 Embodied-Corrector は、実行のずれの原因を特定し、実現可能な範囲を認識し、経験に基づいて計画を修正する embodied brain の実現を目指す。 - 失敗の causal failure localization、capability-constrained adaptation、experience-driven revision の3能力に対応する。 - 失敗回復データの構築と Judge-Cause-Sub-Fine 監督による学習、OPD による計画分布の内部化を行う。

2. 先行研究と比べてどこがすごい?

- 既存の embodied foundation models は、指示からの計画だけでは信頼性が不十分で、実行時の失敗理解・修正能力をほとんど持たないと指摘。 - 本研究は失敗回復データを体系的に構築し、失敗の Judge・Cause・Sub・Fine を統合的に監督する点が新しい。 - さらに OPD により、正確な prefix 下の計画分布を自己生成 prefix 下へ内部化する点が先行研究と異なる。 - 具体的な比較対象の研究名は要旨からは不明。

3. 技術・手法の肝は?

- 成功 trajectory の subtask 境界に perturbation を注入し、影響 subtask を replay して、公開証拠から観測可能かつ現状態から回復可能な失敗のみを保持して失敗回復データを構築。 - 行動・結果・失敗原因・回復を Judge-Cause-Sub-Fine 監督に整列。 - evaluation-first SFT を採用し、まず Judge と Cause を学習し、正確な prefix を条件に Sub と Fine を学習。 - 展開時は自己生成 prefix を使うため誤差が伝播する問題に対し、OPD を導入。自己生成 prefix から計画を生成しつつ、正確な prefix との contrastive forward pass で token 確率を比較し、計画 token を強化・抑制。展開時はこの分岐を除去。

4. どうやって有効だと検証した?

- 失敗分析と修正計画の性能を実験で評価。 - frozen VLA を用いた場合、composite task success が 6.1 percentage points 向上。 - 固定 GPT-5.5 実行下で、manipulation と navigation タスクが 13.9 percentage points 向上。 - 具体的なデータセット名・ベンチマーク名・被験者数などは要旨からは不明。

5. 議論はある?

- 展開時に自己生成 prefix を用いることで評価誤差が回復計画へ伝播する点を議論し、response-level rewards では影響を受けた planning tokens の特定が粗すぎることを指摘。 - これを OPD で緩和する設計を提示。 - 失敗データは公開証拠から観測可能かつ現状態から回復可能なものに限定しており、それ以外の失敗への一般化は要旨からは不明。 - 計算コストや安全性、実ロボットでの長期運用に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている個別研究名は不明。 - 関連手法として、embodied foundation models、Vision-Language-Action (VLA) モデル、failure recovery に関する研究、SFT と強化学習/選好学習による計画修正の研究を次に読む候補として挙げる。 - 特に GPT-5.5 を用いた実行評価や frozen VLA との比較設定に関連するベースライン論文を確認すべき。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Miao Pan, Kaixiang Yao, Xiaohe Zhou, Xu Wang, Qinfeng Li, Wenqi Zhang, Xuhong Zhang

分類: cs.RO

原文アブストラクト

Multimodal large language models are regarded as the cognitive foundation of embodied intelligence, but planning from instructions alone cannot make them reliable. During execution, actions deviate from intended effects, constrained by the embodiment and environment. An embodied brain must understand why execution deviates, identify what can be reliably realized, and revise decisions using interaction experience. These correspond to causal failure localization, capability-constrained adaptation, and experience-driven revision. Current embodied foundation models largely lack these capabilities. To address this, we introduce Embodied-Corrector. We construct failure-recovery data by injecting perturbations at subtask boundaries of successful trajectories, replaying affected subtasks, and keeping failures that are observable from public evidence and recoverable from the current state. We align actions, consequences, failure causes, and recoveries into Judge-Cause-Sub-Fine supervision. Training uses evaluation-first SFT: the model learns Judge and Cause first, then Sub and Fine conditioned on accurate prefixes. Since deployment uses self-generated prefixes, evaluation errors propagate into recovery planning, and response-level rewards are too coarse to locate affected planning tokens. We therefore use OPD to internalize the planning distribution under accurate prefixes into that under self-generated ones: the model generates plans from self-generated prefixes, while a contrastive forward pass with accurate prefixes compares token probabilities to reinforce or suppress planning tokens. At deployment, this branch is removed. Experiments show stronger failure analysis and corrective planning: with a frozen VLA, composite task success improves by 6.1 percentage points; with fixed GPT-5.5 execution, manipulation and navigation tasks improve by 13.9 percentage points.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI