日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2609.33832

想像した通りに実現する:視覚プランと行動の整合学習

Achieve What You Imagined: Learning to Align Actions with Visual Plans

シェア:XThreadsFacebookLINEはてブBluesky

世界行動モデルが生成する視覚的予測を目標条件付き提案として扱い、凍結した行動条件付き世界モデルとの予測一致度をフィードバックにFlow Policy Optimizationで行動ヘッドを最適化する手法を提案。実機UR5の4タスクで成功率を43.4%から75.1%に向上させた。

詳しい要約

1. どんなもの?

- World-action models (WAMs) は将来の視覚観測とロボット行動を同時に予測する。 - しかし視覚予測と生成行動がもたらす結果に不一致が生じる。 - WAMs は行動系列より先に視覚的に妥当なタスク完了結果を生成できることが多い。 - そこで WAM 生成の視覚予測を直接実行可能な計画ではなく goal-conditioned visual proposal として扱う。 - 本手法はこの視覚提案を目標として行動を整合させる枠組み。

2. 先行研究と比べてどこがすごい?

- 従来の WAM は視覚予測と行動生成の不一致をそのまま抱えていた。 - 本手法はその不一致を有用なフィードバック源として活用する点が新しい。 - オンラインのロボット相互作用を避けられる。 - タスク固有の reward model の追加学習も不要。 - 実世界 UR5 操作タスクで平均成功率を 43.4% から 75.1% に向上。 - 比較対象の $\pi_{0.5}$ の 61.4% も上回る。

3. 技術・手法の肝は?

- WAM が生成した視覚予測を goal-conditioned visual proposal とみなす。 - frozen action-conditioned world model を用いて行動条件付きの結果を予測する。 - 二つの将来予測間の consistency と terminal goal への alignment に基づきフィードバックを構築する。 - このフィードバックを使い Flow Policy Optimization (FPO) で WAM の action head を最適化する。 - オンライン相互作用やタスク固有 reward model の学習を必要としない。

4. どうやって有効だと検証した?

- 4 つの実世界 UR5 manipulation タスクで評価した。 - 平均成功率が 43.4% から 75.1% に向上した。 - 比較手法 $\pi_{0.5}$ の 61.4% を上回った。 - 評価タスク下で cross-model prediction discrepancy がロボット政策改善に有用なフィードバックとなることを示した。

5. 議論はある?

- cross-model prediction discrepancy が評価された manipulation タスクにおいて有用なフィードバックを提供できると主張している。 - オンライン相互作用やタスク固有 reward model を不要にできる点を利点として挙げている。 - 限界や失敗事例、他タスクへの一般化については要旨からは不明。

6. 次に読むべき論文は?

- World-action models (WAMs) - $\pi_{0.5}$ - Flow Policy Optimization (FPO) - action-conditioned world model - goal-conditioned visual proposal に関連する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuheng Qiao, Ziran Wei, Xiaohan Wang, Daqiang Guo, Yichen Luo, Zhibo Pang, Peng Zhou, Sichao Liu

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

World-action models can jointly predict future visual observations and robot actions. However, discrepancies may exist between their visual predictions and the consequences implied by generated actions. We observe that WAMs can often generate visually plausible task-completion outcomes before producing action sequences that reliably achieve them. Consequently, we treat the WAM-generated visual prediction as a goal-conditioned visual proposal rather than a directly executable plan. We use a frozen action-conditioned world model to predict action-conditioned consequences and construct feedback based on consistency between the two future predictions and alignment with the terminal goal. Leveraging this feedback, we employ Flow Policy Optimization (FPO) to optimize the action head of the WAM. This framework avoids online robot interaction and additional training of task-specific reward models. Across four real-world UR5 manipulation tasks, our method increases the mean success rate from 43.4% to 75.1%, compared with 61.4% for $π_{0.5}$. These results show that cross-model prediction discrepancy can provide useful feedback for improving robot policies under the evaluated manipulation tasks. Website: https://imagine-to-achieve.github.io/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI