日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2603.17808

EVA: 逆動力学報酬による実行可能ロボット行動へのビデオ世界モデル整合

EVA: Aligning Video World Models with Executable Robot Actions via Inverse Dynamics Rewards

シェア:XThreadsFacebookLINEはてブBluesky

ビデオ生成モデルをロボットの世界モデルとして使う際、生成映像が物理的に実行可能な行動に変換されるよう、逆動力学モデルを報酬として強化学習で整合させる手法を提案した。

詳しい要約

1. どんなもの?

- ビデオ生成モデルをロボットのworld modelとして利用する研究。 - 現在の観測とタスク指示から将来の視覚的rolloutを生成し、inverse dynamics model (IDM)で実行可能なロボットactionに変換する。 - しかし、視覚的に一貫したrolloutでも剛体・運動学的整合性に違反し、不安定または実行不可能な制御コマンドを生む「executability gap」が存在する。 - 本論文ではこのgapを訓練信号として活用し、video world modelをalignmentする強化学習post-trainingフレームワーク「Executable Video Alignment (EVA)」を提案。

2. 先行研究と比べてどこがすごい?

- 従来のvideo world modelは明示的な実行可能性制約を持たず、視覚的整合性のみを追求していた。 - executability gapは推論時のrejection samplingなどで緩和可能だが、ビデオ生成コストが高く非効率。 - EVAはこのgapを訓練信号として利用し、post-trainingでモデルをalignmentする点が新しい。 - 推論時ではなく訓練時に実行可能性を組み込むことで、効率的かつ根本的な改善を図る。

3. 技術・手法の肝は?

- 実ロボットtrajectoryでinverse dynamics model (IDM)を訓練。 - このIDMをreward modelとして再利用し、生成ビデオが誘導するaction sequenceを評価。 - rewardはvelocity, acceleration, jerkで測定される滑らかな動きを奨励し、embodiment制約に違反するactionにペナルティを与える。 - 生成ビデオに深刻な視覚的artifactがあっても、artifactは不安定または範囲外のactionに変換されるためrewardは有益。 - 強化学習post-trainingフレームワークでvideo world modelをalignment。

4. どうやって有効だと検証した?

- RoboTwin benchmarkと実bimanual robotで実験。 - EVAが生成rolloutにおけるembodiment固有のartifactを低減し、下流タスク実行成功率を向上させることを示した。 - 具体的な数値や比較対象は要旨からは不明。

5. 議論はある?

- executability gapの存在と、それを訓練信号として利用する有効性を議論。 - 推論時rejection samplingの非効率性を指摘。 - 視覚的artifactがあってもrewardが有益である理由を説明。 - 限界や今後の課題については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: rejection sampling, inverse dynamics model (IDM), video world models。 - 関連手法: RoboTwin benchmark, bimanual robot。 - 同分野の定番: model-based reinforcement learning, video prediction for robotics。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ruixiang Wang, Qingming Liu, Yueci Deng, Guiliang Liu, Zhen Liu, Kui Jia

分類: cs.RO, cs.AI

原文アブストラクト

Video generative models are increasingly used as world models for robotics, where a model generates a future visual rollout conditioned on the current observation and task instruction, and an inverse dynamics model (IDM) converts the generated frames into executable robot actions. However, current video world models lack explicit executability constraints. As a result, visually coherent rollouts may still violate rigid-body and kinematic consistency, producing unstable or infeasible control commands when decoded by an IDM. We refer to this mismatch between visual generation and physically executable control as the executability gap. While this gap can be mitigated at inference time using techniques such as rejection sampling, such approaches are inefficient due to the high cost of video generation. In this paper, we leverage the executability gap as a training signal and introduce Executable Video Alignment (EVA), a reinforcement-learning post-training framework for aligning video world models. EVA trains an inverse dynamics model on real robot trajectories and repurposes it as a reward model that evaluates generated videos through the action sequences they induce, encouraging smooth motions measured by velocity, acceleration, and jerk while penalizing actions that violate embodiment constraints. Importantly, the reward remains informative even when generated videos contain severe visual artifacts, since such artifacts typically translate into unstable or out-of-bound actions. Experiments on the RoboTwin benchmark and a real bimanual robot show that EVA reduces embodiment-specific artifacts in generated rollouts and improves downstream task execution success.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI