日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ビデオ世界モデルarXiv:2605.03821

RoboAlign-R1: ロボットビデオ世界モデルのための蒸留型マルチモーダル報酬アライメント

RoboAlign-R1: Distilled Multimodal Reward Alignment for Robot Video World Models

シェア:XThreadsFacebookLINEはてブBluesky

ロボットビデオ世界モデルの訓練を、再構成損失などの低レベル目的ではなく、指示追従や操作成功などの意思決定に重要な能力に合わせるため、報酬アライメントと長期推論安定化を組み合わせたフレームワークを提案した。

詳しい要約

1. どんなもの?

- ロボット意思決定に重要な instruction following、manipulation success、physical plausibility に整合しない低次目的(reconstruction、perceptual similarity)で訓練される robot video world models の問題を扱う。 - RoboAlign-R1 は reward-aligned post-training と stabilized long-horizon inference を組み合わせたフレームワーク。 - RobotWorldBench(4つの robot data sources から収集した10,000の annotated video-instruction pairs)を構築。 - 6次元評価を提供する multimodal teacher judge(RoboAlign-Judge)を訓練し、軽量 student reward model に distill。 - 長horizon rollout drift を減らす training-free 推論…

2. 先行研究と比べてどこがすごい?

- 既存の robot video world models は reconstruction や perceptual similarity などの低次目的で訓練され、instruction following、manipulation success、physical plausibility と整合しにくい。 - また long-horizon autoregressive prediction で error accumulation が生じる。 - RoboAlign-R1 は reward-aligned post-training と stabilized long-horizon inference を組み合わせ、これらの課題に対処。 - in-domain evaluation protocol で aggregate six-dimension score が最強 baseline より10.1%改善(Manipulation Accuracy +7.5%、Instruction Following +4.6%)。 - SWR は約1%の追加 latency で l…

3. 技術・手法の肝は?

- RobotWorldBench を構築:4つの robot data sources から収集した10,000の annotated video-instruction pairs。 - multimodal teacher judge である RoboAlign-Judge を訓練し、生成 video を6次元で fine-grained に評価。 - teacher を軽量 student reward model に distill し、効率的な reinforcement-learning-based post-training を実現。 - Sliding Window Re-encoding (SWR) は training-free な推論戦略で、生成 context を定期的に refresh し long-horizon rollout drift を低減。

4. どうやって有効だと検証した?

- in-domain evaluation protocol で評価し、aggregate six-dimension score が最強 baseline より10.1%改善。 - Manipulation Accuracy で7.5%、Instruction Following で4.6%の向上。 - 外部 VLM-based cross-check と blinded human study により ranking improvements を支持。 - SWR は約1%の追加 latency で SSIM +2.8%、LPIPS -9.8% を達成。

5. 議論はある?

- 要旨からは、限界や失敗例、計算コスト、一般化性に関する明示的な議論は不明。 - 主張として、reward-aligned post-training と stabilized long-horizon decoding が task consistency、physical realism、long-horizon prediction quality を改善すると述べられている。 - 評価は in-domain evaluation protocol に基づき、外部 VLM-based cross-check と blinded human study で補強されている。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、robot video world models、reconstruction、perceptual similarity、reinforcement-learning-based post-training、autoregressive prediction、SSIM、LPIPS、VLM-based evaluation が挙げられる。 - 同分野の定番として、robot video world models や video prediction の研究、reward modeling、RLHF 関連手法を次に読む候補として検討できる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hao Wu, Yuqi Li, Yuan Gao, Fan Xu, Fan Zhang, Kun Wang, Penghao Zhao, Qiufeng Wang, Yizhou Zhao, Weiyan Wang, Yingli Tian, Xian Wu, Xiaomeng Huang

分類: cs.RO, cs.AI

原文アブストラクト

Existing robot video world models are typically trained with low-level objectives such as reconstruction and perceptual similarity, which are poorly aligned with the capabilities that matter most for robot decision making, including instruction following, manipulation success, and physical plausibility. They also suffer from error accumulation in long-horizon autoregressive prediction. We present RoboAlign-R1, a framework that combines reward-aligned post-training with stabilized long-horizon inference for robot video world models. We construct RobotWorldBench, a benchmark of 10,000 annotated video-instruction pairs collected from four robot data sources, and train a multimodal teacher judge, RoboAlign-Judge, to provide fine-grained six-dimensional evaluation of generated videos. We then distill the teacher into a lightweight student reward model for efficient reinforcement-learning-based post-training. To reduce long-horizon rollout drift, we further introduce Sliding Window Re-encoding (SWR), a training-free inference strategy that periodically refreshes the generation context. Under our in-domain evaluation protocol, RoboAlign-R1 improves the aggregate six-dimension score by 10.1% over the strongest baseline, including gains of 7.5% on Manipulation Accuracy and 4.6% on Instruction Following; these ranking improvements are further supported by an external VLM-based cross-check and a blinded human study. Meanwhile, SWR improves long-horizon prediction quality with only about 1% additional latency, yielding a 2.8% gain in SSIM and a 9.8% reduction in LPIPS. Together, these results show that reward-aligned post-training and stabilized long-horizon decoding improve task consistency, physical realism, and long-horizon prediction quality in robot video world models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI