日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2508.00795

動画生成器はロボットポリシーである

Video Generators are Robot Policies

シェア:XThreadsFacebookLINEはてブBluesky

動画生成をロボットポリシー学習の代理として用いる「Video Policy」を提案し、少ない実演データで未知の物体・背景・タスクへの汎化性能とサンプル効率を大幅に向上させた。

詳しい要約

1. どんなもの?

- 本論文は、ロボットの器用な操作のための visuomotor policy 学習において、video generation を policy learning の代理として用いる枠組み「Video Policy」を提案する。 - video と action の生成を組み合わせた modular なフレームワークで、end-to-end に学習可能。 - 少ない demonstration data から policy を抽出でき、未見の物体・背景・タスクへの汎化と sample efficiency の向上を狙う。 - simulation と real world の両方で評価している。

2. 先行研究と比べてどこがすごい?

- 従来の visuomotor policy は、知覚的・行動的 distribution shift 下での汎化が難しく、human demonstration data の量に性能が制約されるという2つの限界があった。 - 本手法は video generation を policy learning の代理として用いることで、この2つの限界を同時に扱う点が新しい。 - 大規模 video generative model を活用し、従来の behavior cloning より優れた性能を達成したと主張する。 - action-free な video data が新規タスクへの汎化に重要な利点を与えることを示した点も特徴。

3. 技術・手法の肝は?

- 核となるのは「Video Policy」と呼ぶ modular なフレームワークで、video generation と action generation を組み合わせる。 - end-to-end に学習可能であり、ロボット行動の video を生成することを学習することで policy を抽出する。 - 生成された video とタスク成功が密接に結びつくことを示し、video 生成が policy の代理として機能することを利用する。 - action-free な video data を活用できる点が、data efficiency と汎化に寄与する設計。

4. どうやって有効だと検証した?

- simulation と real world の両方で評価を実施。 - 未見の物体・背景・タスクへの汎化性能を検証している。 - 従来の behavior cloning との比較により、優れた性能を示したと報告。 - 少ない demonstration data でも policy を抽出でき、robustness と sample efficiency が改善することを示す。 - タスク成功が生成 video と密接に関係すること、action-free video data が新規タスク汎化に寄与することも検証。

5. 議論はある?

- 本論文は video generation を policy learning の代理として用いる有効性を主張し、大規模 video generative model の活用がより scalable で data-efficient な robot policy learning への道を開くと述べる。 - 一方、具体的な限界・失敗事例・計算コスト・real world での詳細な議論は要旨からは不明。 - 生成 video とタスク成功の結びつきが示されているが、その因果や一般性についての詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として挙げられている traditional behavior cloning の代表的文献。 - 大規模 video generative model に関する研究(本手法が活用する基盤)。 - action-free video data を用いた robot learning や video pretraining に関する関連研究。 - visuomotor policy の汎化・distribution shift に関する研究。 - 要旨で具体的な論文名は参照されていないため、上記は同分野の一般名・関連手法として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Junbang Liang, Pavel Tokmakov, Ruoshi Liu, Sruthi Sudhakar, Paarth Shah, Rares Ambrus, Carl Vondrick

分類: cs.RO

原文アブストラクト

Despite tremendous progress in dexterous manipulation, current visuomotor policies remain fundamentally limited by two challenges: they struggle to generalize under perceptual or behavioral distribution shifts, and their performance is constrained by the size of human demonstration data. In this paper, we use video generation as a proxy for robot policy learning to address both limitations simultaneously. We propose Video Policy, a modular framework that combines video and action generation that can be trained end-to-end. Our results demonstrate that learning to generate videos of robot behavior allows for the extraction of policies with minimal demonstration data, significantly improving robustness and sample efficiency. Our method shows strong generalization to unseen objects, backgrounds, and tasks, both in simulation and the real world. We further highlight that task success is closely tied to the generated video, with action-free video data providing critical benefits for generalizing to novel tasks. By leveraging large-scale video generative models, we achieve superior performance compared to traditional behavior cloning, paving the way for more scalable and data-efficient robot policy learning.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI