日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2511.07732

ViPRA: 動画予測によるロボット行動生成

ViPRA: Video Prediction for Robot Actions

シェア:XThreadsFacebookLINEはてブBluesky

ラベルなし動画から将来の視覚観測と潜在行動を予測するモデルを事前学習し、少数の実演で連続ロボット制御を微調整するフレームワークを提案。

詳しい要約

1. どんなもの?

- 動画予測モデルをロボット政策に変換する枠組み「ViPRA (Video Prediction for Robot Actions)」の提案。 - 人間や遠隔操作ロボットの動画(action labelなし)から連続ロボット制御を学習するpretraining-finetuning構成。 - 未来の視覚観測とmotion-centric latent actionsの両方を予測するvideo-language modelを学習。 - 下流制御ではchunked flow matching decoderでlatent actionsをロボット固有の連続行動列へ変換。 - 100〜200のteleoperated demonstrationsのみで適応可能。

2. 先行研究と比べてどこがすごい?

- 従来のlatent action研究はpretrainingをautoregressive policy learningとして扱うのに対し、ViPRAは「何が変わるか」と「どう変わるか」を明示的にモデル化。 - 高価なaction annotationを回避しつつ、embodiment間の汎化を支援。 - chunked action decodingにより最大22 Hzの滑らかな高頻度連続制御を実現。 - SIMPLER benchmarkで16%向上、実世界manipulationタスクで13%改善と、強いbaselineを上回る性能を報告。

3. 技術・手法の肝は?

- actionless動画からvideo-language modelを訓練し、future visual observationsとmotion-centric latent actionsを予測。 - latent actionsはperceptual lossesとoptical flow consistencyで訓練し、物理的に根拠のある挙動を反映させる。 - 下流制御用にchunked flow matching decoderを導入し、latent actionsをロボット固有の連続行動列へマッピング。 - 少数のteleoperated demonstrations(100〜200)でfinetuning。 - chunked action decodingで高頻度(最大22 Hz)の連続制御を可能にする。

4. どうやって有効だと検証した?

- SIMPLER benchmarkで評価し、強いbaselineに対して16%の性能向上を報告。 - 実世界のmanipulationタスク群でも評価し、13%の改善を報告。 - 100〜200のteleoperated demonstrationsでの下流適応を検証。 - 詳細な実験設定・被験者数・統計手法は要旨からは不明。

5. 議論はある?

- action annotation不要でembodiment間汎化を支援する点を主張。 - latent actionsの物理的根拠をperceptual lossesとoptical flow consistencyで担保する設計。 - 22 Hzの高頻度制御をchunked decodingで実現する点を利点として提示。 - 限界・失敗事例・計算コスト・スケーラビリティに関する議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている個別論文は明示されていない。 - 関連手法としてlatent action pretraining(autoregressive policy learning型)の代表的研究、video-language model、flow matching、optical flow consistencyを用いた表現学習、SIMPLER benchmark関連研究を次に読む候補として挙げる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sandeep Routray, Hengkai Pan, Unnat Jain, Shikhar Bahl, Deepak Pathak

分類: cs.RO, cs.AI, cs.CL, cs.CV, cs.LG

原文アブストラクト

Can we turn a video prediction model into a robot policy? Videos, including those of humans or teleoperated robots, capture rich physical interactions. However, most of them lack labeled actions, which limits their use in robot learning. We present Video Prediction for Robot Actions (ViPRA), a simple pretraining-finetuning framework that learns continuous robot control from these actionless videos. Instead of directly predicting actions, we train a video-language model to predict both future visual observations and motion-centric latent actions, which serve as intermediate representations of scene dynamics. We train these latent actions using perceptual losses and optical flow consistency to ensure they reflect physically grounded behavior. For downstream control, we introduce a chunked flow matching decoder that maps latent actions to robot-specific continuous action sequences, using only 100 to 200 teleoperated demonstrations. This approach avoids expensive action annotation, supports generalization across embodiments, and enables smooth, high-frequency continuous control upto 22 Hz via chunked action decoding. Unlike prior latent action works that treat pretraining as autoregressive policy learning, ViPRA explicitly models both what changes and how. Our method outperforms strong baselines, with a 16% gain on the SIMPLER benchmark and a 13% improvement across real world manipulation tasks. We have released models and code at https://vipra-project.github.io

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI