日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2607.04988

InternVLA-A1.5: 理解・潜在予測・行動の統合による構成的汎化

InternVLA-A1.5: Unifying Understanding, Latent Foresight, and Action for Compositional Generalization

シェア:XThreadsFacebookLINEはてブBluesky

ロボット操作のための統一モデルで、事前学習済みVLMの意味理解とビデオ生成モデルの動的予測を活用し、将来予測を潜在コードのクエリ問題として再構成することで、実時間制御を維持しつつ構成的汎化を実現した。

詳しい要約

1. どんなもの?

InternVLA-A1.5は、ロボット操作のための統合モデルであり、事前学習済みVLMの意味的知識と、将来予測を通じて学習される物理ダイナミクスを一つのポリシーに統合することを目指す。ネイティブなVLMバックボーンを維持しつつ、連続的なアクション生成のための軽量な統一エキスパートを追加する。将来予測は、学習可能なforesight tokensを用いてタスク関連の将来をコンパクトな潜在コードに凝縮する問題として再構成され、凍結された事前学習済みビデオ生成モデルの監督を受ける。推論時にはビデオブランチを破棄し、リアルタイム制御を実現する。

2. 先行研究と比べてどこがすごい?

既存の統合モデルは、事前学習済みバックボーンの意味論を侵食し、異種目的間の干渉を受け、ピクセル空間での将来予測をゼロから学習するため、事前学習済みビデオ生成モデルのダイナミクス事前知識を活用できていない。InternVLA-A1.5は、VLMバックボーンを維持し、VQAとサブタスク予測を継続学習することで意味論を保持し、将来予測を潜在クエリ問題として再構成することで、ピクセルレベルの生成を学習せずに世界モデルの事前知識を継承する点が優れている。

3. 技術・手法の肝は?

手法の肝は、ネイティブVLMバックボーン上に構築し、VQAとサブタスク予測を継続学習すること、連続アクション生成のための軽量な統一エキスパートを追加すること、将来予測を潜在クエリ問題として再構成し、学習可能なforesight tokensがタスク関連の将来をコンパクトな潜在コードに凝縮し、凍結された事前学習済みビデオ生成モデルから監督を受けること。推論時にはビデオブランチを破棄し、リアルタイム制御を実現する。

4. どうやって有効だと検証した?

1.2Mのロボットエピソードと3Mのマルチモーダルサンプルで事前学習し、6つのシミュレーションベンチマークすべてで最高の総合結果を達成した。実世界では、保持された命令バインディングに対する最強の構成的一般化を示し、2つの設計が長期的な実行を支えることを検証した。

5. 議論はある?

要旨からは、潜在コードの解釈可能性や、ビデオ生成モデルの監督がどの程度ダイナミクスを捉えるか、また実世界での一般化の限界などについての議論は不明。また、シミュレーションと実世界のギャップや、計算コスト、スケーラビリティに関する議論も要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、事前学習済みVLMを利用したロボット操作モデル(例:RT-2, OpenVLA)や、将来予測を用いたモデル(例:UniPi, VideoGPT)が挙げられる。また、ビデオ生成モデルの事前知識を活用する手法(例:VideoLaVLA)も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haoxiang Ma, Junhao Cai, Xiaoxu Xu, Hao Li, Yuyin Yang, Yang Tian, Jiafei Cao, Hongrui Zhu, Zherui Qiu, Zhaxizhuoma, Yuqiang Yang, Jiaqi Peng, Xueyuan Wei, Yangkun Zhu, Jiahao Jiang, Xing Gao, Hanqing Wang, Feng Yuan, Kailin Li, Xueyue Zhu, Tai Wang, Yan Ding, Jiangmiao Pang, Jia Zeng, Jingjing Zhang, Bowen Zhou, Yao Mu, Chunhua Shen, Weinan Zhang

分類: cs.RO

原文アブストラクト

Unified models for robot manipulation aim to equip one policy with both the semantic priors of pretrained VLMs and the physical dynamics learned through future prediction. In practice, existing designs tend to erode the semantics of the pretrained backbone, suffer interference among heterogeneous objectives, and learn future prediction from scratch in pixel space, leaving the dynamics priors of pretrained video generators unexploited. We present InternVLA-A1.5, which builds the policy on a native VLM backbone that keeps training on VQA and subtask prediction, and attaches a lightweight unified expert for continuous action generation. Future prediction is recast as a latent-querying problem, where a small set of learnable foresight tokens condenses the task-relevant future into a compact latent code under the supervision of a frozen pretrained video generation model, so the policy inherits world-model dynamics priors without ever learning pixel-level generation. The video branch is discarded at inference, keeping real-time control. Pretrained on 1.2M robot episodes and 3M multimodal samples, InternVLA-A1.5 achieves the best overall results on all six simulation benchmarks. In the real world, the preserved semantics deliver the strongest compositional generalization on held-out instruction bindings, and the two designs together sustain long-horizon execution.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI