日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2506.19850

統一視覚言語行動モデル

Unified Vision-Language-Action Model

シェア:XThreadsFacebookLINEはてブBluesky

視覚・言語・行動を離散トークン列として自己回帰的にモデル化し、大規模動画から因果ダイナミクスを学習する統合VLAモデルUniVLAを提案。

詳しい要約

1. どんなもの?

- UniVLA は vision・language・action を離散 token 列として自己回帰的に統合モデリングする unified な native multimodal VLA モデル。 - 従来 VLA が VLM の汎用理解能力に依存して action を生成するのに対し、視覚観測に埋め込まれた時間的・因果的構造を明示的に扱う点が特徴。 - 大規模 video データからのマルチモーダルタスク学習を可能にし、post-training で world modeling を組み込む。 - ロボット manipulation を主対象に、simulation benchmark と実機 ALOHA・autonomous driving へ適用。

2. 先行研究と比べてどこがすごい?

- 従来手法は VLM の汎用理解を action 生成に流用し、視覚観測の時間的・因果的構造を軽視していた。 - UniVLA は vision・language・action を同一の離散 token 列として自己回帰モデリングすることで、この構造をネイティブに扱う。 - post-training の world modeling により video から causal dynamics を獲得し、long-horizon な下流 policy learning への転移を促進。 - LIBERO で 95.5% 平均成功率を達成し、pi0-FAST の 85.5% を上回るなど複数 benchmark で SOTA。

3. 技術・手法の肝は?

- vision・language・action を discrete token sequence として統合し、autoregressive にモデリングする unified アーキテクチャ。 - この定式化により、大規模 video データを含む柔軟なマルチモーダルタスク学習を実現。 - post-training 段階で world modeling を組み込み、video から causal dynamics を学習。 - 獲得した因果的表現を下流の policy learning へ転移させ、特に long-horizon タスクに有効。

4. どうやって有効だと検証した?

- CALVIN、LIBERO、Simplenv-Bridge という広く使われる simulation benchmark で評価し、新たな SOTA を報告。 - LIBERO では平均成功率 95.5% を達成し、pi0-FAST の 85.5% を上回った。 - さらに実世界の ALOHA manipulation と autonomous driving への適用可能性を示した。 - 各 benchmark の詳細な実験設定や ablation は要旨からは不明。

5. 議論はある?

- 視覚観測の時間的・因果的構造を明示的にモデリングすることの有効性を、benchmark 結果と実機適用で示唆。 - world modeling が long-horizon タスクへの転移に寄与するという主張。 - ただし離散 token 化に伴う情報損失、world modeling の計算コスト、実機での汎化限界などの議論は要旨からは不明。 - 実世界 ALOHA・autonomous driving の定量的評価の詳細も要旨からは不明。

6. 次に読むべき論文は?

- pi0-FAST(LIBERO で比較対象となった先行 VLA)。 - CALVIN、LIBERO、Simplenv-Bridge の各 benchmark に関する代表的研究。 - VLM を基盤とする従来 VLA 研究(一般的な vision-language-action モデル)。 - world modeling を用いた video 事前学習・policy learning の関連研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuqi Wang, Xinghang Li, Wenxuan Wang, Junbo Zhang, Yingyan Li, Yuntao Chen, Xinlong Wang, Zhaoxiang Zhang

分類: cs.CV, cs.RO

原文アブストラクト

Vision-language-action models (VLAs) have garnered significant attention for their potential in advancing robotic manipulation. However, previous approaches predominantly rely on the general comprehension capabilities of vision-language models (VLMs) to generate action signals, often overlooking the rich temporal and causal structure embedded in visual observations. In this paper, we present UniVLA, a unified and native multimodal VLA model that autoregressively models vision, language, and action signals as discrete token sequences. This formulation enables flexible multimodal tasks learning, particularly from large-scale video data. By incorporating world modeling during post-training, UniVLA captures causal dynamics from videos, facilitating effective transfer to downstream policy learning--especially for long-horizon tasks. Our approach sets new state-of-the-art results across several widely used simulation benchmarks, including CALVIN, LIBERO, and Simplenv-Bridge, significantly surpassing previous methods. For example, UniVLA achieves 95.5% average success rate on LIBERO benchmark, surpassing pi0-FAST's 85.5%. We further demonstrate its broad applicability on real-world ALOHA manipulation and autonomous driving.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI