日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLAarXiv:2604.02190

UniDriveVLA:自動運転のための理解・知覚・行動計画の統合

UniDriveVLA: Unifying Understanding, Perception, and Action Planning for Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

自動運転向けのVLAモデルにおいて、空間知覚と意味推論の競合を解消するため、Mixture-of-Transformersによる専門家分離を導入した統合モデルUniDriveVLAを提案し、nuScenesとBench2Driveで最先端性能を達成した。

詳しい要約

1. どんなもの?

- 自動運転向けのVision-Language-Action (VLA) モデル - 理解・知覚・行動計画を統合するUniDriveVLAを提案 - Mixture-of-Transformersに基づき、専門家を分離して知覚と推論の衝突を解決 - 3つの専門家: 運転理解、シーン知覚、行動計画 - マスク付きjoint attentionで連携 - スパース知覚パラダイムと3段階の漸進的学習戦略を組み合わせ - オープンループ評価(nuScenes)とクローズドループ評価(Bench2Drive)で最先端性能 - 3D detection, online mapping, motion forecasting, driving-oriented VQAなど幅広いタスクで高性能

2. 先行研究と比べてどこがすごい?

- 既存のVLAモデルは空間知覚と意味推論のジレンマに直面 - 2D VLMを直接使うと空間知覚が限定的 - 3D空間表現を追加するとVLMの推論能力が損なわれる - このジレンマは空間知覚と意味推論の結合最適化に起因 - UniDriveVLAは専門家分離によりこの問題を克服 - 従来の妥協を回避し、両方を向上 - オープンループとクローズドループの両方で最先端性能を達成 - 幅広いタスクで高い適用性を示す

3. 技術・手法の肝は?

- Mixture-of-Transformersアーキテクチャを採用 - 3つの専門家: 運転理解、シーン知覚、行動計画 - マスク付きjoint attentionで専門家間を調整 - スパース知覚パラダイムを組み合わせ - 3段階の漸進的学習戦略を導入 - 空間知覚を改善しつつ意味推論能力を維持 - コードとモデルは公開済み

4. どうやって有効だと検証した?

- オープンループ評価: nuScenesデータセットで最先端性能 - クローズドループ評価: Bench2Driveで最先端性能 - 幅広いタスクで検証: 3D detection, online mapping, motion forecasting, driving-oriented VQA - これらのタスクで強い性能を発揮

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 2D Vision-Language Models, 3D spatial representations, Mixture-of-Transformers - 関連手法: VLA models in autonomous driving - データセット: nuScenes, Bench2Drive - 具体的な論文名は要旨に記載なし

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yongkang Li, Lijun Zhou, Sixu Yan, Bencheng Liao, Tianyi Yan, Kaixin Xiong, Long Chen, Hongwei Xie, Bing Wang, Guang Chen, Hangjun Ye, Wenyu Liu, Haiyang Sun, Xinggang Wang

分類: cs.CV, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have recently emerged in autonomous driving, with the promise of leveraging rich world knowledge to improve the cognitive capabilities of driving systems. However, adapting such models for driving tasks currently faces a critical dilemma between spatial perception and semantic reasoning. Consequently, existing VLA systems are forced into suboptimal compromises: directly adopting 2D Vision-Language Models yields limited spatial perception, whereas enhancing them with 3D spatial representations often impairs the native reasoning capacity of VLMs. We argue that this dilemma largely stems from the coupled optimization of spatial perception and semantic reasoning within shared model parameters. To overcome this, we propose UniDriveVLA, a Unified Driving Vision-Language-Action model based on Mixture-of-Transformers that addresses the perception-reasoning conflict via expert decoupling. Specifically, it comprises three experts for driving understanding, scene perception, and action planning, which are coordinated through masked joint attention. In addition, we combine a sparse perception paradigm with a three-stage progressive training strategy to improve spatial perception while maintaining semantic reasoning capability. Extensive experiments show that UniDriveVLA achieves state-of-the-art performance in open-loop evaluation on nuScenes and closed-loop evaluation on Bench2Drive. Moreover, it demonstrates strong performance across a broad range of perception, prediction, and understanding tasks, including 3D detection, online mapping, motion forecasting, and driving-oriented VQA, highlighting its broad applicability as a unified model for autonomous driving. Code and model have been released at https://github.com/xiaomi-research/unidrivevla

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI