日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転arXiv:2604.01765

DriveDreamer-Policy: 幾何学的基盤を持つ世界行動モデルによる生成と計画の統合

DriveDreamer-Policy: A Geometry-Grounded World-Action Model for Unified Generation and Planning

シェア:XThreadsFacebookLINEはてブBluesky

運転タスク向けに、深度生成・将来ビデオ生成・動作計画を単一アーキテクチャで統合した世界行動モデルを提案し、閉ループ計画と世界生成の両方で高性能を達成した。

詳しい要約

1. どんなもの?

- 統合型のdriving world-action model (WAM) - depth生成、future video生成、motion planningを単一のモジュラーアーキテクチャで実現 - 大規模言語モデル (LLM) が言語指示、多視点画像、actionを処理 - 3つの軽量generatorがdepth、future video、actionを生成 - 物理世界でのembodied system向けにgeometry groundingを重視 - Navsim v1/v2 benchmarkで評価

2. 先行研究と比べてどこがすごい?

- 既存のWAMは2D外観やlatent表現のモデリングに焦点 - 物理世界で動作するembodied systemに必須のgeometric groundingが限定的 - 提案手法はgeometry-aware world representationを学習 - 未来予測とplanningの両方を統合フレームワークで誘導 - より整合的なimagined futureと情報に基づくdriving actionを生成 - モジュラー性と制御可能なlatencyを維持 - Navsim v1で89.2 PDMS、v2で88.7 EPDMSを達成し、既存のworld-model-based手法を上回る

3. 技術・手法の肝は?

- 単一のモジュラーアーキテクチャ - LLMが言語指示、多視点画像、actionを処理 - 3つの軽量generatorがdepth、future video、actionを生成 - geometry-aware world representationを学習 - この表現がfuture predictionとplanningの両方を誘導 - 明示的なdepth learningがvideo imaginationに補完的利点 - planning robustnessを改善

4. どうやって有効だと検証した?

- Navsim v1およびv2 benchmarkで実験 - closed-loop planningとworld generationタスクで強い性能 - Navsim v1で89.2 PDMS、v2で88.7 EPDMS - 既存のworld-model-based手法を上回る - より高品質なfuture videoとdepth予測を生成 - Ablation studiesを実施 - 明示的なdepth learningがvideo imaginationに補完的利点 - planning robustnessを改善することを示す

5. 議論はある?

- 既存WAMの限界としてgeometric groundingの不足を指摘 - 提案手法の有効性をNavsim benchmarkで実証 - Ablation studiesでdepth learningの補完的利点とplanning robustness改善を確認 - モジュラー性と制御可能なlatencyの維持を主張 - 具体的な議論や限界については要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: - vision-language-action (VLA) models - world models - 既存のworld-action models (WAM) - Navsim v1, Navsim v2 benchmarks - 関連手法: - DriveDreamer-Policy (提案手法) - その他のworld-model-based approaches - 同分野の定番: - 明示的な記載はないが、embodied AIやautonomous drivingのworld model研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yang Zhou, Xiaofeng Wang, Hao Shao, Letian Wang, Guosheng Zhao, Jiangnan Shao, Jiagang Zhu, Tingdong Yu, Zheng Zhu, Guan Huang, Steven L. Waslander

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Recently, world-action models (WAM) have emerged to bridge vision-language-action (VLA) models and world models, unifying their reasoning and instruction-following capabilities and spatio-temporal world modeling. However, existing WAM approaches often focus on modeling 2D appearance or latent representations, with limited geometric grounding-an essential element for embodied systems operating in the physical world. We present DriveDreamer-Policy, a unified driving world-action model that integrates depth generation, future video generation, and motion planning within a single modular architecture. The model employs a large language model to process language instructions, multi-view images, and actions, followed by three lightweight generators that produce depth, future video, and actions. By learning a geometry-aware world representation and using it to guide both future prediction and planning within a unified framework, the proposed model produces more coherent imagined futures and more informed driving actions, while maintaining modularity and controllable latency. Experiments on the Navsim v1 and v2 benchmarks demonstrate that DriveDreamer-Policy achieves strong performance on both closed-loop planning and world generation tasks. In particular, our model reaches 89.2 PDMS on Navsim v1 and 88.7 EPDMS on Navsim v2, outperforming existing world-model-based approaches while producing higher-quality future video and depth predictions. Ablation studies further show that explicit depth learning provides complementary benefits to video imagination and improves planning robustness.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI