日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転VLMarXiv:2506.18234

Drive-R1: 自動運転のためのVLMにおける推論と計画の橋渡し

Drive-R1: Bridging Reasoning and Planning in VLMs for Autonomous Driving with Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

自動運転向けVLMの課題である履歴依存のショートカットと推論と計画の不一致を解決するため、強化学習を用いて推論と計画を統合したDrive-R1を提案し、nuScenesで高性能を示した。

詳しい要約

1. どんなもの?

- 自動運転(AD)向けのVLMにおいて、シナリオ推論とmotion planningを橋渡しするモデル「Drive-R1」を提案する研究。 - 小規模なドメイン特化型VLMを出発点とする。 - 視覚入力から最終的な計画判断までをstep-by-stepで推論することを目指す。 - 長短両方のCOTデータを含むデータセットでのsupervised finetuningと、reinforcement learningを組み合わせる。

2. 先行研究と比べてどこがすごい?

- 既存VLMはhistory入力に強く依存したshortcut学習により、視覚入力を真に理解せず見かけ上強い計画結果を得る問題があると指摘。 - COT推論過程がmotion planningの結果としばしばmisalignedである問題も指摘。 - 複雑な推論能力を計画に活かす方法は未開拓とされる。 - Drive-R1は推論と計画の橋渡しを明示的に狙う点が特徴。 - nuScenesとDriveLM-nuScenesで既存state-of-the-art VLMを上回ると報告。

3. 技術・手法の肝は?

- 小規模ドメイン特化VLMを基盤とする。 - まず長短COTデータを含む精巧なデータセットでsupervised finetuningを実施。 - 視覚入力から最終計画判断までstep-by-step推論を促す。 - 続いてreinforcement learningフレームワークで訓練。 - 予測trajectoryとmeta actionsに基づくrewardで、計画により有益な推論経路の発見を促す。

4. どうやって有効だと検証した?

- nuScenesおよびDriveLM-nuScenesベンチマークで実験評価を実施。 - 既存のstate-of-the-art VLMと比較し、Drive-R1が優れた性能を示したと報告。 - 具体的な指標・数値・ablationの詳細は要旨からは不明。

5. 議論はある?

- history入力依存のshortcut学習と、COT推論と計画結果のmisalignmentという二つの課題を提起。 - reinforcement learningのreward設計(予測trajectoryとmeta actions)が推論経路の質に与える影響が論点。 - 小規模ドメイン特化VLMでの結果が汎用VLMへ一般化できるかは要旨からは不明。 - 限界や失敗事例の詳細は要旨からは不明。

6. 次に読むべき論文は?

- nuScenesベンチマーク(関連評価基盤)。 - DriveLM-nuScenesおよびDriveLM(関連データセット/ベンチマーク)。 - COT(chain-of-thought)推論を用いるVLM研究。 - reinforcement learningによるVLMの推論改善手法(RLHF等の一般手法)。 - 自動運転向けVLMのmotion planning研究全般。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yue Li, Meng Tian, Dechang Zhu, Jiangtong Zhu, Zhenyu Lin, Zhiwei Xiong, Xinhai Zhao

分類: cs.CV, cs.RO

原文アブストラクト

Large vision-language models (VLMs) for autonomous driving (AD) are evolving beyond perception and cognition tasks toward motion planning. However, we identify two critical challenges in this direction: (1) VLMs tend to learn shortcuts by relying heavily on history input information, achieving seemingly strong planning results without genuinely understanding the visual inputs; and (2) the chain-ofthought (COT) reasoning processes are always misaligned with the motion planning outcomes, and how to effectively leverage the complex reasoning capability to enhance planning remains largely underexplored. In this paper, we start from a small-scale domain-specific VLM and propose Drive-R1 designed to bridges the scenario reasoning and motion planning for AD. Drive-R1 first undergoes the supervised finetuning on a elaborate dataset containing both long and short COT data. Drive-R1 is encouraged to reason step-by-step from visual input to final planning decisions. Subsequently, Drive-R1 is trained within a reinforcement learning framework that incentivizes the discovery of reasoning paths that are more informative for planning, guided by rewards based on predicted trajectories and meta actions. Experimental evaluations on the nuScenes and DriveLM-nuScenes benchmarks demonstrate that Drive-R1 achieves superior performance compared to existing state-of-the-art VLMs. We believe that Drive-R1 presents a promising direction for bridging reasoning and planning in AD, offering methodological insights for future research and applications.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI