日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLMarXiv:2509.20843

MTRDrive: 記憶とツールの協調推論によるコーナーケースに頑健な自動運転

MTRDrive: Memory-Tool Synergistic Reasoning for Robust Autonomous Driving in Corner Cases

シェア:XThreadsFacebookLINEはてブBluesky

運転経験の記憶検索と動的ツールキットを組み合わせた閉ループ型フレームワークMTRDriveを提案し、OODシナリオでのゼロショット汎化と計画精度を向上させた。

詳しい要約

1. どんなもの?

- Vision-Language Models(VLMs)を用いた end-to-end autonomous driving 向けの新フレームワーク MTRDrive を提案 - 手続き的な運転経験(procedural driving experiences)と動的ツールキット(dynamic toolkit)を統合 - 閉ループ系で memory-based experience retrieval と dynamic toolkits を組み合わせ、memory-tool synergistic reasoning を実現 - 複雑な Roadwork 建設シナリオに基づく新 benchmark(Roadwork-VLM)も導入 - 3B-parameter モデルで NAVSIM や zero-shot 評価を実施

2. 先行研究と比べてどこがすごい?

- 既存 VLMs は hallucination や out-of-distribution(OOD)での汎化不足により実運用信頼性に大きな隔たりがある - MTRDrive は memory と tool の相乗推論で generalization と proactive decision-making を強化 - NAVSIM で chain-of-thought なしに PDMS 88.3 を達成 - high-level planning で driving metric score 79.8%、planning accuracy 82.6% と state-of-the-art を主張 - Roadwork-VLM の zero-shot 評価で driving metric score 80.2% を示す

3. 技術・手法の肝は?

- memory-based experience retrieval mechanism と dynamic toolkits を組み合わせた closed-loop system - procedural driving experiences を記憶として保持し検索に利用 - dynamic toolkit により環境との相互作用を強化 - memory-tool synergistic reasoning で reasoning と decision-making を改善 - 詳細なアーキテクチャや学習手順は要旨からは不明

4. どうやって有効だと検証した?

- 公開 NAVSIM benchmark で 3B-parameter MTRDrive を評価 - chain-of-thought なしで PDMS 88.3 を達成 - high-level planning で driving metric score 79.8%、planning accuracy 82.6% - 新規 Roadwork-VLM benchmark で zero-shot 評価を実施し driving metric score 80.2% - 実験設定や比較対象の詳細は要旨からは不明

5. 議論はある?

- VLMs の hallucination と OOD 脆弱性が実運用上の課題であると議論 - memory と tool の synergy が generalization と proactive decision-making に有効と主張 - Roadwork 建設シナリオを zero-shot generalization 評価の場として提示 - 限界や失敗事例、計算コスト、安全性の詳細な議論は要旨からは不明

6. 次に読むべき論文は?

- NAVSIM benchmark に関する研究 - end-to-end autonomous driving 向け VLMs の先行研究(具体名は要旨からは不明) - chain-of-thought を用いる driving reasoning 手法 - out-of-distribution(OOD)汎化や hallucination 対策の研究 - Roadwork 建設シナリオの benchmark 関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ziang Luo, Kangan Qian, Jiahua Wang, Yuechen Luo, Jinyu Miao, Zheng Fu, Yunlong Wang, Sicong Jiang, Zilin Huang, Yifei Hu, Yuhao Yang, Hao Ye, Mengmeng Yang, Xiaojian Dong, Kun Jiang, Diange Yang

分類: cs.RO

原文アブストラクト

Vision-Language Models(VLMs) have demonstrated significant potential for end-to-end autonomous driving, yet a substantial gap remains between their current capabilities and the reliability necessary for real-world deployment. A critical challenge is their fragility, characterized by hallucinations and poor generalization in out-of-distribution (OOD) scenarios. To bridge this gap, we introduce MTRDrive, a novel framework that integrates procedural driving experiences with a dynamic toolkit to enhance generalization and proactive decision-making. MTRDrive addresses these limitations through a closed-loop system that combines a memory-based experience retrieval mechanism with dynamic toolkits. This synergy enables the model to interact more effectively with its environment, improving both reasoning and decision-making capabilities with the help of our memory-tool synergistic reasoning. Additionally, we introduce a new benchmark based on complex Roadwork construction scenarios to rigorously evaluate zero-shot generalization. Extensive experiments demonstrate the superior effectiveness of our approach. On the public NAVSIM benchmark, our 3B-parameter MTRDrive model achieves an exceptional PDMS of 88.3 without chain-of-thought and sets a state-of-the-art performance bar on high-level planning, with a driving metric score of 79.8\% and a planning accuracy of 82.6\%. Rigorous zero-shot evaluation on the new Roadwork-VLM benchmark shows a strong ability to reason robustly in unseen scenarios, achieving a driving metric score of 80.2\%. These results highlight MTRDrive's potential to advance autonomous driving toward safer and more reliable systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI