日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLAarXiv:2603.18315

DriveVLM-RL: 視覚言語モデルと神経科学に着想を得た強化学習による安全で実用的な自動運転

DriveVLM-RL: Neuroscience-Inspired Reinforcement Learning with Vision-Language Models for Safe and Deployable Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

脳の習慣的・熟慮的視覚処理に倣い、静的・動的の二経路でVLMから意味的報酬を学習する強化学習フレームワークを提案。VLMは訓練時のみ使用し展開時には除去することで推論遅延をなくし、CARLAで安全性と実用性を向上させた。

詳しい要約

1. どんなもの?

- 自動運転向けの強化学習フレームワーク「DriveVLM-RL」を提案。 - 神経科学に着想を得た二重経路アーキテクチャでVLMをRLに統合。 - 安全で実展開可能な自動運転を目指す。 - 静的経路と動的経路で意味的報酬学習を分解。 - 階層的報酬合成と非同期学習パイプラインを採用。 - VLMはオフライン学習時のみ使用し、展開時には完全に除去。

2. 先行研究と比べてどこがすごい?

- 従来RLは手設計報酬や疎な衝突信号に依存し、文脈理解が不十分で不安全な探索が避けられない。 - 既存VLMは推論遅延と幻覚によりリアルタイム車両制御に直接適用困難。 - DriveVLM-RLはVLMをオフライン学習のみに用い、展開時に除去することで遅延を排除。 - CARLAで最先端ベースラインを衝突回避とタスク成功率で大幅に上回る。 - 最強のVLMベースラインと比較し衝突重大度を10.09から1.75 km/hに低減。

3. 技術・手法の肝は?

- 二重経路アーキテクチャ:Static PathwayとDynamic Pathway。 - Static Pathway:CLIPベースの対照的言語目標による連続的空间安全評価。 - Dynamic Pathway:軽量検出モデルと大規模VLM(LVLM)による注意ゲート付き多フレーム意味的リスク推論。 - 階層的報酬合成機構がこれらの信号と車両状態情報を融合。 - 非同期学習パイプラインが高コストなLVLM推論と環境相互作用を分離。 - 全VLMコンポーネントはオフライン学習時のみ動作し、展開時に完全除去。

4. どうやって有効だと検証した?

- CARLAシミュレータで広範な実験を実施。 - 衝突回避とタスク成功において最先端ベースラインを大幅に上回る。 - 最高の成功率を達成。 - 最強のVLMベースラインと比較して衝突重大度を10.09から1.75 km/hに低減。 - デモ動画、コード、モデルチェックポイントを公開。

5. 議論はある?

- 要旨からは不明。 - 限界や失敗事例、計算コスト、一般化性に関する議論は要旨に記載なし。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:VLMベースのベースライン、CLIP、LVLM、従来RL手法。 - 同分野の定番:CARLAシミュレータを用いた自動運転RL研究、Vision-Language Modelを活用した自動運転研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zilin Huang, Zihao Sheng, Zhengyang Wan, Yansong Qu, Junwei You, Sicong Jiang, Sikai Chen

分類: cs.RO, cs.AI, cs.CV

原文アブストラクト

Traditional reinforcement learning (RL) methods rely on manually engineered rewards or sparse collision signals, which fail to capture the rich contextual understanding required for safe driving and make unsafe exploration unavoidable in real-world settings. Recent vision-language models (VLMs) offer promising semantic understanding capabilities; however, their high inference latency and susceptibility to hallucination hinder direct application to real-time vehicle control. To address these limitations, this paper proposes DriveVLM-RL, a neuroscience-inspired framework that integrates VLMs into RL through a dual-pathway architecture for safe and deployable autonomous driving. Inspired by the human brain's habitual and deliberative visual processing, DriveVLM-RL decomposes semantic reward learning into a Static Pathway for continuous spatial safety assessment via CLIP-based contrasting language goals, and a Dynamic Pathway for attention-gated multi-frame semantic risk reasoning via a lightweight detection model and large VLM (LVLM). A hierarchical reward synthesis mechanism fuses these signals with vehicle state information, while an asynchronous training pipeline decouples expensive LVLM inference from environment interaction. Critically, all VLM components operate exclusively during offline training and are completely removed at deployment, eliminating inference latency at test time. Extensive experiments in the CARLA simulator demonstrate that DriveVLM-RL significantly outperforms state-of-the-art baselines in collision avoidance and task success, attaining the highest success rate while reducing collision severity from 10.09 to 1.75 km/h relative to the strongest VLM-based baseline. The demo video, code, and model checkpoints are available at: https://zilin-huang.github.io/DriveVLM-RL-website/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI