日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLA/ロバスト性arXiv:2605.29114

ReasonBreak: 自動運転向け推論対応VLAモデルの脆弱性探査

ReasonBreak: Probing Vulnerabilities in Reasoning-Enabled Vision-Language-Action Models for Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

自動運転用の推論機能付き視覚言語行動(VLA)モデルが、現実的な入力摂動に対して脆弱であることを示し、最大89%の推論攻撃成功率と72%の軌道操作成功率を報告した。

詳しい要約

1. どんなもの?

- 推論機能を統合した Vision-Language-Action (VLA) モデルを対象に、現実的な入力摂動に対する脆弱性を調査した研究。 - NVIDIA の Alpamayo モデルを代表例として、black-box 設定で体系的に評価。 - 推論と軌道生成の結合を前提とする end-to-end 自動運転における安全性問題を明らかにする。

2. 先行研究と比べてどこがすごい?

- 推論可能な VLA モデルの現実的入力摂動下での robustness はこれまでほとんど未解明だった。 - 本研究は、そのようなモデルに対する初の系統的 black-box 研究を実施。 - 推論の意味的・構造的側面と安全性指標を捉える reasoning-aware 評価フレームワークを新たに導入。

3. 技術・手法の肝は?

- 現実的なテキスト入力 corruption を加え、推論と運転行動への影響を評価。 - 推論の semantic および structural 側面を捉える reasoning-aware 評価フレームワークを提案。 - 安全性中心の指標と、推論-軌道相互作用への攻撃・防御を評価する benchmark を導入。

4. どうやって有効だと検証した?

- closed-loop simulation で評価を実施。 - 推論に対する攻撃成功率 (ASR) が最大 89%、軌道操作が最大 72% に達することを確認。 - 衝突率の増加や安全指標の劣化を観測し、脆弱性を実証。

5. 議論はある?

- 推論可能な VLA システムの安全性確保には、厳密な評価と防御の改善が必要であると主張。 - 具体的な防御手法や限界については要旨からは不明。

6. 次に読むべき論文は?

- NVIDIA の Alpamayo モデル(本研究で使用)。 - 関連手法として、Vision-Language-Action (VLA) モデル、end-to-end 自動運転、black-box 攻撃、closed-loop simulation に関する研究。 - 要旨で参照/比較されている個別論文は明示されていないため、同分野の定番として VLA や自動運転の robustness 研究を挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mohammadreza Teymoorianfard, Jean-Philippe Monteuuis, Jonathan Petit, Amir Houmansadr

分類: cs.CR, cs.LG, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models with integrated reasoning have been proposed for end-to-end autonomous driving, assuming a tight coupling between reasoning and trajectory generation. However, the robustness of such systems under realistic input perturbations remains largely unexplored. We show that these models are highly vulnerable to realistic input perturbations, achieving up to 89% attack success rate (ASR) on reasoning and up to 72% on trajectory manipulation in closed-loop simulation, leading to increased collision rates and degraded safety metrics. Using NVIDIA's recent Alpamayo models as representative industry-developed VLAs, we conduct the first systematic black-box study of reasoning-enabled VLA models under realistic textual input corruptions, evaluating their impact on reasoning and driving behavior. We introduce a reasoning-aware evaluation framework capturing both semantic and structural aspects of reasoning, along with safety-centric measures. We also introduce a benchmark for evaluating attacks and defenses on reasoning-trajectory interactions in autonomous driving. Our results highlight the need for rigorous evaluation and improved defenses to ensure the safety of reasoning-enabled VLA systems in autonomous driving.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI