日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/自動運転/安全性arXiv:2605.17268

VLA推論は忠実か?自動運転モデルにおける因果連鎖の安全性の検証

Is VLA Reasoning Faithful? Probing Safety of Chain-of-Causation in Autonomous Driving Models

シェア:XThreadsFacebookLINEはてブBluesky

自動運転のVLAモデルが出力する推論の忠実性を初めて体系的に調査し、推論が実際のシーンと一致しない割合が高いことや、歩行者見落とし、軌道の脆弱性などを明らかにした。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) 運転モデルの推論忠実性を初めて体系的に研究 - Alpamayo-R1-10B の 300 推論を 100 の PhysicalAI-AV シナリオで分析 - 自然言語の根拠 (Chain-of-Causation) と軌道が不忠実な可能性を指摘 - 安全性への含意を検討

2. 先行研究と比べてどこがすごい?

- VLA 運転モデルの忠実性を初めて体系的に研究 - 従来は性能評価が中心で、根拠と行動の一致を定量化した点が新しい - 情報理論的に忠実性を定式化し、entity/action fidelity の検証基準を定義 - 具体的な失敗率を多数提示

3. 技術・手法の肝は?

- 忠実性を情報理論的に定式化 - entity fidelity と action fidelity を定義し検証基準を設定 - 100 の PhysicalAI-AV シナリオで 300 の Alpamayo-R1-10B 推論を分析 - 推論と軌道の一致、視覚摂動への頑健性を評価 - 結果に沿う 4 コンポーネントの安全アーキテクチャを概説

4. どうやって有効だと検証した?

- 100 の PhysicalAI-AV シナリオで 300 推論を分析 - 推論忠実性 42.5%、歩行者見逃し 94 件、軌道脆弱性 97.7%、推論-行動一貫性 48.3% を報告 - 停止主張の 37.9% で継続するなど低一貫性を確認 - 視覚摂動下での軌道脆弱性を評価

5. 議論はある?

- 自然言語根拠が軌道と不忠実で安全リスクがあると議論 - 歩行者見逃しや停止主張の矛盾など具体的失敗を指摘 - 4 コンポーネントの安全アーキテクチャを提案 - 限界や反論は要旨からは不明

6. 次に読むべき論文は?

- Alpamayo-R1-10B - PhysicalAI-AV - Chain-of-Causation - Vision-Language-Action (VLA) 運転モデル - 関連する忠実性研究や安全アーキテクチャ

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Nicanor Mayumu, Xiaoheng Deng, Patrick Mukala

分類: cs.AI, cs.CV, cs.RO

原文アブストラクト

We present the first systematic study of faithfulness in Vision-Language-Action (VLA) driving models, analyzing 300 Alpamayo-R1-10B inferences across 100 diverse PhysicalAI-AV scenarios. Our main finding is that output natural-language rationales with trajectories may be significantly unfaithful: (i) overall reasoning fidelity is only 42.5%, with Chain-of-Causation matching scene reality less than half the time; (ii) 94 missed pedestrians in one-third of pedestrian-relevant scenes; (iii) 97.7% trajectory fragility under mild visual perturbations; and (iv) only 48.3% mean reasoning-action consistency, with 53.3% of inferences exhibiting low consistency, including 37.9% of stop-claimed cases where the model continues instead. We formalize faithfulness information-theoretically, define entity and action fidelity with verification criteria, and outline a four-component safety architecture aligned with these results.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI