日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/安全評価arXiv:2510.07749

自動運転車へのハルシネーション注入:コンポーネント非依存の安全評価フレームワーク

Injecting Hallucinations in Autonomous Vehicles: A Component-Agnostic Safety Evaluation Framework

シェア:XThreadsFacebookLINEはてブBluesky

知覚障害を「ハルシネーション」として抽象化し、特定のセンサやアルゴリズムに依存しない6種類の障害注入フレームワークを提案。18,350回以上のシミュレーションで衝突リスクへの影響を統計的に評価した。

詳しい要約

1. どんなもの?

- 自動運転車(AV)のperception failuresを『hallucinations』(状況認識を歪め不安全な制御を誘発する誤知覚)として再定義する研究。 - 特定のsensorやalgorithmに依存しないcomponent-agnosticなhallucination injection frameworkを提案。 - open-source simulator上で6種類のhallucination typeを反復的に注入可能な構成。 - 無信号の横断道路をtraffic下で横断するシナリオで18,350回以上のsimulationを実施。

2. 先行研究と比べてどこがすごい?

- 既存のfault injection研究は単一のsensorやmachine perception (MP) moduleを対象とし、siloedで汎用性・統合性に乏しかった。 - 本研究はhallucinationという観測可能な効果のみを記述する抽象化により、sensor/algorithm非依存の解析を実現。 - MP pipeline上のfaultの現れ方に着目し、unified simulation環境へ統合しやすい枠組みを提供。 - 統計的に検証済みでinteroperableなtoolsetという点が先行研究との差異。

3. 技術・手法の肝は?

- perception failuresをhallucinationとして抽象化し、component-agnosticな注入を可能にする設計。 - open-source simulator上で6種類のplausibleなhallucination typeを反復的に注入するconfigurable framework。 - 無信号横断道路をtraffic下でAVが横断するシナリオに適用。 - 各hallucination typeがcollisionおよびnear missに与える影響を統計的に定量化。

4. どうやって有効だと検証した?

- 18,350回以上のsimulationを実行し、hallucinationを注入した際のAVの挙動を観測。 - 結果を統計的に分析し、framework自体の妥当性を検証。 - 各hallucination typeのcollision・near missへの影響を定量化。 - perceptual latencyやdriftがcollision riskを有意に増加させることを確認し、AV system safetyをstressできると結論。

5. 議論はある?

- 特定シナリオ(無信号横断道路)での結果であり、他シナリオへの一般化は要旨からは不明。 - hallucinationという抽象化によりsensor/algorithm非依存を実現する一方、その表現力や限界については要旨からは不明。 - 統計的に検証済みと主張するが、詳細な統計手法や効果量は要旨からは不明。 - fault toleranceやresilient AV design研究の基盤になり得ると述べる。

6. 次に読むべき論文は?

- 要旨で参照/比較されている既存のfault injection研究(single sensor/MP module対象のsiloed framework)。 - machine perception (MP) pipelineおよびMP architecturesに関する研究。 - fault tolerance、resilient AV designに関する研究。 - open-source simulatorを用いたAV safety validation研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Alexandre Moreira Nascimento, Gabriel Kenji Godoy Shimanuki, Lúcio Flavio Vismari, João Batista Camargo, Jorge Rady de Almeida, Paulo Sergio Cugnasca, Anna Carolina Muller Queiroz, Jeremy Noah Bailenson

分類: cs.RO

原文アブストラクト

Perception failures in autonomous vehicles (AV) remain a major safety concern because they are the basis for many accidents. To study how these failures affect safety, researchers typically inject artificial faults into hardware or software components and observe the outcomes. However, existing fault injection studies often target a single sensor or machine perception (MP) module, resulting in siloed frameworks that are difficult to generalize or integrate into unified simulation environments. This work addresses that limitation by reframing perception failures as hallucinations, false perceptions that distort an AV situational awareness and may trigger unsafe control actions. Since hallucinations describe only observable effects, this abstraction enables analysis independent of specific sensors or algorithms, focusing instead on how their faults manifest along the MP pipeline. Building on this concept, we propose a configurable, component-agnostic hallucination injection framework that induces six plausible hallucination types in an iterative open-source simulator. More than 18,350 simulations were executed in which hallucinations were injected while AVs crossed an unsignalized transverse street with traffic. The results statistically validate the framework and quantify the impact of each hallucination type on collisions and near misses. Certain hallucinations, such as perceptual latency and drift, significantly increase the risk of collision in the scenario tested, validating the proposed paradigm can stress the AV system safety. The framework offers a scalable, statistically validated, component agnostic, and fully interoperable toolset that simplifies and accelerates AV safety validations, even those with novel MP architectures and components. It can potentially reduce the time-to-market of AV and lay the foundation for future research on fault tolerance, and resilient AV design.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI