日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/攻撃耐性arXiv:2605.14396

条件付き拡散によるオンラインマップ構築における意味的攻撃の体系的発見

Systematic Discovery of Semantic Attacks in Online Map Construction through Conditional Diffusion

シェア:XThreadsFacebookLINEはてブBluesky

自動運転のオンラインマップ構築を欺く、影や濡れた道路などの現実的な環境変化を利用した意味的攻撃を体系的に発見するフレームワークMIRAGEを提案した。

詳しい要約

1. どんなもの?

- 自動運転車の online HD map construction を対象に、意味論的攻撃を体系的に発見するフレームワーク MIRAGE を提案。 - 影や濡れた路面など、実世界で起こりうる環境変動として知覚される攻撃を生成し、lane boundaries, dividers, pedestrian crossings の予測を誤らせる。 - nuScenes で boundary removal と boundary injection の2攻撃を実証。

2. 先行研究と比べてどこがすごい?

- 既存の pixel perturbation attacks は標準的な adversarial defenses で無効化されうる。 - MIRAGE は defenses を回避し、意味論的摂動として正当な環境変動に見える攻撃を発見。 - boundary injection では pixel PGD と AdvPatch が完全に失敗する中、唯一成功。 - 攻撃は各種 adversarial defenses 下でも有効性を維持。

3. 技術・手法の肝は?

- diffusion models が学習した実世界データの latent manifold を活用。 - ground truth に隣接し、同じ road topology を持ちながら mapping predictions を誤らせる意味論的変異シーンを探索。 - これにより defenses を回避しつつ、知覚的に妥当な攻撃を生成する。

4. どうやって有効だと検証した?

- nuScenes で評価。 - boundary removal: detections の 57.7% を抑制し、planned trajectories の 96% を破壊。 - boundary injection: 架空の boundaries を注入することに成功。 - 2つの独立した VLM judges でリアリズムを定量化: MIRAGE は 80–84% でリアルと判定、clean nuScenes は 97–99%、AdvPatch は 0–9%。

5. 議論はある?

- 現行の adversarial defenses にはカテゴリ的なギャップがあると指摘。 - 正当な環境変動として現れる semantic-level perturbations は、pixel-level perturbations よりも緩和が著しく困難。 - この発見は defenses の限界を露呈する。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: pixel PGD, AdvPatch, adversarial defenses, diffusion models, VLM judges。 - 関連手法として online HD map construction, nuScenes を用いた研究が挙げられる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chenyi Wang, Ruoyu Song, Raymond Muller, Jean-Philippe Monteuuis, Jonathan Petit, Z. Berkay Celik, Ryan Gerdes, Ming F. Li

分類: cs.CV, cs.CR, cs.LG, cs.RO

原文アブストラクト

Autonomous vehicles depend on online HD map construction to perceive lane boundaries, dividers, and pedestrian crossings -- safety-critical road elements that directly govern motion planning. While existing pixel perturbation attacks can disrupt the mapping, they can be neutralized by standard adversarial defenses. We present MIRAGE, a framework for systematic discovery of semantic attacks that bypass adversarial defenses and degrade mapping predictions by finding plausible environmental variation (e.g. shadows, wet roads). MIRAGE exploits the latent manifold of real-world data learned by diffusion models, and searches for semantically mutated scenes neighboring the ground truth with the same road topology yet mislead the mapping predictions. We evaluate MIRAGE on nuScenes and demonstrate two attacks: (1) boundary removal, suppressing 57.7% of detections and corrupting 96% of planned trajectories; and (2) boundary injection, the only method that successfully injects fictitious boundaries, while pixel PGD and AdvPatch fail entirely. Both attacks remain potent under various adversarial defenses. We use two independent VLM judges to quantify realism, where MIRAGE passes as realistic 80--84% of the time (vs. 97--99% for clean nuScenes), while AdvPatch only 0--9%. Our findings expose a categorical gap in current adversarial defenses: semantic-level perturbations that manifest as legitimate environmental variation are substantially harder to mitigate than pixel-level perturbations.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI