日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/評価ベンチマークarXiv:2606.02924

ATLAS:敵対的LiDAR知覚のための大規模評価ベンチマーク

ATLAS: A Large-Scale Evaluation Benchmark for Adversarial LiDAR Perception

シェア:XThreadsFacebookLINEはてブBluesky

LiDAR知覚モデルに対する物理的攻撃(点群注入・除去)を模擬した初の大規模評価ベンチマークATLASを提案し、既存モデルの頑健性の非対称性を明らかにした。

詳しい要約

1. どんなもの?

- LiDAR知覚モデルのblack-box sensor attackに対する頑健性を評価する大規模ベンチマークATLASを提案。 - 実走行シーケンス上でpoint injectionとpoint removalの2攻撃モードを物理的に模擬。 - 現代のSOTA LiDAR知覚モデルを幅広く評価。

2. 先行研究と比べてどこがすごい?

- 既存LiDARベンチマークはclean data中心で、black-box sensor anomalyの可視性が低い。 - 従来のadversarial LiDAR研究は攻撃ハードウェア、幾何・アルゴリズム防御、初期世代検出器に偏る。 - ATLASは現代の知覚システムのrobustnessを未探索領域として初めて大規模評価。

3. 技術・手法の肝は?

- 物理的に根拠のあるblack-box sensor attackを実走行シーケンスで模擬。 - point injectionとpoint removalの2主要攻撃モードを生成。 - 生成コードを公開し、拡張可能で再現可能な評価を支援。

4. どうやって有効だと検証した?

- 現行SOTA LiDAR知覚モデルを広範囲に評価。 - 標準ベンチマーク性能が高いモデルはremoval攻撃に強いが、injection攻撃には弱いというrobustness asymmetryを発見。 - この脆弱性を標準的なobject database sampling augmentationに起因すると特定。

5. 議論はある?

- 現在の学習プラクティスがarchitecture-agnosticなrobustness failureを引き起こす可能性を指摘。 - 両攻撃モードの緩和策の初期方向を検討。 - black-box sensor robustnessを今後のLiDAR知覚開発で明示的に考慮する必要性を議論。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法としてadversarial LiDAR attack、geometric/algorithmic defenses、object database sampling augmentation、初期世代detectorsが挙げられる。 - 同分野の定番としてLiDAR perception benchmarks (KITTI, nuScenes, Waymo Open Dataset) が次に読む候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mellon M. Zhang, Siddhant Panse, Zimo Fan, Akshal Dhal, Rishit Sarkar, Glen Chou

分類: cs.CV

原文アブストラクト

Autonomous driving perception is typically evaluated on clean benchmark data, yet real-world deployment requires robustness to rare, structured, and potentially adversarial sensor anomalies. This gap is especially critical for LiDAR, where external actors can physically manipulate the sensing process to induce black-box perception failures without accessing the model. Existing LiDAR benchmarks provide little visibility into this failure mode. Prior adversarial LiDAR studies have largely centered on attack hardware, geometric and algorithmic defenses, and early-generation detectors, leaving the robustness of modern perception systems unexplored. To address this evaluation gap, we introduce ATLAS (Adversarial Temporal LiDAR Attack Suite), the first large-scale, physically grounded evaluation benchmark for LiDAR perception models under black-box sensor attacks, simulating the two primary attack modes -- point injection and point removal -- across real driving sequences. Evaluating a broad cross-section of current state-of-the-art LiDAR perception models, ATLAS reveals a surprising robustness asymmetry: models with stronger performance on standard benchmarks tend to better withstand removal attacks, yet are actually more vulnerable to injection attacks than weaker models. We trace this vulnerability to standard object database sampling augmentations, revealing how current training practices can induce architecture-agnostic robustness failures, and study initial directions for mitigating both attack modes. We release the ATLAS generation code to support extensible, reproducible evaluations as attack capabilities evolve, helping make black-box sensor robustness an explicit consideration in future LiDAR perception development.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI