日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

敵対的攻撃arXiv:2512.24111

拡散モデル誘導による実世界単眼深度推定攻撃用の敵対的物体生成

Guided Diffusion-based Generation of Adversarial Objects for Real-World Monocular Depth Estimation Attacks

シェア:XThreadsFacebookLINEはてブBluesky

拡散モデルを用いてシーンに自然に溶け込む敵対的物体を生成し、単眼深度推定を誤らせる物理攻撃手法を提案した。

詳しい要約

1. どんなもの?

- Monocular Depth Estimation (MDE) を標的とした敵対的攻撃手法の提案 - 拡散モデル(diffusion model)の条件付き生成により、自然でシーン整合的な敵対的物体(adversarial objects)を生成 - 訓練不要(training-free)の生成的敵対的攻撃フレームワーク - 自律走行システムの安全性評価への応用を想定

2. 先行研究と比べてどこがすごい?

- 既存の物理攻撃は主に texture-based patches に依存 - 従来手法は配置制約が厳しく、リアリズムが限定的で複雑な走行環境での有効性が低下 - 提案手法は自然でシーン整合的な物体を生成し、effectiveness・stealthiness・physical deployability で既存攻撃を大幅に上回る - テクスチャパッチではなく物体そのものを生成する点が新しい

3. 技術・手法の肝は?

- diffusion-based conditional generation による敵対的物体生成 - Salient Region Selection モジュール: MDE に最も影響を与える領域を特定 - Jacobian Vector Product Guidance: 事前学習済み拡散モデルが支持する更新方向へ敵対的勾配を誘導 - この定式化により物理的に妥当(physically plausible)で大きな敵対的 depth shift を誘発する物体を生成 - 訓練不要で動作

4. どうやって有効だと検証した?

- Extensive digital and physical experiments を実施 - 既存攻撃と比較し effectiveness・stealthiness・physical deployability で有意に優れることを示す - 詳細な実験設定・データセット・評価指標は要旨からは不明

5. 議論はある?

- 自律走行の安全性評価への実用的意義を強調 - 複雑な走行環境での有効性を主張 - 限界・失敗ケース・倫理的考察の詳細は要旨からは不明

6. 次に読むべき論文は?

- texture-based patches を用いた既存の物理的敵対攻撃(関連比較対象) - Monocular Depth Estimation (MDE) の敵対的攻撃に関する先行研究 - diffusion model を用いた敵対的サンプル生成(拡散ベース生成の関連手法) - Jacobian Vector Product を用いた誘導手法の関連研究 - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yongtao Chen, Yanbo Wang, Wentao Zhao, Guole Shen, Tianchen Deng, Jingchuan Wang

分類: cs.CV, cs.RO

原文アブストラクト

Monocular Depth Estimation (MDE) serves as a core perception module in autonomous driving systems, but it remains highly susceptible to adversarial attacks. Errors in depth estimation may propagate through downstream decision making and influence overall traffic safety. Existing physical attacks primarily rely on texture-based patches, which impose strict placement constraints and exhibit limited realism, thereby reducing their effectiveness in complex driving environments. To overcome these limitations, this work introduces a training-free generative adversarial attack framework that generates naturalistic, scene-consistent adversarial objects via a diffusion-based conditional generation process. The framework incorporates a Salient Region Selection module that identifies regions most influential to MDE and a Jacobian Vector Product Guidance mechanism that steers adversarial gradients toward update directions supported by the pre-trained diffusion model. This formulation enables the generation of physically plausible adversarial objects capable of inducing substantial adversarial depth shifts. Extensive digital and physical experiments demonstrate that our method significantly outperforms existing attacks in effectiveness, stealthiness, and physical deployability, underscoring its strong practical implications for autonomous driving safety assessment.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI