日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

敵対的攻撃arXiv:2602.18079

動的な欺瞞:歩行者が協力して自動運転車を騙す

Dynamic Deception: When Pedestrians Team Up to Fool Autonomous Cars

シェア:XThreadsFacebookLINEはてブBluesky

複数の歩行者が協調して動きながら敵対的パッチを提示することで、自動運転システムを停止させるシステムレベルの攻撃をCARLAシミュレータで実証した。

詳しい要約

1. どんなもの?

- 自動運転の知覚モデルに対する敵対的攻撃を、システムレベルで失敗させる手法を提案。 - 複数の動的要素(例:2人の歩行者)が敵対的パッチを衣服に付け、協調と動きで効果を増幅。 - CARLAシミュレータで最先端の自動運転エージェントを評価。 - 単一歩行者攻撃は全10回失敗、2人による動的共謀は最大50%で完全停止を誘発。 - 静的共謀では攻撃成功ゼロ。

2. 先行研究と比べてどこがすごい?

- 従来の敵対的攻撃はモデルレベルでは成功しても、実システムに展開すると空間的・時間的に短命で車両挙動に影響しにくい。 - 本手法は複数の動的要素を協調させ、敵対的信号を時間的に持続・増幅させる点が新しい。 - 単一歩行者攻撃や静的共謀と比較して、システムレベルでの失敗(車両停止)を初めて実現。 - モデルレベルのロバスト性とエンドツーエンド安全性のギャップを明示。

3. 技術・手法の肝は?

- 複数の歩行者が敵対的パッチを衣服に装着し、協調して動くことで攻撃を増幅。 - 動的共謀(dynamic collusion)により、車両の動きに対しても攻撃が持続するよう設計。 - CARLAシミュレータ内で最先端の自動運転エージェントを対象に評価。 - 攻撃の成功を車両の完全停止というシステムレベル指標で判定。

4. どうやって有効だと検証した?

- CARLAシミュレータで最先端の自動運転エージェントを用いて評価。 - 単一歩行者攻撃:10回中0回成功。 - 2人による動的共謀:最大50%の実行で車両完全停止を誘発。 - 静的共謀:成功なし。 - これらの結果から、敵対的信号の持続と協調的増幅がシステムレベル失敗に必要と検証。

5. 議論はある?

- モデルレベルのロバスト性とエンドツーエンドの安全性の間にギャップがあることを指摘。 - 攻撃がシステムレベルで成功するには、敵対的信号が時間的に持続し、協調した行為者によって増幅される必要がある。 - 静的共謀では成功しないことから、動きと協調が重要と議論。 - 要旨からは、防御策や倫理的影響についての議論は不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:単一歩行者攻撃、静的共謀、モデルレベルの敵対的攻撃。 - 関連手法:CARLAシミュレータ、最先端の自動運転エージェント。 - 同分野の定番:敵対的パッチ、自動運転知覚モデルへの攻撃、システムレベル評価。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Masoud Jamshidiyan Tehrani, Marco Gabriel, Jinhan Kim, Paolo Tonella

分類: cs.CR, cs.RO

原文アブストラクト

Many adversarial attacks on autonomous-driving perception models fail to cause system-level failures once deployed in a full driving stack. The main reason for such ineffectiveness is that once deployed in a system (e.g., within a simulator), attacks tend to be spatially or temporally short-lived, due to the vehicle's dynamics, hence rarely influencing the vehicle behaviour. In this paper, we address both limitations by introducing a system-level attack in which multiple dynamic elements (e.g., two pedestrians) carry adversarial patches (e.g., on cloths) and jointly amplify their effect through coordination and motion. We evaluate our attacks in the CARLA simulator using a state-of-the-art autonomous driving agent. At the system level, single-pedestrian attacks fail in all runs (out of 10), while dynamic collusion by two pedestrians induces full vehicle stops in up to 50\% of runs, with static collusion yielding no successful attack at all. These results show that system-level failures arise only when adversarial signals persist over time and are amplified through coordinated actors, exposing a gap between model-level robustness and end-to-end safety.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI