予測器のハッキングは車のハッキング:感度分析による自動運転セキュリティのための軌道予測脆弱性の特定
Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
軌道予測モデルTrajectron++とAgentFormerの感度分析を行い、最新の位置・速度状態への摂動が支配的である一方、画像マップへのFGSM摂動が予測誤差を大きく増大させ、下流の計画・制御に急停車を引き起こすことを示した。
著者: Marsalis Gibson, David Babazadeh, Claire Tomlin, Shankar Sastry
分類: cs.CR, cs.LG, cs.RO, cs.SY, eess.SY
原文アブストラクト
Adversarial attacks on learning-based multi-modal trajectory predictors have already been demonstrated. However, there are still open questions about the effects of perturbations on inputs other than state histories, and how these attacks impact downstream planning and control. In this paper, we conduct a sensitivity analysis on two trajectory prediction models, Trajectron++ and AgentFormer. The analysis reveals that between all inputs, almost all of the perturbation sensitivities for both models lie only within the most recent position and velocity states. We additionally demonstrate that, despite dominant sensitivity on state history perturbations, an undetectable image map perturbation made with the Fast Gradient Sign Method can induce large prediction error increases in both models, revealing that these trajectory predictors are, in fact, susceptible to image-based attacks. Using an optimization-based planner and example perturbations crafted from sensitivity results, we show how these attacks can cause a vehicle to come to a sudden stop from moderate driving speeds.
関連論文
- 自動運転車に対する通信ベースのサイバー攻撃の概念化とモデル化自動運転セキュリティ
- 強化学習による自動運転車への最適アクチュエータ攻撃自動運転セキュリティ
- エンドツーエンド自動運転パイプラインの安全性とセキュリティの実現自動運転セキュリティ
- 協調センサフュージョンにおける攻撃と防御の分析のためのマルチエージェントセキュリティテストベッド自動運転セキュリティ
- 自動運転システムの物体追跡に対する確率的MPCに基づく攻撃自動運転セキュリティ
- 自動運転における意味的AIセキュリティの体系化自動運転セキュリティ
