日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/セキュリティarXiv:2604.04349

クラウド支援自動運転システムの敵対的ロバスト性解析

Adversarial Robustness Analysis of Cloud-Assisted Autonomous Driving Systems

シェア:XThreadsFacebookLINEはてブBluesky

クラウド支援自動運転の脆弱性を評価するため、実時間認識・制御・通信を統合したハードウェアインザループテストベッドを構築し、敵対的攻撃とネットワーク障害が認識性能と制御安定性に与える影響を分析した。

詳しい要約

1. どんなもの?

- クラウド支援型自動運転システムの敵対的ロバスト性を評価する研究。 - 知覚・制御をクラウドにオフロードするIoVアーキテクチャを対象。 - ハードウェアインザループのIoVテストベッドを構築。 - 知覚モデルへの敵対的攻撃と車両-クラウド間のネットワーク障害を同時に評価。

2. 先行研究と比べてどこがすごい?

- 従来は知覚モデル単体の敵対的攻撃やネットワーク遅延を個別に評価。 - 本研究はクラウド支援自動運転におけるクロスレイヤ脆弱性を統合的に評価。 - 知覚と通信の複合障害が閉ループ制御に与える影響を実証。 - ハードウェアインザループテストベッドで実時間評価を実現。

3. 技術・手法の肝は?

- YOLOv8ベースの物体検出器をクラウドに配置。 - ホワイトボックス敵対的攻撃としてFGSMとPGDを適用。 - ネットワーク敵対者は車両-クラウドループに遅延とパケットロスを誘発。 - 知覚・制御・通信を統合したリアルタイムテストベッドで評価。

4. どうやって有効だと検証した?

- クリーンベースラインで検出精度0.73、再現率0.68。 - PGD攻撃(epsilon=0.04)で精度0.22、再現率0.15に低下。 - 150-250msの遅延(約3-4フレームの一時的損失)と0.5-5%のパケットロスが閉ループ制御を不安定化。 - 遅延したアクチュエーションとルール違反を引き起こすことを確認。

5. 議論はある?

- 敵対的摂動が知覚性能を著しく劣化させる。 - ネットワーク遅延とパケットロスが閉ループ制御をさらに不安定化。 - クラウド支援自動運転にはクロスレイヤレジリエンスが必要。 - その他の議論や限界は要旨からは不明。

6. 次に読むべき論文は?

- FGSM (Goodfellow et al.) - PGD (Madry et al.) - YOLOv8 - IoV (Internet of Vehicles) 関連研究 - クラウド支援自動運転のセキュリティ研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Maher Al Islam, Amr S. El-Wakeel

分類: cs.RO, cs.LG

原文アブストラクト

Autonomous vehicles increasingly rely on deep learning-based perception and control, which impose substantial computational demands. Cloud-assisted architectures offload these functions to remote servers, enabling enhanced perception and coordinated decision-making through the Internet of Vehicles (IoV). However, this paradigm introduces cross-layer vulnerabilities, where adversarial manipulation of perception models and network impairments in the vehicle-cloud link can jointly undermine safety-critical autonomy. This paper presents a hardware-in-the-loop IoV testbed that integrates real-time perception, control, and communication to evaluate such vulnerabilities in cloud-assisted autonomous driving. A YOLOv8-based object detector deployed on the cloud is subjected to whitebox adversarial attacks using the Fast Gradient Sign Method (FGSM) and Projected Gradient Descent (PGD), while network adversaries induce delay and packet loss in the vehicle-cloud loop. Results show that adversarial perturbations significantly degrade perception performance, with PGD reducing detection precision and recall from 0.73 and 0.68 in the clean baseline to 0.22 and 0.15 at epsilon= 0.04. Network delays of 150-250 ms, corresponding to transient losses of approximately 3-4 frames, and packet loss rates of 0.5-5 % further destabilize closed-loop control, leading to delayed actuation and rule violations. These findings highlight the need for cross-layer resilience in cloud-assisted autonomous driving systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI