日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

SLAMarXiv:2505.24654

CNNベースSLAMアルゴリズムに対するブラックボックス敵対的攻撃

Black-box Adversarial Attacks on CNN-based SLAM Algorithms

シェア:XThreadsFacebookLINEはてブBluesky

GCN-SLAMのRGB入力にブラックボックス敵対的摂動を加え、TUMデータセットで最大76%のフレームで追跡失敗を引き起こすことを示した。また、RGBではなく深度を攻撃するとSLAMに壊滅的な影響を与えることを明らかにした。

詳しい要約

1. どんなもの?

- CNNベースのSLAMアルゴリズムへのblack-box adversarial attackの研究 - 対象はGCN-SLAMアルゴリズム - RGB画像にblack-box adversarial perturbationを加える - TUM dataset上で評価 - SLAMシステムの一部としてのCNNベースfeature detectorへの攻撃を包括的に提示・検討するもの - 従来はこの種の攻撃の整理・検討が不足していたと指摘

2. 先行研究と比べてどこがすごい?

- CNNベースSLAMは研究が伸びている領域だが、SLAMシステムの一部としてのCNNベースfeature detectorを標的とするadversarial attackの包括的な提示・検討が欠けていた - 本研究はblack-box adversarial perturbationをGCN-SLAMのRGB入力に適用する点で、この空白を埋める - 具体的な先行研究との定量的比較は要旨からは不明

3. 技術・手法の肝は?

- black-box adversarial perturbationをGCN-SLAMへ入力するRGB画像に適用 - black-box設定のためモデル内部情報に依存しない攻撃と解釈できるが、詳細な手法は要旨からは不明 - RGB入力への攻撃に加え、depthへの攻撃も実験 - depthを攻撃する方がSLAMシステムへの影響が破滅的であることを示す - 評価対象はGCN-SLAM、データはTUM dataset

4. どうやって有効だと検証した?

- TUM dataset [30]上でGCN-SLAMに対する攻撃実験を実施 - 中程度の規模の攻撃でも最大76%のフレームでtracking failureが生じることを確認 - depthを攻撃した場合のSLAMシステムへの影響がRGB攻撃より破滅的であることを実験で示す

5. 議論はある?

- 中程度の規模の攻撃でもtracking failureが最大76%のフレームで発生し、CNNベースSLAMの脆弱性が示唆される - depthへの攻撃がRGBへの攻撃よりSLAMに壊滅的影響を与える点が重要な議論点 - 防御策やロバスト化、実運用への含意については要旨からは不明

6. 次に読むべき論文は?

- GCN-SLAM(本研究の攻撃対象) - TUM dataset [30](評価データセット) - CNNベースfeature detectorを用いるSLAM手法(関連手法として一般名で挙げられる) - adversarial attackおよびdefenseに関する研究(同分野の定番として一般名で挙げられる)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Maria Rafaela Gkeka, Bowen Sun, Evgenia Smirni, Christos D. Antonopoulos, Spyros Lalis, Nikolaos Bellas

分類: cs.RO, cs.CV

原文アブストラクト

Continuous advancements in deep learning have led to significant progress in feature detection, resulting in enhanced accuracy in tasks like Simultaneous Localization and Mapping (SLAM). Nevertheless, the vulnerability of deep neural networks to adversarial attacks remains a challenge for their reliable deployment in applications, such as navigation of autonomous agents. Even though CNN-based SLAM algorithms are a growing area of research there is a notable absence of a comprehensive presentation and examination of adversarial attacks targeting CNN-based feature detectors, as part of a SLAM system. Our work introduces black-box adversarial perturbations applied to the RGB images fed into the GCN-SLAM algorithm. Our findings on the TUM dataset [30] reveal that even attacks of moderate scale can lead to tracking failure in as many as 76% of the frames. Moreover, our experiments highlight the catastrophic impact of attacking depth instead of RGB input images on the SLAM system.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI