障害物回避を学習して移動ロボットを罠にかける知的物理攻撃
Intelligent Physical Attack Against Mobile Robots With Obstacle-Avoidance
外部観測からロボットの障害物回避機構を学習し、最短経路・低活動量で誘導して所定位置に閉じ込める物理攻撃手法を提案・実機検証した。
著者: Yushan Li, Jianping He, Cailian Chen, Xinping Guan
分類: cs.RO
原文アブストラクト
The security issue of mobile robots has attracted considerable attention in recent years. In this paper, we propose an intelligent physical attack to trap mobile robots into a preset position by learning the obstacle-avoidance mechanism from external observation. The salient novelty of our work lies in revealing the possibility that physical-based attacks with intelligent and advanced design can present real threats, while without prior knowledge of the system dynamics or access to the internal system. This kind of attack cannot be handled by countermeasures in traditional cyberspace security. To practice, the cornerstone of the proposed attack is to actively explore the complex interaction characteristic of the victim robot with the environment, and learn the obstacle-avoidance knowledge exhibited in the limited observations of its behaviors. Then, we propose shortest-path and hands-off attack algorithms to find efficient attack paths from the tremendous motion space, achieving the driving-to-trap goal with low costs in terms of path length and activity period, respectively. The convergence of the algorithms is proved and the attack performance bounds are further derived. Extensive simulations and real-life experiments illustrate the effectiveness of the proposed attack, beckoning future investigation for the new physical threats and defense on robotic systems.
関連論文
- ロボットセキュリティのためのプログラムレベル敵対的共適応自己対戦フレームワークロボットセキュリティ
- 学習ベース産業用ロボットアーム操作におけるバックドア:実証的セキュリティ研究ロボットセキュリティ
- プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリングロボットセキュリティ
- EU AI法遵守のためのロボティクス・自律システムのサイバーセキュリティ対策ロボットセキュリティ
- POEX:LLMベースロボットに対するポリシー実行可能なジェイルブレイク攻撃ロボットセキュリティ
- LLM統合型移動ロボットシステムに対するプロンプトインジェクション攻撃の研究ロボットセキュリティ
