LLM統合型移動ロボットシステムに対するプロンプトインジェクション攻撃の研究
A Study on Prompt Injection Attack Against LLM-Integrated Mobile Robotic Systems
GPT-4oなどのLLMを組み込んだ移動ロボットのナビゲーションにおいて、プロンプトインジェクション攻撃が与える影響を調査し、堅牢な防御策の導入により攻撃検出とシステム性能が約30.8%向上することを示した。
著者: Wenxiao Zhang, Xiangrui Kong, Conan Dewitt, Thomas Braunl, Jin B. Hong
分類: cs.RO, cs.AI
原文アブストラクト
The integration of Large Language Models (LLMs) like GPT-4o into robotic systems represents a significant advancement in embodied artificial intelligence. These models can process multi-modal prompts, enabling them to generate more context-aware responses. However, this integration is not without challenges. One of the primary concerns is the potential security risks associated with using LLMs in robotic navigation tasks. These tasks require precise and reliable responses to ensure safe and effective operation. Multi-modal prompts, while enhancing the robot's understanding, also introduce complexities that can be exploited maliciously. For instance, adversarial inputs designed to mislead the model can lead to incorrect or dangerous navigational decisions. This study investigates the impact of prompt injections on mobile robot performance in LLM-integrated systems and explores secure prompt strategies to mitigate these risks. Our findings demonstrate a substantial overall improvement of approximately 30.8% in both attack detection and system performance with the implementation of robust defence mechanisms, highlighting their critical role in enhancing security and reliability in mission-oriented tasks.
関連論文
- ロボットセキュリティのためのプログラムレベル敵対的共適応自己対戦フレームワークロボットセキュリティ
- 学習ベース産業用ロボットアーム操作におけるバックドア:実証的セキュリティ研究ロボットセキュリティ
- プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリングロボットセキュリティ
- EU AI法遵守のためのロボティクス・自律システムのサイバーセキュリティ対策ロボットセキュリティ
- POEX:LLMベースロボットに対するポリシー実行可能なジェイルブレイク攻撃ロボットセキュリティ
- センサ欺瞞攻撃からロボット車両を守る診断誘導型攻撃復旧ロボットセキュリティ
