プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリング
From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems
LLMを搭載した自律ロボットのエッジクラウドアーキテクチャを階層的データフロー図でモデル化し、STRIDE分析を用いてサイバー・敵対的・会話的脅威の相互作用と伝播を統合的に分析した初の研究。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Neha Nagaraja, Hayretdin Bahsi, Carlo R. da Cunha
分類: cs.CR, cs.AI, cs.RO
原文アブストラクト
As large language models are integrated into autonomous robotic systems for task planning and control, compromised inputs or unsafe model outputs can propagate through the planning pipeline to physical-world consequences. Although prior work has studied robotic cybersecurity, adversarial perception attacks, and LLM safety independently, no existing study traces how these threat categories interact and propagate across trust boundaries in a unified architectural model. We address this gap by modeling an LLM-enabled autonomous robot in an edge-cloud architecture as a hierarchical Data Flow Diagram and applying STRIDE-per-interaction analysis across six boundary-crossing interaction points using a three-category taxonomy of Conventional Cyber Threats, Adversarial Threats, and Conversational Threats. The analysis reveals that these categories converge at the same boundary crossings, and we trace three cross-boundary attack chains from external entry points to unsafe physical actuation, each exposing a distinct architectural property: the absence of independent semantic validation between user input and actuator dispatch, cross-modal translation from visual perception to language-model instruction, and unmediated boundary crossing through provider-side tool use. To our knowledge, this is the first DFD-based threat analysis integrating all three threat categories across the full perception-planning-actuation pipeline of an LLM-enabled robotic system.
関連論文
- ロボットセキュリティのためのプログラムレベル敵対的共適応自己対戦フレームワークロボットセキュリティ
- 学習ベース産業用ロボットアーム操作におけるバックドア:実証的セキュリティ研究ロボットセキュリティ
- EU AI法遵守のためのロボティクス・自律システムのサイバーセキュリティ対策ロボットセキュリティ
- POEX:LLMベースロボットに対するポリシー実行可能なジェイルブレイク攻撃ロボットセキュリティ
- LLM統合型移動ロボットシステムに対するプロンプトインジェクション攻撃の研究ロボットセキュリティ
- センサ欺瞞攻撃からロボット車両を守る診断誘導型攻撃復旧ロボットセキュリティ
