日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロボットセキュリティarXiv:2604.27267

プロンプトから物理動作へ:LLM搭載ロボットシステムの包括的脅威モデリング

From Prompt to Physical Actuation: Holistic Threat Modeling of LLM-Enabled Robotic Systems

シェア:XThreadsFacebookLINEはてブBluesky

LLMを搭載した自律ロボットのエッジクラウドアーキテクチャを階層的データフロー図でモデル化し、STRIDE分析を用いてサイバー・敵対的・会話的脅威の相互作用と伝播を統合的に分析した初の研究。

詳しい要約

1. どんなもの?

- LLMを組み込んだ自律ロボットシステムの脅威モデリング - edge-cloudアーキテクチャを階層的Data Flow Diagram (DFD)で表現 - STRIDE-per-interaction分析を6つの境界横断インタラクションに適用 - Conventional Cyber Threats, Adversarial Threats, Conversational Threatsの3分類で分析 - 知覚-計画-行動パイプライン全体を対象

2. 先行研究と比べてどこがすごい?

- 従来はロボットサイバーセキュリティ、敵対的知覚攻撃、LLM安全性を個別に研究 - 本研究はこれら脅威カテゴリの相互作用と信頼境界を越えた伝播を統一的に追跡 - 3カテゴリが同じ境界横断点で収束することを明らかにした - 知覚-計画-行動パイプライン全体に3カテゴリを統合した初のDFDベース脅威分析

3. 技術・手法の肝は?

- LLM有効自律ロボットをedge-cloudアーキテクチャでモデル化 - 階層的Data Flow Diagram (DFD)を作成 - STRIDE-per-interaction分析を6つの境界横断インタラクションに適用 - 3カテゴリ分類: Conventional Cyber Threats, Adversarial Threats, Conversational Threats - 外部入口から不安全な物理的作動までの3つの境界横断攻撃チェーンを追跡

4. どうやって有効だと検証した?

- 要旨からは不明(分析手法の適用と攻撃チェーンの追跡が主で、実験的検証は記述されていない)

5. 議論はある?

- 3カテゴリの脅威が同じ境界横断点で収束することを指摘 - 各攻撃チェーンが異なるアーキテクチャ特性を露呈: - ユーザ入力とアクチュエータディスパッチ間の独立した意味検証の欠如 - 視覚知覚から言語モデル命令へのクロスモーダル翻訳 - プロバイダ側ツール使用による媒介されない境界横断

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない - 同分野の定番: ロボットサイバーセキュリティ、敵対的知覚攻撃、LLM安全性に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Neha Nagaraja, Hayretdin Bahsi, Carlo R. da Cunha

分類: cs.CR, cs.AI, cs.RO

原文アブストラクト

As large language models are integrated into autonomous robotic systems for task planning and control, compromised inputs or unsafe model outputs can propagate through the planning pipeline to physical-world consequences. Although prior work has studied robotic cybersecurity, adversarial perception attacks, and LLM safety independently, no existing study traces how these threat categories interact and propagate across trust boundaries in a unified architectural model. We address this gap by modeling an LLM-enabled autonomous robot in an edge-cloud architecture as a hierarchical Data Flow Diagram and applying STRIDE-per-interaction analysis across six boundary-crossing interaction points using a three-category taxonomy of Conventional Cyber Threats, Adversarial Threats, and Conversational Threats. The analysis reveals that these categories converge at the same boundary crossings, and we trace three cross-boundary attack chains from external entry points to unsafe physical actuation, each exposing a distinct architectural property: the absence of independent semantic validation between user input and actuator dispatch, cross-modal translation from visual perception to language-model instruction, and unmediated boundary crossing through provider-side tool use. To our knowledge, this is the first DFD-based threat analysis integrating all three threat categories across the full perception-planning-actuation pipeline of an LLM-enabled robotic system.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI