日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

セキュリティ/プライバシーarXiv:2606.16788

基盤モデル搭載ロボットのセキュリティとプライバシーに関する体系化

SoK: Security and Privacy of Foundation-Model-Powered Robots

シェア:XThreadsFacebookLINEはてブBluesky

基盤モデルを搭載したロボットのセキュリティ・プライバシーリスクを、F-E-S-G(基盤モデル層、具現化システム層、支援エコシステム層、ガバナンス影響層)の4層構造フレームワークと多レベル分類法を用いて96件の論文を体系的に整理・分析した論文。

詳しい要約

1. どんなもの?

- Foundation Model (FM) を搭載したロボットの Security and Privacy (S&P) を体系化した SoK 論文。 - 既存レビューの断片性を解消するため、F-E-S-G 構造境界フレームワークを提案。 - F: Foundation model layer - E: Embodied system layer - S: Supporting ecosystem layer - G: Governance impact layer - この枠組みで 96 本の論文を整理し、脅威パターン・防御のミスマッチ・評価ギャップを抽出。 - 最終的に open challenges と future directions を示し、研究アジェンダを提示。

2. 先行研究と比べてどこがすごい?

- 既存レビューは特定の FM 種別、リスクカテゴリ、緩和策、trust boundary に焦点を当てがち。 - 本研究は F-E-S-G の 4 層構造境界を導入し、リスクの発生源・伝播・介入点を統一的に分析可能。 - 単一境界視点では見えにくい複数の脅威パターン、防御ミスマッチ、評価ギャップを明らかに。 - 96 論文を fine-grained coding attributes (target, lifecycle stage, mechanism, system access, effect) で注釈し、多層タクソノミーを構築。

3. 技術・手法の肝は?

- progressive F-E-S-G structural boundary framework を提案。 - F: Foundation model layer - E: Embodied system layer - S: Supporting ecosystem layer - G: Governance impact layer - この構造に基づき multi-level taxonomy を開発。 - レベル1: F-E-S-G trust boundary - レベル2: security-privacy concerns - レベル3: risk-mitigation perspectives - 各研究を fine-grained coding attributes で注釈。 - target, lifecycle stage, mechanism, system access, effect - この枠組みとタクソノミーに導かれ、96 本の論文を systematize。

4. どうやって有効だと検証した?

- 96 本の論文を F-E-S-G フレームワークと多層タクソノミーで体系化。 - その分析により、複数の脅威パターン、防御ミスマッチ、評価ギャップを同定。 - これらは単一境界視点では特定が難しいと主張。 - 具体的な検証手法や実験的評価は要旨からは不明。

5. 議論はある?

- 複数の脅威パターン、防御ミスマッチ、評価ギャップを発見。 - これらは単一境界視点では見えにくい。 - これらの知見に基づき open challenges と future directions を提示。 - 安全・プライバシー保護・責任あるガバナンスを備えた FM 搭載ロボットシステム開発の研究アジェンダを提供。 - 具体的な議論の詳細や限界は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない。 - 同分野の定番として、Foundation Models for Robotics、Robot Security and Privacy、Embodied AI Safety、Trustworthy Robotics に関するサーベイや代表的研究を挙げる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xueluan Gong, Chen Chen, Jinxin Liu, Qian Wang, Kwok-Yan Lam

分類: cs.RO

原文アブストラクト

Foundation models are reshaping robotics by enabling robots to interpret open-ended instructions, reason over multimodal contexts, and operate in complex, open-world environments. However, their integration also introduces security and privacy (S&P) risks that extend beyond the FMs themselves to embodied execution pipelines, supporting ecosystems, and broader governance impacts. Existing literature reviews provide valuable insights but often focus on specific FM types, risk categories, mitigation strategies, or trust boundaries. Consequently, the field lacks a unified structure for analyzing where risks originate, how they propagate across robotic systems, and where mitigations should intervene. To address this gap, we propose a progressive F-E-S-G structural boundary framework for analyzing the S&P of FM-powered robots. The framework comprises four layers: the Foundation model layer (F), Embodied system layer (E), Supporting ecosystem layer (S), and Governance impact layer (G). Building on this structure, we develop a multi-level taxonomy that organizes prior studies along three levels: F-E-S-G trust boundary, security-privacy concerns, and risk-mitigation perspectives. We further annotate each study using fine-grained coding attributes, including target, lifecycle stage, mechanism, system access, and effect. Guided by this framework and taxonomy, we systematize 96 papers. Our analysis uncovers multiple threat patterns, defense mismatches, and evaluation gaps that are difficult to identify from a single-boundary perspective. Based on these findings, we identify open challenges and future directions to provide a research agenda for developing secure, privacy-preserving, and responsibly governed FM-powered robotic systems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI