日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

セキュリティarXiv:2606.28649

RIPA: LLM制御ROS 2ロボットへの感覚ベクトルプロンプトインジェクション攻撃

RIPA: Sensory-Vector Prompt Injection Attacks on LLM-Controlled ROS 2 Robots

シェア:XThreadsFacebookLINEはてブBluesky

ROS 2ベースのLLM制御ロボットの感覚パイプラインを介したプロンプトインジェクション攻撃を体系的に調査し、モデル固有の脆弱性プロファイルを特定した。また、ハイブリッドセマンティックファイアウォールを提案し、既知の攻撃に対しては0%の成功率を達成するが、難読化攻撃に対してはバイパス率10.2%を示すことを明らかにした。

詳しい要約

1. どんなもの?

本論文は、ROS 2ベースのLLM制御ロボットシステムにおけるsensory pipeline経由のprompt injection攻撃を初めて体系的に多チャネルで実証した研究である。 - 対象: LLM制御ROS 2ロボット - 提案: RIPAと呼ぶ攻撃手法と評価 - 規模: 5つのLLM、4モデルファミリ、約4B〜約284B - モデル: DeepSeek-V4-Flash, Llama-3-8B-Instruct-Lite, Llama-3.3-70B-Instruct-Turbo, Qwen 2.5-7B-Instruct-Turbo, Gemma-3n-E4B - 各注入variantにつき100回の独立runを実施 - 3つのsensory injection channelを導入 - Channel 1: visual (OCR経由) - Channel 2: audio (Whisper STT経由) - Channel 3: LiDAR sensor context poisoning - 防御としてhybrid semantic firewallを提案…

2. 先行研究と比べてどこがすごい?

要旨からは、先行研究との直接的な比較は明示されていない。 - 著者らは『first systematic multi-channel empirical study』と主張 - 従来のprompt injection研究と異なり、ROS 2ロボットのsensory pipelineを攻撃面として扱う点が新規 - 単一チャネルではなくvisual/audio/LiDARの3チャネルを体系的に比較 - モデル規模とrobustnessの関係を検証し、単調なscaling trendに従わないことを示す - 具体的な先行研究名やベースラインは要旨からは不明

3. 技術・手法の肝は?

技術の肝は、LLM制御ROS 2ロボットのsensory pipelineにprompt injectionを注入する点と、その防御・評価枠組みにある。 - 攻撃: 3つのsensory channelを定義 - Channel 1: visual (OCR) - Channel 2: audio (Whisper STT) - Channel 3: LiDAR sensor context poisoning - Channel 3はfabricated obstacle dataをrobot environment-state representationにLLM system-prompt levelで注入 - 評価: 各injection variantにつき100独立run、5 LLMでASRを測定 - 防御: hybrid semantic firewallを提案 - 攻撃側: 19のobfuscation payloadを5カテゴリに分類するfirewall bypass taxonomy - 詳細な実装やfirewallの構成は要旨からは不明

4. どうやって有効だと検証した?

5つのLLMに対する100回/変種の独立runと、firewallの評価で検証している。 - モデル別ASR - Llama-3.3-70B-Instruct-Turbo: 全injection variantで100% ASR - Llama-3-8B-Instruct-LiteとQwen 2.5-7B-Instruct-Turbo: direct-override injectionに0% ASR - Gemma-3n-E4B (約4B): 70Bモデルと同様の脆弱性プロファイル - Channel 3: DeepSeek-V4-Flashで全variant 100% ASR - hybrid semantic firewall - 既知injection patternに対し0% ASR - 予備的benign setでfalse positive 0/20 commands - adversarially obfuscated attacksに対し10.2% trial-weighted bypass rate (58/570 trials; N=30…

5. 議論はある?

要旨で議論されている主な点は以下の通り。 - robustnessはモデル規模に依存せず、モデル固有である - 70Bが最も脆弱、4Bが70Bと同様の脆弱性を示す - rule-based防御とsemantic防御の間にcritical gapが存在 - hybrid semantic firewallは既知パターンには有効だが、obfuscated攻撃に10.2%のbypass rate - Channel 3のLiDAR sensor context poisoningが特に危険で、DeepSeek-V4-Flashで100% ASR - 限界や倫理的議論、実ロボットへの影響の詳細は要旨からは不明

6. 次に読むべき論文は?

要旨で参照・比較されている研究や関連手法は明示されていないため、同分野の定番を一般名で挙げる。 - prompt injection attacks on LLM-integrated systems - LLM-controlled robotics and ROS 2 integration - adversarial attacks on multimodal perception (OCR, Whisper STT, LiDAR) - LLM safety and jailbreak defense (semantic firewall, rule-based filtering) - adversarial obfuscation and bypass taxonomy - 具体的な次読論文は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Nima Dorzhiev

分類: cs.CR, cs.AI, cs.RO

原文アブストラクト

We present RIPA, the first systematic multi-channel empirical study of prompt injection attacks delivered through the sensory pipeline of a ROS 2-based LLM-controlled robotic system. Across 100 independent runs per injection variant on five LLMs spanning four model families and parameter scales from approximately 4B to approximately 284B (DeepSeek-V4-Flash, Llama-3-8B-Instruct-Lite, Llama-3.3-70B-Instruct-Turbo, Qwen 2.5-7B-Instruct-Turbo, Gemma-3n-E4B), we identify model-specific vulnerability profiles that do not follow a monotonic scaling trend: Llama-3.3-70B-Instruct-Turbo exhibits 100% attack success rate (ASR) across all injection variants, while Llama-3-8B-Instruct-Lite and Qwen 2.5-7B-Instruct-Turbo resist direct-override injection (0% ASR), and the smallest model evaluated (Gemma-3n-E4B, approximately 4B) matches the 70B model's vulnerability profile, indicating that robustness is model-specific rather than scale-dependent. We propose a hybrid semantic firewall that achieves 0% ASR against known injection patterns with no false positives on a preliminary benign set (0/20 commands) but exhibits a 10.2% trial-weighted bypass rate (58/570 trials; N equals 30 per payload across 19 obfuscation payloads) against adversarially obfuscated attacks, exposing a critical gap between rule-based and semantic defense layers. We further introduce three sensory injection channels: visual (Channel 1, via OCR), audio (Channel 2, via Whisper STT), and LiDAR sensor context poisoning (Channel 3). We show that Channel 3, which injects fabricated obstacle data into the robot environment-state representation at the LLM system-prompt level, achieves 100% ASR across all variants on DeepSeek-V4-Flash. We also contribute a firewall bypass taxonomy spanning 19 obfuscation payloads across five categories. All code, data, and results are publicly available.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2Google DeepMind、ロボット向けAIを発表新製品・発表
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  5. 5SoftBank主導、Agile Robotsが5億ドル調達 NVIDIAと日立も参加資金調達

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI