日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

セキュリティ/RAGarXiv:2606.26793

MIRROR: 新規性制約付きメモリ誘導MCTSによるエージェント型RAGのレッドチーミング

MIRROR: Novelty-Constrained Memory-Guided MCTS Red-Teaming for Agentic RAG

シェア:XThreadsFacebookLINEはてブBluesky

マルチモーダルなエージェント型RAGシステムに対する攻撃を、新規性制約とメモリ誘導MCTSを用いて統一的に探索するレッドチーミングフレームワークMIRRORを提案し、複数の攻撃面で高い成功率を達成した。

詳しい要約

1. どんなもの?

マルチモーダルな agentic RAG システムに対する red-teaming フレームワーク MIRROR を提案する研究。 - 対象は text poisoning、image injection、direct-query attack、orchestrator-level tool manipulation の4つの攻撃面。 - memory-guided Monte Carlo tree search (MCTS) を用い、retrieved context を条件に候補を生成する。 - 明示的な novelty constraint を課し、retrieval set と一致する候補を Novelty Gate で棄却する。 - ベンチマーク ART-SafeBench を公開し、41,815 in-package records、runtime adapters により4面で41,991+ records を提供。

2. 先行研究と比べてどこがすごい?

既存の red-teaming は攻撃面ごとに特化し、既知の攻撃テンプレートを再利用しがち。 - text-poisoning ベンチマークで 73-84% の exact duplication を計測。 - MIRROR は cross-surface な統一フレームワークで、面をまたいだ性能低下が小さい。 - 例: image poisoning で ASR 76% (baseline 52%)、orchestrator attack で ASR 97% かつ query cost 半減。 - cross-surface variance が最小 (coefficient of variation 0.47)。 - 特化 baseline は面をまたぐと崩壊: suffix optimization は text poisoning で 79% ASR だが direct query では 1%。

3. 技術・手法の肝は?

memory-guided Monte Carlo tree search (MCTS) を中核とし、retrieved context に条件付けて候補を生成。 - 明示的な novelty constraint を導入し、retrieval を search prior として使いつつ prompt copying を防ぐ。 - 決定的な Novelty Gate が、正規化比較で retrieval set と一致する候補を棄却。 - これにより retrieval が探索を導くが、既知テンプレートの再利用を抑制。 - 4つの攻撃面 (text poisoning、image injection、direct-query、orchestrator-level tool manipulation) を統一的に扱う。

4. どうやって有効だと検証した?

マルチモーダル agentic RAG ターゲット上で4つの攻撃面を評価。 - image poisoning: MIRROR の ASR 76% 対 baseline 52%。 - orchestrator attacks: ASR 97% を query cost 半減で達成。 - cross-surface variance が最小 (coefficient of variation 0.47)。 - 特化 baseline の面間崩壊も対比として提示 (suffix optimization: text poisoning 79% ASR、direct query 1%)。 - ART-SafeBench を公開し、41,815 in-package records、runtime adapters で41,991+ records を4面にわたり提供。

5. 議論はある?

要旨からは不明。 - 限界、倫理的考慮、防御への含意、計算コストの詳細などは記述されていない。 - 攻撃成功率や分散の解釈、Novelty Gate の閾値感度なども要旨からは不明。

6. 次に読むべき論文は?

要旨で参照・比較されている研究や関連手法を挙げる。 - suffix optimization (text poisoning で 79% ASR の baseline)。 - prompt injection、text poisoning、image injection、direct-query attack、orchestrator-level tool manipulation に関する既存 red-teaming 研究。 - Monte Carlo tree search (MCTS) を用いた red-teaming 手法。 - retrieval-augmented generation (RAG) および multimodal agentic RAG のセキュリティ研究。 - ベンチマーク ART-SafeBench に関連する評価研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Inderjeet Singh, Andrés Murillo, Motoyoshi Sekiya, Yuki Unno, Junichi Suga

分類: cs.CR, cs.AI, cs.LG

原文アブストラクト

Multimodal agentic retrieval-augmented generation (RAG) systems expand the attack surface beyond prompt injection to include text poisoning, image injection, direct-query attacks, and orchestrator-level tool manipulation. Existing red-teaming approaches are typically surface-specific and often recycle known attack templates; on text-poisoning benchmarks we measure 73-84% exact duplication. We present MIRROR, a unified cross-surface framework that performs memory-guided Monte Carlo tree search while conditioning candidate generation on retrieved context under an explicit novelty constraint. A deterministic Novelty Gate rejects any candidate matching the retrieval set under normalized comparison, allowing retrieval to inform search priors without enabling prompt copying. Across four attack surfaces on a multimodal agentic RAG target, MIRROR attains 76% ASR on image poisoning compared with 52% for baselines, 97% ASR on orchestrator attacks at half the query cost, and the lowest cross-surface variance (coefficient of variation 0.47). In contrast, specialized baselines collapse across surfaces: suffix optimization reaches 79% ASR on text poisoning but 1% on direct queries. We release ART-SafeBench with 41,815 in-package records and runtime adapters yielding 41,991+ total records across four surfaces.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI