日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

群制御arXiv:2607.23532

検証認識ファブリック上のLLM支援ISRスウォームのためのミッションレベル実行時保証

Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric

シェア:XThreadsFacebookLINEはてブBluesky

LLM支援の自律ロボット群によるISR任務において、個々のプラットフォームでは違反しないが群全体でミッション違反となる問題を、3層構成の実行時検証フレームワークで検出する手法を提案した。

詳しい要約

1. どんなもの?

- LLM-assisted autonomous robotsのswarmによる協調ISRミッション向けの、mission-level runtime assuranceフレームワーク。 - 三層(platform/squad/mission)のcompositional runtime-verificationを導入。 - ミッションポリシーをper-agentとcross-agentのaspectに分解し、verification-aware messaging fabric上でverdictを集約。 - evidence-awareな二軸(security×completeness)代数でfusionし、違反を共同で引き起こしたplatformをprovenanceとして特定。 - 証拠損失や沈黙を観測可能にし、未支持のnegative verdictをunknownに降格。

2. 先行研究と比べてどこがすごい?

- 従来のper-platform guardrailsは、個々に準拠した行動が組み合わさって生じるmission-level違反を構造的に見逃す。 - 提案手法はcompositional verificationにより、プラットフォームをまたぐ違反を検出可能。 - 競合通信下でも、verification-aware fabricが証拠損失を観測可能にし、誤ったall-clearを防ぐ。 - 中央集権的なbest-effort monitorと比べ、故障注入キャンペーン下でもsilent false all-clearを出さない点が優れる。

3. 技術・手法の肝は?

- 三層(platform/squad/mission)のcompositional runtime-verificationフレームワーク。 - ミッションポリシーをper-agentとcross-agentのaspectに分解。 - verification-aware messaging fabric上でper-platform verdictを集約。 - evidence-awareな二軸(security×completeness)代数でverdictをfusion。 - provenanceにより違反を共同で引き起こしたplatformを特定。 - 証拠損失や沈黙を観測可能にし、未支持のnegative verdictをunknownに降格。

4. どうやって有効だと検証した?

- シミュレーションされたISRミッションで評価。 - 間接的prompt injectionにより、実際のLLM plannerが禁止されたcollectionタスクを4つのplatformに分割させるシナリオを実施。 - この違反は全てのper-platform monitorでは不可視だが、提案手法では完全なprovenance付きでcompositionallyに検出。 - 故障注入キャンペーン下で、best-effort central monitorはsilent false all-clearを発するが、verification-aware fabricはそれを一切出さないことを確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究や関連手法は明示されていない。 - 同分野の定番として、runtime verification、compositional verification、LLM-assisted multi-robot systems、prompt injection対策、fault-tolerant monitoringなどが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Nikolaos Kekatos, Panagiotis Katsaros, Alexios Lekidis, Theodoros Nestoridis, Tom Nianios

分類: cs.CR, cs.AI, cs.LO, cs.RO

原文アブストラクト

Swarms of LLM-assisted autonomous robots are increasingly proposed for cooperative intelligence, surveillance, and reconnaissance (ISR) in contested environments. A growing class of their assurance failures arises not within any single platform but across the swarm: individually-compliant actions compose into a mission-level violation: a prohibited objective split across platforms to evade per-platform lim- its, or a collective budget quietly exceeded. Per-platform guardrails miss these by construction, and contested communications let the violation hide behind lost or delayed evidence. We present a three-tier (platfor- m/squad/mission) compositional runtime-verification framework that de- composes a mission policy into per-agent and cross-agent aspects, aggre- gates per-platform verdicts over a verification-aware messaging fabric, and fuses them with an evidence-aware, two-axis (security x complete- ness) algebra whose provenance names the platforms that jointly trig- gered a violation. Because the fabric makes evidence loss and silence observable, unsupported negative verdicts are downgraded to an explicit unknown rather than reported as mission-wide all-clears. On a simulated ISR mission, an indirect prompt injection that causes real LLM planners to split a prohibited collection task across four platforms is invisible to every per-platform monitor yet detected compositionally with full prove- nance; under an injected fault campaign a best-effort central monitor emits silent false all-clears while the verification-aware fabric emits none

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI