日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

エージェントガバナンスarXiv:2604.07833

具現化エージェントの活用:ポリシー制約実行のためのランタイムガバナンス

Harnessing Embodied Agents: Runtime Governance for Policy-Constrained Execution

シェア:XThreadsFacebookLINEはてブBluesky

エージェントの認知と実行監視を分離し、ポリシー検査やロールバック等を行う専用ランタイム層を導入して、実行中の安全性を確保する枠組みを提案した。シミュレーションで高い介入成功率と回復成功率を実証した。

詳しい要約

1. どんなもの?

- Embodied Agents の実行時ガバナンス枠組みを提案 - エージェント認知と実行監督を分離 - 専用ランタイム層で policy checking, capability admission, execution monitoring, rollback, human override を実施 - 永続的 Embodied Agent, モジュール式 Capability Packages, ガバナンス層の制御境界を形式化 - policy-constrained execution pipeline を定義し、制御された simulation で評価

2. 先行研究と比べてどこがすごい?

- 既存手法は safety, recovery, decision constraints をエージェントループ内に埋め込み、標準化・監査・適応が困難 - 提案はガバナンスを外部ランタイム層に分離 - 5つの baseline (AutoRT-style constitution filtering, RoboGuard-style two-stage guardrails 含む) と比較 - 実行前フィルタリングは governance-aware 手法間で同等だが、連続的 runtime detection (RVDR = 61.3% vs. 0%) と構造的 recovery は提案のみ (all p<0.001)

3. 技術・手法の肝は?

- エージェント認知と実行監督を分離する runtime governance framework - 専用ランタイム層が policy checking, capability admission, execution monitoring, rollback, human override を担当 - 永続的 Embodied Agent, モジュール式 Capability Packages, ガバナンス層の制御境界を形式化 - policy-constrained execution pipeline を定義 - 制御された simulation で評価

4. どうやって有効だと検証した?

- 1000回以上のランダム化 trial を実施 - 不正行為の傍受率 96.2%±2.7% - runtime drift 下での unsafe continuation を 100% から 22.2%±3.1% に低減 - 完全な policy compliance での recovery success 90.7%±3.0% - 5つの baseline と比較し、連続的 runtime detection (RVDR = 61.3% vs. 0%) と構造的 recovery で有意差 (all p<0.001) - 検出範囲全体の sensitivity sweep で detection-continuation trade-off を確認

5. 議論はある?

- 実行前フィルタリングは governance-aware 手法間で同等に有効 - 提案のみが連続的 runtime detection と構造的 recovery を提供 - detection-continuation trade-off が存在 - 将来の embodied systems は governable execution 向けに設計すべきと主張 - 具体的な限界や課題は要旨からは不明

6. 次に読むべき論文は?

- AutoRT-style constitution filtering - RoboGuard-style two-stage guardrails - その他の比較された baseline (要旨では具体名不明) - 同分野の定番: embodied agent safety, runtime verification, policy-constrained execution に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Xue Qin, Simin Luan, John See, Zeyd Boukhers, Cong Yang, Zhijun Li

分類: cs.RO

原文アブストラクト

Embodied Agents are evolving from passive reasoning systems into active executors that interact with tools, robots, and physical environments. Once an agent gains execution authority, the central challenge shifts from how to make it act to how to keep its actions governable at runtime. Existing approaches embed safety, recovery, and decision constraints inside the agent loop, making execution control difficult to standardize, audit, and adapt across environments. We propose a runtime governance framework for policy-constrained execution that separates agent cognition from execution oversight. Governance is externalized into a dedicated runtime layer performing policy checking, capability admission, execution monitoring, rollback, and human override. We formalize the control boundary among a persistent Embodied Agent, modular Capability Packages, and the governance layer, and define a policy-constrained execution pipeline evaluated under controlled simulation. Over 1000 randomized trials, the framework achieves 96.2%+/-2.7% interception of unauthorized actions, reduces unsafe continuation from 100% to 22.2%+/-3.1% under runtime drift, and attains 90.7%+/-3.0% recovery success with full policy compliance. Comparison with five baselines, including AutoRT-style constitution filtering and RoboGuard-style two-stage guardrails, shows that pre-execution filtering is equally effective across governance-aware methods, while only the proposed framework provides continuous runtime detection (RVDR = 61.3% vs. 0%) and structured recovery (all p<0.001). A sensitivity sweep across the full detection range confirms a genuine detection-continuation trade-off. This work argues future embodied systems should be designed for governable execution.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI