身体的安全性2026/6/26arXiv:2607.16247

自己進化型ジャストインタイムメモリによる能動的身体的安全性の実現

Self-Evolving Just-In-Time Memory for Proactive Embodied Safety

視覚言語モデル搭載エージェントが家庭内タスク中に動的危険を能動的に緩和できるよう、リスク追跡・予測・緩和スキルを自己進化させるメモリフレームワークを提案した。

詳しい要約

1. どんなもの？

- Vision-Language Models (VLMs) を用いた embodied agents が家庭内タスクを実行する際、動的に発生する危険を proactive に扱えない問題に対処する研究。 - 既存の safety 手法は runtime guardrails で unsafe action を阻止するか過度な caution を促すため、タスク進捗を大きく停滞させる。 - 本論文は Self-Evolving Just-In-Time Memory framework を提案し、embodied safety を『進捗を止める guardrails』から『proactive hazard mitigation』へ再定義する。 - 構成要素は Risk-Sufficient Topological Belief Graph (RSG)、Agency-Grounded Factual Memory、Experience Memory。 - さらに Test-Verify-Write loop により test time で execution traces から mit…

2. 先行研究と比べてどこがすごい？

- 既存の safety 手法は runtime guardrails による unsafe action の遮断や過剰な caution に依存し、タスク進捗を著しく停滞させる safety-progress trade-off があった。 - 本手法は guardrails ではなく proactive hazard mitigation へ枠組みを転換し、進捗を保ちながら危険を能動的に解消する点が異なる。 - 部分的観測下での persistent な safety-relevant state tracking を可能にする RSG を導入。 - Agency-Grounded Factual Memory による precise hazard anticipation と、Experience Memory による実行可能で進捗を保つ mitigation の誘導を統合。 - Test-Verify-Write loop により test time で Meta-Skills を自己進化させる点が先行研究にない特徴。

3. 技術・手法の肝は？

- Risk-Sufficient Topological Belief Graph (RSG): 部分的観測下で safety-relevant state を persistent に追跡する belief graph。 - Agency-Grounded Factual Memory: 危険を precise に anticipation するための記憶。 - Experience Memory: procedural Meta-Skills を注入し、実行可能かつ進捗を保つ mitigation を導く。 - Test-Verify-Write loop: test time に execution traces から mitigation Meta-Skills を自動的に refine するループ。 - これらを統合し、Self-Evolving Just-In-Time Memory framework として embodied safety を proactive hazard mitigation に再構成。

4. どうやって有効だと検証した？

- IS-Bench 上で実験を実施。 - 複数の VLM backbones で Safe-Success rate を大幅に向上（例: Qwen3-VL-8B で +30.3%）。 - タスク進捗を停滞させずに agents が proactive に hazards を mitigate できることを示した。 - コードは https://github.com/DyMessi/JIT-Memory で公開。

5. 議論はある？

- 要旨からは、限界や失敗事例、計算コスト、スケーラビリティ、倫理的懸念などの議論は明示されていない。 - 提案手法が safety-progress trade-off を破ると主張しているが、その詳細な分析や反証可能性については要旨からは不明。 - 実験は IS-Bench と複数 VLM backbones に限定されており、他の環境やタスクへの一般化可能性は要旨からは不明。

6. 次に読むべき論文は？

- 要旨で参照/比較されている具体的な先行研究名は明示されていない。 - 関連手法として、runtime guardrails に基づく embodied safety アプローチ、Vision-Language Models (VLMs) を用いた embodied agents、部分観測下の belief graph や topological mapping、Meta-Skills や experience memory を用いた継続学習、IS-Bench などの embodied safety benchmark が挙げられる。 - 同分野の定番として、embodied AI における safety と task planning の統合に関する研究を読むべき。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bingrui Sima, Lizhong Wang, Xiaoya Lu, Kun He, Xiao Yang

分類: cs.LG, cs.CV

原文アブストラクト

While Vision-Language Models (VLMs) have empowered embodied agents to execute complex household tasks, they struggle to proactively handle dynamically emerging hazards during closed-loop interactions. Existing safety approaches often rely on runtime guardrails to block unsafe actions or induce excessive caution, which severely stalls task progress instead of actively resolving the underlying risks. To break this safety-progress trade-off, we introduce the Self-Evolving Just-In-Time Memory framework, which reframes embodied safety from progress-stalling guardrails to proactive hazard mitigation. The framework consists of a Risk-Sufficient Topological Belief Graph (RSG) for persistent safety-relevant state tracking under partial observability, an Agency-Grounded Factual Memory for precise hazard anticipation, and an Experience Memory that injects procedural Meta-Skills to guide executable, progress-preserving mitigation. Furthermore, we propose an automated Test-Verify-Write loop, allowing agents to continually refine their mitigation Meta-Skills from execution traces at test time. Experiments on IS-Bench demonstrate that our framework substantially boosts the Safe-Success rate across multiple VLM backbones (e.g., +30.3% on Qwen3-VL-8B), enabling agents to proactively mitigate hazards without stalling task progress. Code is available at https://github.com/DyMessi/JIT-Memory.

arXivで原文を読む →arXiv概要ページ

← 論文一覧