NEXUS: 安全で堅牢な具現化プランニングのための記号的制約の継続学習
NEXUS: Continual Learning of Symbolic Constraints for Safe and Robust Embodied Planning
大規模言語モデルを用いた具現化エージェントの計画において、物理的な実現可能性と安全性を分離し、実行フィードバックから能力を向上させつつ、確率的リスクを決定的なハード制約に変換して事前防御を行うモジュール型フレームワークNEXUSを提案した。
詳しい要約
1. どんなもの？
2. 先行研究と比べてどこがすごい？
3. 技術・手法の肝は？
4. どうやって有効だと検証した？
5. 議論はある？
6. 次に読むべき論文は？
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Tiehan Cui, Peipei Liu, Yanxu Mao, Congying Liu, Mingzhe Xing, Datao You
分類: cs.AI, cs.RO
原文アブストラクト
While Large Language Models (LLMs) have catalyzed progress in embodied intelligence, a fundamental gap between their inherent probabilistic uncertainty and the strict determinism and verifiable safety required in the physical world. To mitigate this gap, this paper introduces NEXUS, a modular framework designed for continual learning in embodied agents. Different from prior works that treat symbolic artifacts merely as static interfaces, NEXUS leverages them for symbolic grounding and knowledge evolution. The framework explicitly decouples physical feasibility from safety specifications: capability of agents is improved through closed-loop execution feedback, while probabilistic risk assessments are grounded into deterministic hard constraints to establish a rigorous pre-action defense. Experiments on SafeAgentBench demonstrate that NEXUS achieves superior task success rates while effectively refusing unsafe instructions, exhibiting robust defense against adversarial attacks, and progressively improving planning efficiency through knowledge accumulation.
関連論文
- ニューロシンボリック具現化エージェントVLA/プランニング
- HUGIN: 自律物流仕分けのための視覚言語プランニングの強化VLA/プランニング
- DIRECT: 身体化プランナーにおけるテスト時計算の割り当てはいつ、どこで行うべきか？VLA/プランニング
