日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

タスク計画arXiv:2602.24235

SafeGen-LLM:ロボットシステムのタスク計画における安全性汎化の強化

SafeGen-LLM: Enhancing Safety Generalization in Task Planning for Robotic Systems

シェア:XThreadsFacebookLINEはてブBluesky

安全制約付きタスク計画のための大規模言語モデルSafeGen-LLMを提案し、PDDL3ベンチマークと二段階の事後学習(SFTとGRPO)で安全性の汎化性能を向上させた。

詳しい要約

1. どんなもの?

- ロボティクス向けタスクプランニングの安全性汎化を目的とした大規模言語モデル(LLM) - 名称は SafeGen-LLM - 安全性制約を明示したマルチドメイン PDDL3 ベンチマークを構築 - 二段階の post-training で安全性と汎化を両立 - 複数入力形式(PDDL、自然言語)に対応

2. 先行研究と比べてどこがすごい?

- 従来の classical planner はスケーラビリティが低い - RL ベース手法は汎化性能が低い - ベース LLM は安全性を保証できない - SafeGen-LLM は安全性充足度を高め、新規安全特性にも汎化 - 複数ドメインの planning タスクで frontier proprietary ベースラインを上回る

3. 技術・手法の肝は?

- 安全性制約付きマルチドメイン PDDL3 ベンチマークを構築 - 第一段階:制約遵守プランニングデータセットで SFT を実施し、planning の syntax と semantics を学習 - 第二段階:形式検証から導出した fine-grained reward machines で GRPO をガイドし、安全アラインメントを強制 - curriculum learning を併用し複雑タスクへの対応を改善

4. どうやって有効だと検証した?

- マルチドメイン planning タスクで広範な実験を実施 - 複数の入力形式(PDDL、自然言語)で評価 - 安全性汎化性能を測定 - frontier proprietary ベースラインと比較し優位性を確認

5. 議論はある?

- 要旨からは不明 - 具体的な限界や失敗事例、計算コスト、スケーラビリティの議論は記述されていない

6. 次に読むべき論文は?

- classical planner - Reinforcement Learning (RL) ベースの planning 手法 - ベース Large Language Models (LLMs) - Planning Domain Definition Language 3 (PDDL3) - Supervised Fine-Tuning (SFT) - Group Relative Policy Optimization (GRPO) - reward machines - curriculum learning

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jialiang Fan, Weizhe Xu, Mengyu Liu, Oleg Sokolsky, Insup Lee, Fanxin Kong

分類: cs.RO, cs.AI

原文アブストラクト

Safety-critical task planning in robotic systems remains challenging: classical planners suffer from poor scalability, Reinforcement Learning (RL)-based methods generalize poorly, and base Large Language Models (LLMs) cannot guarantee safety. To address this gap, we propose safety-generalizable large language models, named SafeGen-LLM. SafeGen-LLM can not only enhance the safety satisfaction of task plans but also generalize well to novel safety properties in various domains. We first construct a multi-domain Planning Domain Definition Language 3 (PDDL3) benchmark with explicit safety constraints. Then, we introduce a two-stage post-training framework: Supervised Fine-Tuning (SFT) on a constraint-compliant planning dataset to learn planning syntax and semantics, and Group Relative Policy Optimization (GRPO) guided by fine-grained reward machines derived from formal verification to enforce safety alignment and by curriculum learning to better handle complex tasks. Extensive experiments show that SafeGen-LLM achieves strong safety generalization and outperforms frontier proprietary baselines across multi-domain planning tasks and multiple input formats (e.g., PDDLs and natural language).

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI