日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロボット計画arXiv:2509.21543

Self-CriTeach:自動ドメイン生成によるロボット計画改善のためのLLM自己教授・自己批評フレームワーク

Self-CriTeach: LLM Self-Teaching and Self-Critiquing for Improving Robotic Planning via Automated Domain Generation

シェア:XThreadsFacebookLINEはてブBluesky

LLMが記号計画ドメインを自動生成し、それを大規模なCoT教師データ生成と強化学習の報酬関数の両方に活用することで、ロボット計画性能を高める自己教授・自己批評手法を提案した。

詳しい要約

1. どんなもの?

LLMによるロボットタスク計画のための自己教師・自己批判フレームワーク。LLMが記号的なplanning domainを自律生成し、それを(1)問題-計画ペアの大規模生成、(2)構造化報酬関数という二重の役割で活用する。生成ドメインからsymbolic task planを作り、extended CoT軌跡へ自動変換してsupervised fine-tuningを行う。さらに同じドメインをstructured reward functionとして再利用し、手作業のreward engineeringなしにRLへdense feedbackを与える。単一の統合training pipelineで、計画成功率・cross-task generalization・推論コスト・不完全なlogical stateへの耐性を改善したplanning-enhanced LLMを得る。

2. 先行研究と比べてどこがすごい?

- 先行研究は生成されたplanning domainをplanning utilityとして扱うのみで、不完全なlogical stateやperception noiseに脆く、reasoning supervisionやstructured reward signalの供給源としての可能性を見落としていた。 - 本手法は生成ドメインを二重用途(問題-計画ペア生成と報酬関数)に転用する点が新しい。 - reasoning LLMのCoT supervisionはロボットタスクでは収集コストが高く、RLはreward engineeringが課題であるが、本手法はドメイン由来の報酬でこれを回避する。 - 結果として高い計画成功率、強いcross-task generalization、低い推論コスト、不完全logical stateへの耐性を主張。

3. 技術・手法の肝は?

- LLMがsymbolic planning domainを自律生成(self-teaching)。 - 生成ドメインから大規模にproblem-plan pairを生成し、自動でextended CoT trajectoryへ変換してsupervised fine-tuningに使用。 - 同じ自己生成ドメインをstructured reward functionとして再利用し、RLにdense feedbackを供給(手作業reward engineering不要)。 - これらを単一のunified training pipelineに統合し、planning-enhanced LLMを訓練。 - 詳細なアルゴリズムやモデル構成は要旨からは不明。

4. どうやって有効だと検証した?

- 計画成功率の向上、cross-task generalizationの強化、推論コストの削減、不完全なlogical stateへの耐性という観点で有効性を主張。 - 具体的なベンチマーク名・データセット・比較手法・実験設定は要旨からは不明。 - GitHub Page(https://markli1hoshipu.github.io/Plan_LLM/)が公開されている。

5. 議論はある?

- 生成ドメインの品質や不完全なlogical state・perception noise下での頑健性に関する議論は要旨からは不明。 - reward engineering不要化の限界、RL訓練の安定性、CoT軌跡の品質管理については要旨からは不明。 - 推論コスト削減の具体的要因や定量評価も要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照/比較されている個別研究名は明示されていない。 - 関連手法として、LLMによるautomatic planning domain generation、chain-of-thought (CoT) supervision、reinforcement learning (RL)とreward engineering、planning-enhanced LLMに関する研究を挙げる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jinbang Huang, Zhiyuan Li, Yuanzhao Hu, Zhanguang Zhang, Mark Coates, Xingyue Quan, Yingxue Zhang

分類: cs.RO

原文アブストラクト

Large Language Models (LLMs) have recently shown strong promise for robotic task planning, particularly through automatic planning domain generation. However, prior approaches largely treat generated planning domains as planning utilities, which are brittle under imperfect logical states and perception noise, overlooking their potential as scalable sources of reasoning supervision and structured reward signals. At the same time, reasoning LLMs depend on chain-of-thought (CoT) supervision that is expensive to collect for robotic tasks, and reinforcement learning (RL) faces challenges in reward engineering. We propose Self-CriTeach, an LLM self-teaching and self-critiquing framework in which an LLM autonomously generates symbolic planning domains that serve a dual role: (1) enabling large-scale generation of robotic planning problem-plan pairs, and (2) providing structured reward functions. First, the self-written domains enable large-scale generation of symbolic task plans, which are automatically transformed into extended CoT trajectories for supervised fine-tuning. Second, the self-written domains are reused as structured reward functions, providing dense feedback for reinforcement learning without manual reward engineering. This unified training pipeline yields a planning-enhanced LLM with higher planning success rates, stronger cross-task generalization, reduced inference cost, and resistance to imperfect logical states. GitHub Page: https://markli1hoshipu.github.io/Plan_LLM/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI