日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2509.18597

身体性エージェントと共に成長する:長期的マニピュレーションスキルのための人間参加型生涯コード生成フレームワーク

Growing with Your Embodied Agent: A Human-in-the-Loop Lifelong Code Generation Framework for Long-Horizon Manipulation Skills

シェア:XThreadsFacebookLINEはてブBluesky

人間の修正を再利用可能なスキルとして記憶し、検索拡張生成で動的に再利用する人間参加型フレームワークを提案。長期的なロボットマニピュレーションタスクの成功率と効率を大幅に改善した。

詳しい要約

1. どんなもの?

- LLM によるロボット操作のコード生成フレームワーク - 人間の指示を実行可能なコードへ直接変換する枠組み - human-in-the-loop で修正を再利用可能な skill として蓄積 - 外部 memory と Retrieval-Augmented Generation (RAG) を併用 - hint mechanism により skill を動的に再利用 - 対象は long-horizon manipulation skill - 20 を超える primitive の計画を要する「build a house」等を想定

2. 先行研究と比べてどこがすごい?

- 既存 LLM ベース code generation の課題を指摘 - 出力が noisy、固定 primitive に制約、context window が限定的 - long-horizon タスクで苦戦 - 既存の closed-loop feedback との違い - 修正知識が不適切な形式で保存され、汎化を妨げ catastrophic forgetting を招く問題に対処 - 修正を再利用可能な skill として符号化 - LLM 単独ではロボット領域の推論能力が限られ、超 long-horizon で失敗する点を人間の介入で補う - 実験で最大 27% 高い成功率、修正ラウンド 42% 効率改善を報告

3. 技術・手法の肝は?

- human-in-the-loop フレームワーク - 人間の修正を reusable skill として符号化 - 外部 memory を備え、修正知識を蓄積・参照 - Retrieval-Augmented Generation (RAG) で必要な skill を検索 - hint mechanism により skill を動的に再利用 - LLM によるコード生成と組み合わせ、long-horizon 計画を支援 - 詳細なアルゴリズムや memory の構造は要旨からは不明

4. どうやって有効だと検証した?

- シミュレーションベンチマークで評価 - Ravens - Franka Kitchen - MetaWorld - 実世界設定でも検証 - 結果 - 成功率 0.93(baseline より最大 27% 高い) - 修正ラウンドで 42% の効率改善 - 20 を超える primitive を要する「build a house」等の超 long-horizon タスクを頑健に解決

5. 議論はある?

- 修正知識の保存形式が汎化と catastrophic forgetting に与える影響を議論 - LLM 単独のロボット領域における推論限界と、人間による修正の必要性を指摘 - 外部 memory と RAG による skill 再利用の有効性を示唆 - 限界や失敗事例、人間介入コストの詳細は要旨からは不明

6. 次に読むべき論文は?

- 要旨で直接参照・比較されている研究は明示されていない - 関連手法として以下が挙げられる - LLM-based code generation for robotic manipulation - closed-loop feedback を用いた code generation - Retrieval-Augmented Generation (RAG) - human-in-the-loop 学習 - 同分野の定番として Code as Policies や SayCan 等の LLM によるロボット計画手法が次の候補

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuan Meng, Zhenguo Sun, Max Fest, Xukun Li, Zhenshan Bing, Alois Knoll

分類: cs.RO

原文アブストラクト

Large language models (LLMs)-based code generation for robotic manipulation has recently shown promise by directly translating human instructions into executable code, but existing methods remain noisy, constrained by fixed primitives and limited context windows, and struggle with long-horizon tasks. While closed-loop feedback has been explored, corrected knowledge is often stored in improper formats, restricting generalization and causing catastrophic forgetting, which highlights the need for learning reusable skills. Moreover, approaches that rely solely on LLM guidance frequently fail in extremely long-horizon scenarios due to LLMs' limited reasoning capability in the robotic domain, where such issues are often straightforward for humans to identify. To address these challenges, we propose a human-in-the-loop framework that encodes corrections into reusable skills, supported by external memory and Retrieval-Augmented Generation with a hint mechanism for dynamic reuse. Experiments on Ravens, Franka Kitchen, and MetaWorld, as well as real-world settings, show that our framework achieves a 0.93 success rate (up to 27% higher than baselines) and a 42% efficiency improvement in correction rounds. It can robustly solve extremely long-horizon tasks such as "build a house", which requires planning over 20 primitives.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI