日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2512.16861

ReinforceGen:自動データ生成と強化学習によるハイブリッドスキルポリシー

ReinforceGen: Hybrid Skill Policies with Automated Data Generation and Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

タスクを局所的なスキルに分解し、10件の人間デモから模倣学習で初期方策を構築した後、強化学習で微調整する長期的マニピュレーション手法を提案。

詳しい要約

1. どんなもの?

- 長期的な manipulation タスクを対象としたロボティクスシステム - ReinforceGen と名付けられた手法 - 構成要素: - task decomposition - data generation - imitation learning - motion planning - reinforcement learning による fine-tuning - 各コンポーネントを RL で改善する統合システム

2. 先行研究と比べてどこがすごい?

- 従来の long-horizon manipulation の難しさに対処 - 単一手法ではなく複数要素を組み合わせて初期解を構成 - 10 件の human demonstrations からデータ生成し imitation learning で学習 - その後 online adaptation と reinforcement learning で fine-tuning - 詳細な先行研究比較は要旨からは不明

3. 技術・手法の肝は?

- タスクを複数の localized skills に分割 - skills 間を motion planning で接続 - 10 human demonstrations から生成したデータセットで imitation learning - skills と motion planning targets を学習 - online adaptation と reinforcement learning で fine-tuning - visuomotor controls に対応

4. どうやって有効だと検証した?

- Robosuite dataset でベンチマーク - 最高 reset range 設定で全タスク 80% success rate - ablation studies で fine-tuning が平均 89% の性能向上に寄与 - 実世界評価でも fine-tuning による有意な改善を確認 - 詳細な実験設定は要旨からは不明

5. 議論はある?

- fine-tuning の寄与が大きいことを ablation で示唆 - 実世界でも改善を報告 - 限界や失敗事例の議論は要旨からは不明 - 一般化性やスケーラビリティの議論は要旨からは不明

6. 次に読むべき論文は?

- Robosuite 関連のベンチマーク研究 - imitation learning と reinforcement learning を組み合わせた fine-tuning 手法 - long-horizon manipulation の task decomposition 研究 - motion planning と学習を統合した手法 - 具体的な参照論文は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zihan Zhou, Animesh Garg, Ajay Mandlekar, Caelan Garrett

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Long-horizon manipulation has been a long-standing challenge in the robotics community. We propose ReinforceGen, a system that combines task decomposition, data generation, imitation learning, and motion planning to form an initial solution, and improves each component through reinforcement-learning-based fine-tuning. ReinforceGen first segments the task into multiple localized skills, which are connected through motion planning. The skills and motion planning targets are trained with imitation learning on a dataset generated from 10 human demonstrations, and then fine-tuned through online adaptation and reinforcement learning. When benchmarked on the Robosuite dataset, ReinforceGen reaches 80% success rate on all tasks with visuomotor controls in the highest reset range setting. Additional ablation studies show that our fine-tuning approaches contribute to an 89% average performance increase. Finally, ReinforceGen demonstrates significant improvement through fine-tuning in our real-world evaluations. More results and videos are available at https://reinforcegen.github.io.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI