日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2509.07953

RaC: 復旧と修正のスケーリングによる長期的タスクのロボット学習

RaC: Robot Learning for Long-Horizon Tasks by Scaling Recovery and Correction

シェア:XThreadsFacebookLINEはてブBluesky

人間の介入による復旧・修正軌道でロボット政策を微調整し、長期的タスクの効率と堅牢性を向上させる手法を提案。

詳しい要約

1. どんなもの?

- ロボット模倣学習の新しい訓練フェーズ「RaC」を提案する研究。 - imitation learning による事前学習の後、human-in-the-loop の roll-out 上で追加訓練する。 - 対象は contact-rich、deformable-object、long-horizon タスク。 - 実世界の bimanual 制御タスク(shirt hanging、airtight container lid sealing、takeout box packing)と simulated assembly task で評価。

2. 先行研究と比べてどこがすごい?

- 従来は human teleoperation による expert データ収集が中心で、数千の expert demonstrations でも性能が頭打ちになる非効率があった。 - RaC は recovery と correction の介入軌跡で fine-tune することで、retry や adaptation の技能を獲得させる。 - 先行 state-of-the-art を 10× 少ないデータ収集時間とサンプル数で上回る。 - test-time scaling を示し、recovery maneuvers の数に対して性能が線形に向上する点が新しい。

3. 技術・手法の肝は?

- imitation learning で事前学習した policy を用意する。 - policy rollout 中、失敗が差し迫った時に人間が介入する。 - 介入はまず in-distribution な状態へ rewinding し、その後 current sub-task を完了する corrective segment を提示する。 - この recovery と correction を含む human intervention trajectories で policy を fine-tune する。 - データ構成により retry と adaptation の行動を技能レパートリーに加える。

4. どうやって有効だと検証した?

- 実世界の bimanual 制御タスク3種(shirt hanging、airtight container lid sealing、takeout box packing)と simulated assembly task で検証。 - 先行 state-of-the-art と比較し、10× 少ないデータ収集時間とサンプル数で上回ることを示す。 - recovery maneuvers の数に対する性能の線形スケーリング(test-time scaling)を確認。 - 学習済み policy の動画を公開。

5. 議論はある?

- 要旨からは不明。 - 明示されているのは、recovery と correction のデータが long-horizon タスクの効率と頑健性に重要という主張。 - human-in-the-loop 介入のコストや介入品質への依存、他タスクへの一般化については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で直接参照されている先行研究は明示されていない。 - 関連手法として imitation learning、human-in-the-loop 介入を用いる DAgger 系の手法、teleoperation による expert demonstration 収集、test-time scaling の研究が次に読む候補。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zheyuan Hu, Robyn Wu, Naveen Enock, Jasmine Li, Riya Kadakia, Zackory Erickson, Aviral Kumar

分類: cs.RO, cs.LG

原文アブストラクト

Modern paradigms for robot imitation train expressive policy architectures on large amounts of human demonstration data. Yet performance on contact-rich, deformable-object, and long-horizon tasks plateau far below perfect execution, even with thousands of expert demonstrations. This is due to the inefficiency of existing ``expert'' data collection procedures based on human teleoperation. To address this issue, we introduce RaC, a new phase of training on human-in-the-loop rollouts after imitation learning pre-training. In RaC, we fine-tune a robotic policy on human intervention trajectories that illustrate recovery and correction behaviors. Specifically, during a policy rollout, human operators intervene when failure appears imminent, first rewinding the robot back to a familiar, in-distribution state and then providing a corrective segment that completes the current sub-task. Training on this data composition expands the robotic skill repertoire to include retry and adaptation behaviors, which we show are crucial for boosting both efficiency and robustness on long-horizon tasks. Across three real-world bimanual control tasks: shirt hanging, airtight container lid sealing, takeout box packing, and a simulated assembly task, RaC outperforms the prior state-of-the-art using 10$\times$ less data collection time and samples. We also show that RaC enables test-time scaling: the performance of the trained RaC policy scales linearly in the number of recovery maneuvers it exhibits. Videos of the learned policy are available at https://rac-scaling-robot.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI