日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2510.14830

RL-100: 実世界強化学習による高性能ロボットマニピュレーション

RL-100: Performant Robotic Manipulation with Real-World Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

拡散視覚運動ポリシーに模倣学習と強化学習を統合し、軽量な蒸留で高速制御を実現した実世界ロボットマニピュレーションのフレームワーク。8つの多様な実タスクで100%の成功率を達成。

詳しい要約

1. どんなもの?

- 実世界のロボットマニピュレーションのための強化学習フレームワーク「RL-100」 - diffusion visuomotor policy を基盤とする - imitation learning と reinforcement learning を統合 - 家庭や工場での信頼性・効率・堅牢性を目指す - タスク・embodiment・表現に依存しない設計 - single-action と action-chunking の両制御をサポート

2. 先行研究と比べてどこがすごい?

- 従来の実世界RLと比べ、imitation と RL を単一の clipped PPO surrogate objective で統合 - denoising process 内に適用し、offline/online 両段階で保守的かつ安定した改善を実現 - 軽量な consistency distillation により multi-step diffusion を one-step controller に圧縮 - 展開時のレイテンシ要件に対応し高頻度制御を可能に - 8つの実ロボットタスクで1000/1000エピソード成功 - 1タスクで最大250/250連続成功 - 完了時間で専門テレオペレータに匹敵または上回る - 再訓練なしで約90%のzero-shot成功、few-shotで86.7%、人間の妨害に約96%の堅牢性 - ショッピングモールで約7時間連続無故障運用

3. 技術・手法の肝は?

- diffusion visuomotor policy 上に構築 - imitation と RL を単一の clipped PPO surrogate objective に統合 - denoising process 内で適用 - offline と online の両段階で保守的・安定な改善 - consistency distillation による軽量化 - multi-step diffusion を one-step controller に圧縮し高頻度制御を実現 - タスク・embodiment・表現に非依存 - single-action と action-chunking の両方をサポート

4. どうやって有効だと検証した?

- 8つの多様な実ロボットタスクで評価 - dynamic pushing、agile bowling、pouring、cloth folding、unscrewing、multi-stage juicing、long-horizon box folding など - 評価試行で100%成功(1000/1000エピソード) - 1タスクで最大250/250連続成功 - 完了時間で専門テレオペレータに匹敵または上回る - 再訓練なしのzero-shotで環境・動力学シフト下約90%成功 - few-shotで大きなタスク変動に適応(86.7%) - 人間の激しい妨害に約96%の堅牢性 - ショッピングモールでjuicing robotが約7時間連続無故障運用

5. 議論はある?

- 人間のpriorから開始し、人間基準の指標に訓練目的を整合させ、人間のデモを超えて性能を拡張する実用的道筋を示唆 - 展開可能なロボット学習への実践的アプローチを提示 - 具体的な限界や失敗事例、計算コスト、スケーラビリティの議論は要旨からは不明 - 8タスク・1000エピソードの評価だが、タスク多様性や一般化範囲の詳細は要旨からは不明

6. 次に読むべき論文は?

- diffusion policy(diffusion visuomotor policy の基盤手法) - clipped PPO(surrogate objective の基礎) - consistency distillation(one-step 化の関連手法) - imitation learning と reinforcement learning の統合に関する先行研究 - action-chunking 制御に関する研究 - 実世界ロボットRLの展開研究(要旨で具体的な参照論文は明示されず)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kun Lei, Huanyu Li, Dongjie Yu, Zhenyu Wei, Lingxiao Guo, Zhennan Jiang, Ziyu Wang, Shiyu Liang, Huazhe Xu

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Real-world robotic manipulation in homes and factories demands reliability, efficiency, and robustness that approach or surpass those of skilled human operators. We present RL-100, a real-world reinforcement learning framework built on diffusion visuomotor policies. RL-100 unifies imitation and reinforcement learning under a single clipped PPO surrogate objective applied within the denoising process, yielding conservative and stable improvements across offline and online stages. To meet deployment latency requirements, a lightweight consistency distillation method compresses multi-step diffusion into a one-step controller for high-frequency control. The framework is task-, embodiment-, and representation-agnostic, and supports both single-action and action-chunking control. We evaluate RL-100 on eight diverse real-robot tasks, from dynamic pushing and agile bowling to pouring, cloth folding, unscrewing, multi-stage juicing, and long-horizon box folding. RL-100 attains 100 percent success across evaluated trials, for a total of 1000 out of 1000 episodes, including up to 250 out of 250 consecutive trials on one task. It matches or surpasses expert teleoperators in time to completion. Without retraining, a single policy attains approximately 90 percent zero-shot success under environmental and dynamics shifts, adapts in a few-shot regime to significant task variations (86.7 percent), and remains robust to aggressive human perturbations (about 96 percent). Notably, our juicing robot served random customers continuously for about seven hours without failure when deployed zero-shot in a shopping mall. These results suggest a practical path to deployment-ready robot learning by starting from human priors, aligning training objectives with human-grounded metrics, and reliably extending performance beyond human demonstrations.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI