多様な視覚運動スキルのための強化学習と模倣学習の融合
Reinforcement and Imitation Learning for Diverse Visuomotor Skills
少量のデモデータを活用して強化学習エージェントを支援するモデルフリー深層RL手法を提案し、RGB画像から関節速度を直接出力する視覚運動ポリシーを訓練した。多様なマニピュレーションタスクで単独のRLや模倣学習より高性能を示し、sim2real転移の可能性も示した。
著者: Yuke Zhu, Ziyu Wang, Josh Merel, Andrei Rusu, Tom Erez, Serkan Cabi, Saran Tunyasuvunakool, János Kramár, Raia Hadsell, Nando de Freitas, Nicolas Heess
分類: cs.RO, cs.AI, cs.LG
原文アブストラクト
We propose a model-free deep reinforcement learning method that leverages a small amount of demonstration data to assist a reinforcement learning agent. We apply this approach to robotic manipulation tasks and train end-to-end visuomotor policies that map directly from RGB camera inputs to joint velocities. We demonstrate that our approach can solve a wide variety of visuomotor tasks, for which engineering a scripted controller would be laborious. In experiments, our reinforcement and imitation agent achieves significantly better performances than agents trained with reinforcement learning or imitation learning alone. We also illustrate that these policies, trained with large visual and dynamics variations, can achieve preliminary successes in zero-shot sim2real transfer. A brief visual description of this work can be viewed in https://youtu.be/EDl8SQUNjj0
関連論文
- 高次行動監督による強力な方策クラス模倣学習/強化学習
- ConTrack: 適応的トレードオフ制御による拘束付き手の動作追跡模倣学習/強化学習
- 不完全なデモンストレーションからの学習:時間行動木ガイドによる軌道修復模倣学習/強化学習
- IN-RIL: 模倣学習と強化学習を交互に組み合わせた方策ファインチューニング模倣学習/強化学習
- DFM: 表現豊かなダンス動作学習のための深層フーリエ模倣模倣学習/強化学習
- BMP:Bスプラインと運動プリミティブの橋渡し模倣学習/強化学習
