遊びながら学ぶ:スパース報酬タスクをゼロから解く
Learning by Playing - Solving Sparse Reward Tasks from Scratch
複数のスパース報酬信号のもとで、補助タスクを能動的にスケジューリングしながらオフポリシー強化学習で複雑なロボット操作行動をゼロから学習する手法SAC-Xを提案した。
著者: Martin Riedmiller, Roland Hafner, Thomas Lampe, Michael Neunert, Jonas Degrave, Tom Van de Wiele, Volodymyr Mnih, Nicolas Heess, Jost Tobias Springenberg
分類: cs.LG, cs.RO, stat.ML
原文アブストラクト
We propose Scheduled Auxiliary Control (SAC-X), a new learning paradigm in the context of Reinforcement Learning (RL). SAC-X enables learning of complex behaviors - from scratch - in the presence of multiple sparse reward signals. To this end, the agent is equipped with a set of general auxiliary tasks, that it attempts to learn simultaneously via off-policy RL. The key idea behind our method is that active (learned) scheduling and execution of auxiliary policies allows the agent to efficiently explore its environment - enabling it to excel at sparse reward RL. Our experiments in several challenging robotic manipulation settings demonstrate the power of our approach.
関連論文
- フロー反転アクションアンカーによるサンプル効率の高い強化学習方策改善強化学習/マニピュレーション
- フィードバック補正を備えたアクションチャンキングPPO強化学習/マニピュレーション
- 協調デルタ・3-RRSパラレルロボット挿入のための運動学認識型レインボー深層Q学習強化学習/マニピュレーション
- CONTHER: 後知恵経験再生とTransformerによる専門家デモ不要の人間らしい文脈的ロボット学習強化学習/マニピュレーション
- 多様性に基づく軌跡と目標選択を用いたHindsight Experience Replay強化学習/マニピュレーション
- 目標分布で条件付けする汎用強化学習ポリシー強化学習/マニピュレーション
