マルチゴールオフライン強化学習のためのゴール条件付きDecision Transformer
Goal-Conditioned Decision Transformer for Multi-Goal Offline Reinforcement Learning
ゴール状態を系列モデリングに組み込んだDecision Transformerにより、収集済みデータのみでロボットの多様なタスクを効率的に学習する手法を提案し、Franka Pandaのオフラインデータセットで有効性を示した。
著者: Paweł Gajewski, Dominik Żurek, Marcin Pietroń, Kamil Faber
分類: cs.RO, cs.AI
原文アブストラクト
Reinforcement learning (RL) in robotics faces significant hurdles regarding sample efficiency and generalization across varying goals. While Offline RL mitigates the need for costly online interactions, its integration with goal-conditioned policies and transformer-based architectures remains underexplored. We introduce a Goal-Conditioned Decision Transformer adapted for offline multi-goal robotics. By explicitly incorporating goal states into the sequence modeling framework, our approach efficiently solves varying tasks using only pre-collected data. We validate this method on a newly released offline dataset for the Franka Emika Panda platform. Experimental results demonstrate that our approach outperforms state-of-the-art online baselines in complex tasks and maintains robustness in sparse-reward settings, even with limited expert demonstrations.
関連論文
- FaST: オフライン強化学習のための遷移の因子分解合成オフライン強化学習
- 拡散ポリシーで誘導する拡散プランナーによるオフライン強化学習オフライン強化学習
- MAC-v2: ピクセル入力からの長期的モデルベース価値展開オフライン強化学習
- タスク認識表現を備えたDecision Transformerによるオフライン・メタ強化学習オフライン強化学習
- 効率的な拡散オフライン強化学習のための合成的平均速度モデリングオフライン強化学習
- 対話制約付きオフライン強化学習による自動運転オフライン強化学習
