DeepKoCo: タスクに関連するKoopman表現を用いた効率的な潜在計画
DeepKoCo: Efficient latent planning with a task-relevant Koopman representation
画像からタスクに関連するKoopman潜在表現を学習し、線形モデル予測制御で効率的に計画するモデルベースエージェントを提案。複雑な制御タスクでモデルフリー手法と同等の性能を保ちつつ、妨害的ダイナミクスへの頑健性が高い。
著者: Bas van der Heijden, Laura Ferranti, Jens Kober, Robert Babuska
分類: cs.LG, cs.CV, cs.RO, cs.SY, eess.SY
原文アブストラクト
This paper presents DeepKoCo, a novel model-based agent that learns a latent Koopman representation from images. This representation allows DeepKoCo to plan efficiently using linear control methods, such as linear model predictive control. Compared to traditional agents, DeepKoCo learns task-relevant dynamics, thanks to the use of a tailored lossy autoencoder network that allows DeepKoCo to learn latent dynamics that reconstruct and predict only observed costs, rather than all observed dynamics. As our results show, DeepKoCo achieves similar final performance as traditional model-free methods on complex control tasks while being considerably more robust to distractor dynamics, making the proposed agent more amenable for real-life applications.
関連論文
- テスト時モデルベース強化学習による世界モデルへの記憶の符号化モデルベース強化学習
- 再考:世界モデルにおける比較的想像を通じた探索と計画モデルベース強化学習
- アクションジェット:行動条件付きデータ多様体の局所形状の学習モデルベース強化学習
- 未モデル状態依存性下での学習クリティックによる最適制御モデルベース強化学習
- VIGOR: モデルベース強化学習における潜在空間一貫性によるゼロショット視覚汎化モデルベース強化学習
- 行動なし時系列からの動的埋め込みによる転移可能な方策学習モデルベース強化学習
