機械システムの構造化学習のための汎用フレームワーク
A General Framework for Structured Learning of Mechanical Systems
ラグランジアンと一般化力をニューラルネットでモデル化し、事前知識を柔軟に組み込めるグレーボックスな力学モデル学習手法を提案。二重振り子でデータ効率とモデルベース強化学習性能がブラックボックス手法を上回ることを示した。
著者: Jayesh K. Gupta, Kunal Menda, Zachary Manchester, Mykel J. Kochenderfer
分類: cs.RO, cs.AI, cs.LG, cs.SY, eess.SY
原文アブストラクト
Learning accurate dynamics models is necessary for optimal, compliant control of robotic systems. Current approaches to white-box modeling using analytic parameterizations, or black-box modeling using neural networks, can suffer from high bias or high variance. We address the need for a flexible, gray-box model of mechanical systems that can seamlessly incorporate prior knowledge where it is available, and train expressive function approximators where it is not. We propose to parameterize a mechanical system using neural networks to model its Lagrangian and the generalized forces that act on it. We test our method on a simulated, actuated double pendulum. We show that our method outperforms a naive, black-box model in terms of data-efficiency, as well as performance in model-based reinforcement learning. We also conduct a systematic study of our method's ability to incorporate available prior knowledge about the system to improve data efficiency.
関連論文
- テスト時モデルベース強化学習による世界モデルへの記憶の符号化モデルベース強化学習
- 再考:世界モデルにおける比較的想像を通じた探索と計画モデルベース強化学習
- アクションジェット:行動条件付きデータ多様体の局所形状の学習モデルベース強化学習
- 未モデル状態依存性下での学習クリティックによる最適制御モデルベース強化学習
- VIGOR: モデルベース強化学習における潜在空間一貫性によるゼロショット視覚汎化モデルベース強化学習
- 行動なし時系列からの動的埋め込みによる転移可能な方策学習モデルベース強化学習
