四輪ドローンのロバスト深層強化学習制御
Robust Deep Reinforcement Learning for Quadcopter Control
ロバストMDPを用いてドローン制御方策を学習し、未知の環境パラメータでも標準手法より高い汎化性能を示した。
著者: Aditya M. Deshpande, Ali A. Minai, Manish Kumar
分類: cs.RO, cs.AI, cs.LG, cs.SY, eess.SY, math.OC
原文アブストラクト
Deep reinforcement learning (RL) has made it possible to solve complex robotics problems using neural networks as function approximators. However, the policies trained on stationary environments suffer in terms of generalization when transferred from one environment to another. In this work, we use Robust Markov Decision Processes (RMDP) to train the drone control policy, which combines ideas from Robust Control and RL. It opts for pessimistic optimization to handle potential gaps between policy transfer from one environment to another. The trained control policy is tested on the task of quadcopter positional control. RL agents were trained in a MuJoCo simulator. During testing, different environment parameters (unseen during the training) were used to validate the robustness of the trained policy for transfer from one environment to another. The robust policy outperformed the standard agents in these environments, suggesting that the added robustness increases generality and can adapt to non-stationary environments. Codes: https://github.com/adipandas/gym_multirotor
関連論文
- 敵対的観測に対するロバスト強化学習のためのオフポリシーアクター・クリティック:対称的政策評価による仮想代替訓練ロバスト強化学習
- 線形混合分布ロバストマルコフ決定過程ロバスト強化学習
- 解釈可能なハミルトン・ヤコビ到達可能性に導かれた外乱によるロバスト方策の学習ロバスト強化学習
- 関数近似を用いたロバスト強化学習のための自然アクター・クリティックロバスト強化学習
- 敵対的ハードによる効率的でロバストな強化学習ロバスト強化学習
- 複数の不確実性集合に対するロバスト方策学習ロバスト強化学習
