強化学習によるレーシングポリシーの学習
On learning racing policies with reinforcement learning
強化学習を用いて自動運転レースのポリシーを学習し、ドメインランダム化やアクチュエータ動力学モデル化により実機でゼロショット展開を実現。F1TENTHでMPCを上回り、RCレースで人間の専門ドライバーを超えた初の事例。
著者: Grzegorz Czechmanowski, Jan Węgrzynowski, Piotr Kicki, Krzysztof Walas
分類: cs.RO, cs.SY, eess.SY
原文アブストラクト
Fully autonomous vehicles promise enhanced safety and efficiency. However, ensuring reliable operation in challenging corner cases requires control algorithms capable of performing at the vehicle limits. We address this requirement by considering the task of autonomous racing and propose solving it by learning a racing policy using Reinforcement Learning (RL). Our approach leverages domain randomization, actuator dynamics modeling, and policy architecture design to enable reliable and safe zero-shot deployment on a real platform. Evaluated on the F1TENTH race car, our RL policy not only surpasses a state-of-the-art Model Predictive Control (MPC), but, to the best of our knowledge, also represents the first instance of an RL policy outperforming expert human drivers in RC racing. This work identifies the key factors driving this performance improvement, providing critical insights for the design of robust RL-based control strategies for autonomous vehicles.
関連論文
- 安全フィルタリングを超えて:制御バリア関数を活用した連結自動運転車の強化学習強化学習/自動運転
- 運転意図の増幅による計画指向強化学習の性能向上強化学習/自動運転
- 実世界アジャイル運転のためのリセットフリー強化学習:実証研究強化学習/自動運転
- 減衰残差方策最適化による実世界自動運転レースの効率化強化学習/自動運転
- 報酬拡張強化学習による精密自動駐車の連続制御強化学習/自動運転
- 最大安全確率学習に基づく自律ドリフト制御強化学習/自動運転
