日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/強化学習arXiv:2602.02236

実時間リカレント強化学習による自動運転の適応制御

Adaptive Control in Autonomous Driving via Real-Time Recurrent RL

シェア:XThreadsFacebookLINEはてブBluesky

メモリ効率の良いRTRRLで事前学習済み運転ポリシーをオンライン微調整し、LrcSSMと組み合わせてシミュレーションと実機イベントカメラで適応制御を実証した。

詳しい要約

1. どんなもの?

- 自動運転のための事前学習済み制御ポリシーを、Real-Time Recurrent Reinforcement Learning (RTRRL) を用いてオンライン微調整する研究。 - RTRRL は時間方向の逆伝播 (backpropagation through time) を行わず、各時間ステップでポリシーパラメータを更新するメモリ効率の良いアルゴリズム。 - LrcSSM という非線形対角状態空間モデルをサポートするように RTRRL を拡張。 - オフラインの behavioral cloning とオンライン RTRRL 微調整を組み合わせ、展開時の分布シフトに適応。 - CarRacing シミュレーションと、イベントカメラを搭載した 1:10 スケールの RoboRacer プラットフォームで検証。

2. 先行研究と比べてどこがすごい?

- 標準的な (非スパイキング) ハードウェア上で、イベントカメラ観測を用いたオンライン強化学習微調整を閉ループ制御で実証した初の試み。 - 従来の RTRRL は LrcSSM をサポートしていなかったが、本研究で拡張。 - オフライン行動クローニングとオンライン RTRRL 微調整の組み合わせにより、展開時の分布シフトへの適応を実現。 - LrcSSM ベースのポリシーが両設定で最も速く一貫した改善を示す。

3. 技術・手法の肝は?

- Real-Time Recurrent Reinforcement Learning (RTRRL) を拡張し、LrcSSM (非線形対角状態空間モデル) をサポート。 - 時間方向の逆伝播を行わず、各時間ステップでポリシーパラメータを更新するメモリ効率の良いオンライン学習。 - オフラインで behavioral cloning により事前学習したポリシーを、オンラインで RTRRL により微調整。 - イベントカメラからの観測を入力として使用。

4. どうやって有効だと検証した?

- CarRacing シミュレーションで検証。 - 1:10 スケールの RoboRacer プラットフォームにイベントカメラを搭載し、実世界のライン追従中に事前学習済みポリシーをオンライン微調整。 - LrcSSM ベースのポリシーが両設定で最も速く一貫した改善を示すことを確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- LrcSSM (非線形対角状態空間モデル) の原論文。 - Real-Time Recurrent Reinforcement Learning (RTRRL) の原論文。 - イベントカメラを用いた強化学習に関する研究。 - 自動運転におけるオンライン強化学習微調整に関する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Julian Lemmel, Felix Resch, Mónika Farsang, Ramin Hasani, Daniela Rus, Radu Grosu

分類: cs.RO, cs.LG, cs.NE, cs.SY, eess.SY

原文アブストラクト

We study online fine-tuning of pretrained control policies for autonomous driving using Real-Time Recurrent Reinforcement Learning (RTRRL), a memory-efficient algorithm that updates policy parameters at every time step without backpropagation through time. We extend RTRRL to support LrcSSM, a recently proposed nonlinear diagonal state-space model, and combine offline behavioral cloning with online RTRRL fine-tuning to adapt policies to distribution shifts at deployment. We validate the approach in the CarRacing simulation and on a 1:10-scale RoboRacer platform equipped with an event camera, where a pretrained policy is fine-tuned online during real-world line-following. To our knowledge, this is the first demonstration of online RL fine-tuning with event-camera observations on standard (non-spiking) hardware in closed-loop control. LrcSSM-based policies improve fastest and most consistently across both settings.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI