日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/強化学習arXiv:2510.24108

人間のデモンストレーション不要の軌道スコアラーによるエンドツーエンド自動運転

Zero-Human Demonstration End-to-end Autonomous Driving with Trajectory Scorer

シェア:XThreadsFacebookLINEはてブBluesky

人間のデモンストレーションを一切使わず、実世界画像とルールベース報酬のみで学習する強化学習ベースのエンドツーエンド自動運転計画手法ZTRSを提案し、長尾シナリオで模倣学習を上回る性能を示した。

詳しい要約

1. どんなもの?

- 人間のデモンストレーションを一切使わない end-to-end (E2E) 自動運転の計画パラダイム ZTRS を提案 - 実世界画像と rule-based rewards のみで学習する純粋な RL ベースの E2E 計画手法 - 提案する Exhaustive Policy Optimization (EPO) により long-tail シナリオへの汎化を狙う - プロジェクトページ: https://zhenxinli.net/ZTRS/

2. 先行研究と比べてどこがすごい?

- 従来の E2E AD は Imitation Learning (IL) で人間デモンストレーションに依存 - RL ベースの代替も多くが暗黙的に人間デモンストレーションに依存 - 純粋な rewards ベース RL は cold-start 問題を抱える - ZTRS は人間デモンストレーションを完全に排除しつつ long-tail への汎化を実現 - long-tail の Navhard と closed-loop の HUGSIM で IL 手法に対し SOTA 性能を報告

3. 技術・手法の肝は?

- 実世界画像と rule-based rewards のみで学習する完全 RL ベースの E2E 計画 - Exhaustive Policy Optimization (EPO) を提案 - 列挙可能な trajectory 行動と dense supervision に特化した policy gradient 変種 - EPO により long-tail 運転シナリオへの汎化を促進 - 詳細なネットワーク構成や報酬設計は要旨からは不明

4. どうやって有効だと検証した?

- long-tail データセット Navhard で IL 手法と比較し SOTA 性能を報告 - closed-loop シミュレータ HUGSIM でも IL 手法に対し SOTA 性能を報告 - これらにより long-tail シナリオへの汎化を実証したと主張 - 具体的な指標・実験設定は要旨からは不明

5. 議論はある?

- 人間デモンストレーション不要で long-tail と safety-critical シナリオに対応できる可能性を主張 - 純粋 rewards ベース RL の cold-start 問題を EPO で緩和できると示唆 - 限界・失敗ケース・報酬設計の感度などは要旨からは不明 - 実車での検証や sim-to-real の議論は要旨からは不明

6. 次に読むべき論文は?

- Imitation Learning (IL) ベースの E2E AD 研究(比較対象) - 既存の RL ベース E2E AD 手法(人間デモンストレーションに暗黙依存するもの) - policy gradient 手法とその cold-start 問題に関する研究 - Navhard データセットおよび HUGSIM シミュレータの関連論文 - rule-based reward 設計に関する研究(同分野の定番として)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhenxin Li, Nadine Chang, Wenhao Yao, Xinglong Sun, Zi Wang, Maying Shen, Jingde Chen, Jingyu Song, Kailin Li, Zuxuan Wu, Shiyi Lan, Jose M. Alvarez

分類: cs.RO, cs.CV

原文アブストラクト

Human demonstrations are widely considered the cornerstone of end-to-end (E2E) autonomous driving despite human demonstration's scarcity for long-tail and safety-critical scenarios. Nonetheless, current E2E autonomous driving (AD) training paradigms continue to rely on human demonstrations. Imitation learning (IL) requires human demonstrations for training, whereas reinforcement learning (RL) has emerged as a promising alternative to reduce this dependency. However, most existing RL methods for E2E AD still rely implicitly on human demonstrations. A pure rewards-based RL method can overcome the need for human demonstrations, but general RL policy gradient methods suffer from the cold-start problem. In this paper, we propose ZTRS (Zero-human demonstration end-to-end autonomous driving with TRajectory Scorer) - a complete RL-based E2E planning paradigm trained solely on real-world images and rule-based rewards, entirely without human demonstration. Through our proposed Exhaustive Policy Optimization (EPO), a policy gradient variant tailored for enumerable trajectory actions and dense supervision, ZTRS enables the model to generalize better to long-tail driving scenarios. We demonstrate this generalization through our SOTA performance against IL approaches on both long-tail Navhard and closed-loop HUGSIM datasets. Project page: https://zhenxinli.net/ZTRS/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI