日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/蒸留arXiv:2604.07944

自動運転車両の運動計画のための言語モデルのオンポリシー蒸留

On-Policy Distillation of Language Models for Autonomous Vehicle Motion Planning

シェア:XThreadsFacebookLINEはてブBluesky

大規模言語モデル(LLM)による自動運転の運動計画知識を、小型の学生モデルへ効果的に蒸留する手法を研究。オンポリシー蒸留(GKD)が強化学習ベースラインを上回り、モデルサイズを5倍削減しても教師モデルに匹敵する性能を達成した。

詳しい要約

1. どんなもの?

- 大規模言語モデル(LLM)を自動運転の motion planning に応用する研究。 - 軌道予測を言語生成問題として再定式化する GPT-Driver フレームワークを基盤とする。 - 大規模 teacher LLM から小型で展開可能な student モデルへ motion planning 知識を転移する方法を検討。 - 2つの student 訓練パラダイムを比較:on-policy generalized knowledge distillation (GKD) と dense-feedback reinforcement learning (RL) ベースライン。 - nuScenes ベンチマークで評価。

2. 先行研究と比べてどこがすごい?

- 従来の LLM ベース motion planning は大規模モデルの計算資源問題があった。 - 本研究は teacher から student への知識蒸留により、モデルサイズを 5 倍削減しながら teacher レベルの性能に近づけることを示した。 - 特に on-policy GKD が dense-feedback RL ベースラインを大幅に上回ることを明らかにした点が新しい。 - 資源制約のある車載システムへの展開可能性を示した。

3. 技術・手法の肝は?

- GPT-Driver フレームワークを採用:運転シーンを言語プロンプトで表現し、chain-of-thought 推論で waypoint 軌道を生成。 - GKD:student が自己生成した出力に対して、teacher から密な token レベルのフィードバックを得て訓練する on-policy 蒸留。 - RL ベースライン:teacher の log-probabilities を token ごとの報酬信号として policy gradient フレームワークで利用。 - 両手法を比較し、GKD の有効性を検証。

4. どうやって有効だと検証した?

- nuScenes ベンチマークで実験を実施。 - GKD が RL ベースラインを大幅に上回り、モデルサイズ 5 倍削減にもかかわらず teacher レベルの性能に近づくことを示した。 - これにより on-policy 蒸留の有効性を実証。

5. 議論はある?

- 要旨からは、具体的な議論や限界についての記述は不明。 - 結果から、on-policy 蒸留が LLM ベースプランナーの実用的展開に有効であると主張。 - しかし、他の手法との比較や一般化可能性、安全性の議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照されている研究:GPT-Driver フレームワーク。 - 比較手法:dense-feedback reinforcement learning (RL) ベースライン。 - 関連手法:generalized knowledge distillation (GKD)。 - 同分野の定番:nuScenes ベンチマークを用いた motion planning 研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Amirhossein Afsharrad, Amirhesam Abedsoltan, Ahmadreza Moradipari, Sanjay Lall

分類: cs.RO, cs.AI, cs.SY, eess.SY

原文アブストラクト

Large language models (LLMs) have recently demonstrated strong potential for autonomous vehicle motion planning by reformulating trajectory prediction as a language generation problem. However, deploying capable LLMs in resource-constrained onboard systems remains a fundamental challenge. In this paper, we study how to effectively transfer motion planning knowledge from a large teacher LLM to a smaller, more deployable student model. We build on the GPT-Driver framework, which represents driving scenes as language prompts and generates waypoint trajectories with chain-of-thought reasoning, and investigate two student training paradigms: (i) on-policy generalized knowledge distillation (GKD), which trains the student on its own self-generated outputs using dense token-level feedback from the teacher, and (ii) a dense-feedback reinforcement learning (RL) baseline that uses the teacher's log-probabilities as per-token reward signals in a policy gradient framework. Experiments on the nuScenes benchmark show that GKD substantially outperforms the RL baseline and closely approaches teacher-level performance despite a 5$\times$ reduction in model size. These results highlight the practical value of on-policy distillation as a principled and effective approach to deploying LLM-based planners in autonomous driving systems.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI