日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

自動運転/VLAarXiv:2608.13395

FIRE-VLA: 自動運転における視覚言語行動モデルの失敗情報に基づく自己進化

FIRE-VLA: Failure-Informed Self-Evolution for Vision-Language-Action Models in Autonomous Driving

シェア:XThreadsFacebookLINEはてブBluesky

自動運転のVLAモデルに対し、失敗した軌道サンプルを教師信号として活用する自己進化フレームワークを提案し、計画精度と失敗率を改善した。

詳しい要約

1. どんなもの?

FIRE-VLAは、自動運転向けVision-Language-Action (VLA)モデルの強化学習を改善するフレームワーク。GRPOが全軌道が不良な場合に失敗領域外の行動を特定できない問題に対処し、未解決の失敗を次のポリシーへの特権的監督に変換する自己進化手法を提案。

2. 先行研究と比べてどこがすごい?

従来のGRPOは報酬差のみで学習するため、全軌道が不良なグループでは失敗のランク付けはできても、失敗領域外の行動を特定できない。FIRE-VLAは、低報酬・低多様性グループに対して、凍結されたラウンド開始時点の同一モデルからの自己蒸留を導入し、失敗情報を明示的に監督に活用する点が新しい。外部の大規模教師を必要とせず、ポリシーと共に失敗分布を変化させる。

3. 技術・手法の肝は?

手法の核は、低報酬・低多様性グループを検出し、そのグループに対してのみ、ラウンド開始時の凍結コピー(教師)から自己蒸留を行う点。教師と生徒は同じパラメータ規模だが、教師のみが隠れた未来軌道を観測できる。蒸留は生徒の生成プレフィックスに従い、回答トークンのみに制限される。GRPOは全グループで有効のまま。更新されたポリシーが次のラウンドの教師となり、失敗分布を適応的に変化させる。

4. どうやって有効だと検証した?

Qwen2.5-VL-3B SFTチェックポイントから開始し、生徒のロールアウトとポリシー更新回数を一致させて比較。150シーンのnuScenesから6,019例で評価し、単一サンプル計画は同等、G=4の平均L2を1.848mから1.500mに低減、評価持続失敗率を13.03%から11.20%に低減。平均誤差の減少は主に稀な重大なロールアウトの改善によるもので、通常軌道の一様な改善ではない。

5. 議論はある?

要旨からは、平均誤差の改善が稀な重大なロールアウトに起因する点が議論として挙げられる。通常軌道への一様な改善ではないため、一般的な性能向上ではなく、失敗事例への特化が示唆される。また、自己蒸留の条件(低報酬・低多様性)の設定や、教師の凍結期間、蒸留の重みなどに関する詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されているGRPO(Group Relative Policy Optimization)と、ベースモデルであるQwen2.5-VLに関する論文。また、自動運転VLAモデルの関連研究として、nuScenesデータセットを用いた計画手法の論文が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hao Dou

分類: cs.RO

原文アブストラクト

Reinforcement learning improves autonomous-driving vision-language-action (VLA) models by evaluating trajectories sampled from the current policy. Group relative policy optimization (GRPO) learns from reward differences within each rollout group. When all sampled trajectories are poor, this relative signal can rank failures without identifying behavior outside the failed region. We introduce FIRE-VLA, a failure-informed self-evolution framework that converts such unresolved failures into privileged supervision for the next policy. Low-reward, low-diversity groups trigger self-distillation from a frozen round-start copy of the same model. Teacher and student have the same parameter scale, but only the teacher observes the hidden future trajectory. Supervision follows the student's generated prefix and is restricted to answer tokens, while GRPO remains active for every group. The updated policy supplies the teacher for the next round, allowing the routed failure distribution to change with the policy without requiring a larger external teacher. Starting from the same Qwen2.5-VL-3B SFT checkpoint, the comparison matches student rollout and policy-update counts. On 6,019 examples from 150 held-out nuScenes scenes, FIRE-VLA retains comparable single-sample planning, reduces G=4 mean L2 from 1.848 to 1.500 m, and lowers evaluation-persistent failure prevalence from 13.03% to 11.20%. The reduction in mean error arises mainly from rare severe rollouts rather than uniform improvement across ordinary trajectories.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI