日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2608.01035

WAM-Diff2: 階層的AR-to-Diffusion蒸留による高効率自動運転VLA

WAM-Diff2: Hierarchical AR-to-Diffusion Distillation for Highly Efficient Autonomous Driving VLA

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みの自己回帰型VLAモデルを、並列実行可能な拡散モデルへ変換するための3段階の階層的蒸留戦略を提案し、推論速度を大幅に向上させつつ性能を維持する。

詳しい要約

1. どんなもの?

WAM-Diff2は、自動運転のためのVision-Language-Action (VLA)モデルを、自己回帰型から並列拡散型へ変換するマルチタスク離散拡散フレームワークである。3段階の階層的蒸留戦略により、事前学習済みの自己回帰型汎用モデルの意味的基盤を保持しつつ、推論を高速化する。

2. 先行研究と比べてどこがすごい?

従来のVLAモデルは自己回帰デコードにより高遅延で露出バイアスがある。一方、拡散ポリシーは低遅延で並列実行可能だが、ゼロから訓練すると単一タスクで視覚言語推論が不足する。WAM-Diff2は、事前学習済みの自己回帰型汎用モデルを並列拡散モデルに変換することで、マルチタスクの認知知能と実行効率を両立する点が新しい。

3. 技術・手法の肝は?

手法の核は、3段階の階層的蒸留戦略である。1) progressive block-wise adaptationでアーキテクチャを段階的に適応させ、2) block-wise distillationでブロック単位の蒸留を行い、3) model-wise cross-scale distillationでモデル全体の蒸留を行う。これにより、因果的注意から双方向的注意への変換や、最適化目標の相違を克服する。

4. どうやって有効だと検証した?

運転理解、知覚、計画の各ベンチマークで広範な評価を実施。WAM-Diff2が露出バイアスを軽減し、自己回帰ベースラインと同等の性能を達成することを示した。さらに、自己回帰から拡散への変換により2.8倍のデコード高速化を実現し、FlashInferやCUDA Graphsなどのシステム最適化と組み合わせると最終的に15.1倍の高速化を達成した。

5. 議論はある?

要旨からは、アーキテクチャ変換の詳細な課題(注意パターンの不一致や最適化目標の相違)が議論されているが、具体的な限界や将来の方向性については不明。また、性能同等性は示されたが、実世界の複雑なシナリオでのロバスト性や、他のモデルへの一般化については言及がない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、自己回帰型VLAモデル、拡散ポリシー、および蒸留手法に関する論文が挙げられる。具体的には、Vision-Language-Actionモデルの基盤となる研究や、拡散ポリシーの応用、知識蒸留の手法を扱った論文が次に読むべきである。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhihao Zhu, Hanlin Shang, Mingwang Xu, Feipeng Cai, Zhuolin He, Yaoyi Li, Jianhua Han, Hang Xu, Siyu Zhu

分類: cs.RO, cs.AI, cs.CV

原文アブストラクト

Vision-Language-Action (VLA) models have emerged as a prominent paradigm for end-to-end autonomous driving; however, their efficient deployment is severely constrained by high computational latency and exposure bias arising from sequential autoregressive decoding. Conversely, while specialized diffusion policies enable low-latency, parallel execution, training them from scratch typically yields narrow, single-task architectures that lack holistic visual-linguistic reasoning. Successfully transforming pre-trained autoregressive generalists into parallel diffusion models could combine multi-task cognitive intelligence with execution efficiency, yet this transition presents a formidable architectural challenge due to mismatched attention patterns (causal versus bidirectional) and divergent optimization objectives. To bridge this divide, we introduce WAM-Diff2, a multi-task discrete diffusion VLA framework powered by a three-stage hierarchical distillation strategy. By structuring the architectural shift through progressive block-wise adaptation, block-wise distillation, and model-wise cross-scale distillation, WAM-Diff2 preserves the underlying semantic foundations of the base model while accelerating inference. Extensive evaluations across driving understanding, perception, and planning benchmarks demonstrate that WAM-Diff2 effectively mitigates exposure bias and achieves performance parity with autoregressive baselines. Crucially, the autoregressive-to-diffusion transition yields a 2.8x decoding speedup, which scales to an ultimate 15.1x acceleration when combined with system-level optimizations including FlashInfer and CUDA Graphs.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI