日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2605.13382

BlockVLA: ブロック拡散ファインチューニングによる自己回帰VLAの高速化

BlockVLA: Accelerating Autoregressive VLA via Block Diffusion Finetuning

シェア:XThreadsFacebookLINEはてブBluesky

自己回帰型VLAモデルの推論遅延を減らすため、ブロック拡散パラダイムを導入し、ブロック内で並列生成しつつブロック間の因果性を保つことで、推論を高速化する手法を提案した。

詳しい要約

1. どんなもの?

- 自己回帰型VLAモデルの推論遅延と誤差蓄積を解決するため、Block Diffusionを導入したBlockVLAを提案。 - 事前学習済みARバックボーンを離散拡散ポリシーに適応。 - ブロック単位で自己回帰依存を維持しつつ、ブロック内で並列デノイジングを実現。 - LIBEROとSimplerEnvで評価し、標準離散拡散ベースライン比3.3倍の推論加速を達成。 - 長期的タスクで訓練効率と成功率が大幅に向上。

2. 先行研究と比べてどこがすごい?

- 従来のAR VLAは逐次デコードで高遅延・誤差蓄積が問題。 - 離散拡散言語モデル(dLLM)は並列トークン精錬が可能だが、反復デノイジング関数評価(NFE)と双方向反復デコードへのKVキャッシュ適用困難でロボティクス展開が限定的。 - BlockVLAはブロック拡散によりARの因果一貫性と局所並列生成を両立。 - 完了ブロック間でプレフィックスKVキャッシュを再利用し、反復デノイジングコストを削減。 - AR事前学習から拡散ポリシー微調整へのスムーズな移行を実現。

3. 技術・手法の肝は?

- ブロック拡散パラダイムを採用。 - ブロックレベルで自己回帰依存を維持し、各ブロック内で並列デノイジングを実行。 - 完了したブロックのプレフィックスKVキャッシュを再利用可能。 - これにより反復デノイジングの実効コストを低減。 - AR事前学習済みバックボーンを効率的な離散拡散ポリシーに適応。

4. どうやって有効だと検証した?

- LIBEROとSimplerEnvベンチマークで広範な評価を実施。 - 標準離散拡散ベースラインと比較して3.3倍の推論加速を達成。 - 訓練効率が優れ、成功率がベースラインより大幅に早く収束。 - 複雑で長期的なタスクにおいて、訓練初期段階で顕著な性能向上を確認。

5. 議論はある?

- 要旨からは不明。 - ただし、Block Diffusionが大規模事前学習ARモデルと効率的な高頻度リアルタイムロボット制御の堅牢な橋渡しとなることを主張。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 自己回帰VLAモデル、離散拡散言語モデル(dLLM)、標準離散拡散ベースライン。 - 関連手法: LIBERO、SimplerEnvベンチマーク。 - 同分野の定番: 拡散ポリシー、Vision-Language-Actionモデル。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ruiheng Wang, Shuanghao Bai, Haoran Zhang, Badong Chen, Xiangyu Xu

分類: cs.RO

原文アブストラクト

While autoregressive (AR) Vision-Language-Action (VLA) models have demonstrated formidable reasoning capabilities in robotic tasks, their sequential decoding process often incurs high inference latency and may amplify error accumulation during long-horizon execution. Discrete Diffusion Language Models (dLLMs) provide a promising alternative through parallel token refinement, but their practical deployment in robotics remains limited by repeated denoising function evaluations (NFEs) and the difficulty of directly applying standard KV caching to bidirectional iterative decoding. To bridge these paradigms, we propose BlockVLA, a framework that adapts pretrained AR backbones into an efficient discrete diffusion policy through a block diffusion paradigm. BlockVLA maintains autoregressive dependencies at the block level while enabling parallel denoising within each block, thereby combining global causal coherence with local parallel generation. This design enables prefix KV-cache reuse across completed blocks, reduces the effective cost of iterative denoising, and provides a smoother transition from AR pretraining to diffusion-based policy fine-tuning. We conduct extensive evaluations on the LIBERO and SimplerEnv benchmarks. Experimental results demonstrate that our BlockVLA achieves a 3.3$\times$ inference acceleration over standard discrete diffusion baselines. Furthermore, our model exhibits superior training efficiency, with success rates converging substantially faster than baselines, a gain that is particularly pronounced in complex, long-horizon tasks, where BlockVLA achieves significant performance gains in the early stages of training. This work establishes Block Diffusion as a robust bridge between large-scale pretrained AR models and efficient, high-frequency real-time robotic control.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI