日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/推論高速化arXiv:2605.13778

Realtime-VLA FLASH: 拡散型VLAのための投機的推論フレームワーク

Realtime-VLA FLASH: Speculative Inference Framework for Diffusion-based VLAs

シェア:XThreadsFacebookLINEはてブBluesky

拡散型視覚言語行動モデル(dVLA)の再計画時の推論遅延を削減するため、軽量ドラフトモデルと主モデルのAction Expertによる並列検証、および必要時に完全推論へ切り替える位相認識フォールバック機構を備えた投機的推論フレームワークを提案した。LIBEROで平均推論遅延を19.1ms(3.04倍高速化)に短縮し、実世界のコンベアベルト仕分けでも有効性を示した。

詳しい要約

1. どんなもの?

本論文は、Diffusion-based Vision-Language-Action Models (dVLAs) のリアルタイム推論を高速化する投機的推論フレームワーク「Realtime-VLA FLASH」を提案する。dVLAs は embodied intelligence に有望だが、full inference の高遅延が実時間展開の根本的制約となっている。FLASH は、replanning 時の full inference 呼び出しの大半を排除することを目的とする。

2. 先行研究と比べてどこがすごい?

要旨からは不明。dVLAs の高遅延という課題に対し、投機的推論と phase-aware fallback を組み合わせる点が特徴的だが、先行研究との具体的比較は記述されていない。

3. 技術・手法の肝は?

- lightweight draft model を導入 - main model の Action Expert による parallel verification - 必要時に full inference pipeline へ戻る phase-aware fallback mechanism - これにより低遅延・高頻度の replanning を信頼性を損なわず実現

4. どうやって有効だと検証した?

- LIBERO 上で評価 - 58.0 ms の full-inference ラウンドの多くを 7.8 ms の speculative ラウンドで置換 - タスク性能を概ね維持しつつ、タスクレベル平均推論遅延を 19.1 ms に低減(3.04x 高速化) - 実世界の conveyor-belt sorting でも有効性を実証

5. 議論はある?

要旨からは不明。信頼性を損なわないと主張しているが、限界や失敗ケース、draft model の精度依存性などについての議論は記述されていない。

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。関連手法として Diffusion Policy、Vision-Language-Action Models (VLAs)、speculative decoding などが同分野の定番として挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiahui Niu, Kefan Gu, Yucheng Zhao, Shengwen Liang, Tiancai Wang, Xing Hu, Ying Wang, Huawei Li

分類: cs.RO, cs.CV

原文アブストラクト

Diffusion-based vision-language-action models (dVLAs) are promising for embodied intelligence but are fundamentally limited in real-time deployment by the high latency of full inference. We propose Realtime-VLA FLASH, a speculative inference framework that eliminates most full inference calls during replanning by introducing a lightweight draft model with parallel verification via the main model's Action Expert and a phase-aware fallback mechanism that reverts to the full inference pipeline when needed. This design enables low-latency, high-frequency replanning without sacrificing reliability. Experiments show that on LIBERO, FLASH largely preserves task performance by replacing many 58.0 ms full-inference rounds with speculative rounds as fast as 7.8 ms, lowering task-level average inference latency to 19.1 ms (3.04x speedup). We additionally demonstrate effectiveness on real-world conveyor-belt sorting, highlighting its practical impact for latency-critical embodied tasks.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI