日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2607.14695

Reflex: ストリーミング推論によるリアルタイムVLA制御

Reflex: Real-Time VLA Control through Streaming Inference

シェア:XThreadsFacebookLINEはてブBluesky

フローマッチング型VLAモデルのリアルタイム推論を可能にするフレームワークを提案。タイムステップ不変性を利用し、キャッシュ更新を効率化して高速化を実現した。

詳しい要約

1. どんなもの?

Reflexは、フローマッチングに基づくVision-Language-Action (VLA)モデルをリアルタイムでストリーミング推論するためのフレームワーク。反復的デノイジングによる計算コストとKV-cacheの非互換性を解決し、LIBEROやKinetixベンチマークで2.58倍の推論高速化と50Hzの安定ストリーミングを実現する。

2. 先行研究と比べてどこがすごい?

従来のフローマッチングVLAは、デノイジング毎に全計算をやり直すか、数学的に不正確なcache再利用を強いられていた。ReflexはTimestep-Invariance Propertyを利用し、attentionコンテキストを静的・スライディング・動的領域に分割することで、O(1)のインクリメンタルcache更新を可能にし、固定入力に対して全バッチと等価なattention出力を維持する。これにより、精度を落とさずにリアルタイム推論を実現した点が新しい。

3. 技術・手法の肝は?

手法の核は、①Timestep-Invariance Propertyの利用(知覚エンコーダがデノイジングループから独立)、②attentionコンテキストの静的・スライディング・動的領域への分割によるO(1)インクリメンタルcache更新、③BFloat16数値崩壊を防ぐ適応正規化層AdaRMSNorm、④視覚エンコーディングとアクション生成を分離する非同期パイプライン、⑤カーネルオーバーヘッドを減らすオペレータ融合。

4. どうやって有効だと検証した?

LIBEROおよびKinetixベンチマークで評価。2.58倍の推論高速化、50Hzの安定ストリーミング、反応レイテンシを最大54%削減し、性能劣化なしで効率的なデプロイを実現したことを示した。

5. 議論はある?

要旨からは、提案手法の限界やトレードオフについての議論は不明。ただし、固定入力に対する全バッチ等価性を保証する一方で、動的領域の扱いや実環境でのロバスト性などは要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、フローマッチングVLAモデル、KV-caching、リアルタイム推論のための手法が挙げられる。具体的には、Flow Matching、Vision-Language-Actionモデル、KV-cache最適化に関する論文が次に読むべきと推測されるが、要旨に明示的な参照はないため、同分野の定番である「Flow Matching for Generative Modeling」や「RT-2: Vision-Language-Action Models」などを挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuanchun Guo, Bingyan Liu

分類: cs.RO

原文アブストラクト

Flow matching Vision-Language-Action (VLA) models promise precise continuous control, but their iterative denoising nature introduces fundamental incompatibilities with real-time robotics: global timestep injection invalidates KV-caching, forcing a choice between slow $O(N^2)$ re-computation or mathematically incorrect cache reuse. We present \textbf{Reflex}, a framework that enables \textit{real-time streaming inference} for flow matching policies by exploiting the \textit{Timestep-Invariance Property} -- that perception encoders are functionally independent of the denoising loop. Reflex partitions the attention context into static, sliding, and dynamic regions, enabling $O(1)$ incremental cache updates while preserving full-batch-equivalent attention outputs for fixed inputs. To ensure stability under continuous high-frequency inference, we introduce \textit{AdaRMSNorm}, an adaptive normalization layer that prevents BFloat16 numerical collapse by gating on flow phase. We further maximize throughput through an \textit{async pipeline} that decouples visual encoding from action generation, combined with \textit{operator fusion} that reduces kernel overhead. On LIBERO and Kinetix benchmarks, Reflex achieves a 2.58$\times$ inference speedup and 50Hz stable streaming, reducing reaction latency by up to 54\% and enabling efficient deployment without performance degradation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI