日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2512.20276

ActionFlow: エッジ上での視覚言語モデル向けパイプライン型アクション高速化

ActionFlow: A Pipelined Action Acceleration for Vision Language Models on Edge

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの推論をマイクロリクエストのパイプラインとして再定義し、PrefillとDecodeを跨いでバッチ処理することで、再学習なしにエッジ上で2.55倍のFPS向上を実現した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルを edge デバイス上で低遅延に動かすためのシステムレベル推論フレームワーク ActionFlow の提案。 - 動的な実環境でのロボット制御には 20〜30 Hz の制御周波数が必要だが、現行 VLA は edge 上で 3-5 Hz 程度にとどまる問題を扱う。 - 再学習なしで VLA 推論を高速化することを目指す。

2. 先行研究と比べてどこがすごい?

- 既存の最適化は大規模な再学習を要するか、モデル精度を犠牲にする傾向があると指摘。 - ActionFlow は再学習なしで OpenVLA-7B の FPS を 2.55x 改善し、edge ハードウェア上でのリアルタイム動的マニピュレーションを可能にする点を主張。 - 精度を損なわずにメモリバウンドな autoregressive decoding の制約を緩和する点が差分。

3. 技術・手法の肝は?

- 中核は Cross-Request Pipelining 戦略:VLA 推論を micro-requests のマクロパイプラインとして再定義する新規スケジューラ。 - 連続する時間ステップにわたり、メモリバウンドな Decode 相と計算バウンドな Prefill 相を賢くバッチ化し、ハードウェア利用率を最大化。 - これを支えるため Cross-Request State Packed Forward 演算子と Unified KV Ring Buffer を提案し、断片化したメモリ操作を高効率な密計算に融合。

4. どうやって有効だと検証した?

- OpenVLA-7B モデルを用いた実験で、再学習なしに FPS が 2.55x 向上することを示す。 - edge ハードウェア上でリアルタイムな動的マニピュレーションが可能になることを実験結果として報告。 - 具体的なベースラインやデータセット、評価指標の詳細は要旨からは不明。

5. 議論はある?

- 再学習不要で精度を犠牲にしない高速化を主張するが、精度への影響の詳細な評価は要旨からは不明。 - メモリバウンドな Decode と計算バウンドな Prefill のバッチ化によるハードウェア利用率向上の限界や、他モデル・他 edge プラットフォームへの汎化性は要旨からは不明。 - 長時間タスクや動的環境での実機検証の範囲も要旨からは不明。

6. 次に読むべき論文は?

- OpenVLA-7B(比較対象の VLA モデル)。 - Vision-Language-Action (VLA) モデル全般の推論高速化研究。 - autoregressive decoding のメモリバウンド最適化に関する研究(Prefill/Decode 分離や KV cache 管理など)。 - edge 向け LLM/VLM 推論システム(例:vLLM 系の PagedAttention など、要旨では明示参照なし)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuntao Dai, Hang Gu, Teng Wang, Qianyu Cheng, Yifei Zheng, Zhiyong Qiu, Lei Gong, Wenqi Lou, Xuehai Zhou

分類: cs.AI, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have emerged as a unified paradigm for robotic perception and control, enabling emergent generalization and long-horizon task execution. However, their deployment in dynamic, real-world environments is severely hin dered by high inference latency. While smooth robotic interaction requires control frequencies of 20 to 30 Hz, current VLA models typi cally operate at only 3-5 Hz on edge devices due to the memory bound nature of autoregressive decoding. Existing optimizations often require extensive retraining or compromise model accuracy. To bridge this gap, we introduce ActionFlow, a system-level inference framework tailored for resource-constrained edge plat forms. At the core of ActionFlow is a Cross-Request Pipelin ing strategy, a novel scheduler that redefines VLA inference as a macro-pipeline of micro-requests. The strategy intelligently batches memory-bound Decode phases with compute-bound Prefill phases across continuous time steps to maximize hardware utilization. Furthermore, to support this scheduling, we propose a Cross Request State Packed Forward operator and a Unified KV Ring Buffer, which fuse fragmented memory operations into efficient dense computations. Experimental results demonstrate that ActionFlow achieves a 2.55x improvement in FPS on the OpenVLA-7B model without retraining, enabling real-time dy namic manipulation on edge hardware. Our work is available at https://anonymous.4open.science/r/ActionFlow-1D47.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI