日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/エッジ推論/エネルギー効率arXiv:2608.15502

EcoVLA: リアルタイム制約下での視覚言語行動モデルのためのエネルギー効率的なデバイス・エッジ協調推論

EcoVLA: Energy-Efficient Device-Edge Co-Inference for Vision-Language-Action Models under Real-Time Constraints

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの推論コストを削減するため、デバイスとエッジサーバー間で協調推論を行い、リアルタイム制約を満たしつつシステム全体のエネルギー効率を最大化する適応型フレームワークEcoVLAを提案した。

詳しい要約

1. どんなもの?

EcoVLAは、Vision-Language-Action (VLA)モデルのための適応型デバイス-エッジ協調推論フレームワークである。実時間制約下でシステム全体のエネルギー効率を最大化することを目的とする。VLAモデルの異なるパラダイムを統一的に抽象化するステージレベル抽象化を導入し、アーキテクチャに依存しない協調推論の設計空間を確立する。さらに、デバイス・エッジ・ネットワークのレイテンシとエネルギーを予測するモデルを構築し、候補となる協調推論スキームをミリ秒単位のオーバーヘッドで評価・選択する。また、クロスデバイス協調による通信オーバーヘッドを削減する軽量な中間テンソル伝送機構も含む。

2. 先行研究と比べてどこがすごい?

既存のデバイス-エッジ協調推論研究はVLAモデルに特化しておらず、実時間制約とエネルギー効率を同時に扱う統一フレームワークが不足していた。EcoVLAは、VLAモデルの多様なパラダイムを統一的に扱えるステージレベル抽象化を導入し、アーキテクチャ非依存の設計空間を提供する点が新しい。また、動的なネットワークやエッジ負荷の変動に適応し、実時間制約を満たしつつエネルギー最適なスキームを継続的に選択する点で、従来の静的または単純なオフロード手法より優れている。

3. 技術・手法の肝は?

手法の核は、VLAモデルのパラダイムを統一的なステージに抽象化し、各ステージのデバイス・エッジ・ネットワークでのレイテンシとエネルギー消費を予測するモデルを構築すること。この予測モデルに基づき、実時間制約を満たすエネルギー最適な協調スキームをミリ秒単位で選択する。さらに、ステージ間の中間テンソルを軽量に伝送する機構により、通信コストを削減する。

4. どうやって有効だと検証した?

複数のVLAモデルを用いた実験で、20 Hzのアクション出力周波数制約下で、既存の協調推論アプローチと比較してシステムエネルギー効率を最大236%向上させた。また、動的なネットワークとエッジワークロード条件下でSLO(Service Level Objective)を一貫して満たすことを確認した。

5. 議論はある?

要旨からは、EcoVLAの適用範囲や限界(例えば、特定のVLAモデルやハードウェアへの依存性、予測モデルの精度、伝送機構のオーバーヘッドなど)についての詳細な議論は不明である。また、実ロボットシステムでの実証や、他の協調推論手法との比較における公平性なども要旨からは判断できない。

6. 次に読むべき論文は?

要旨で参照されている既存の協調推論アプローチや、VLAモデルの推論最適化に関する研究が挙げられる。具体的には、device-edge co-inferenceの一般的な手法(例えば、DNNの分割推論やオフロード戦略)や、VLAモデルの効率的な推論手法(例えば、モデル圧縮や蒸留)に関する論文が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ao Zhou, Bo Dai, Le Yu, Xingyu Liu, Zeyu Hao, Lingkun Long, Chunming Hu, Jianlei Yang

分類: cs.AI, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models have emerged as a promising foundation for Embodied AI, but their high inference cost poses significant challenges for deployment in robotic systems. In practice, on-device inference is constrained by limited compute capacity and energy budgets, struggling to simultaneously satisfy real-time control and energy efficiency requirements. Alternatively, offloading the inference workload to an edge server is susceptible to fluctuations in system conditions, introducing unpredictable latency risks. Device-edge co-inference offers a promising solution, but systematic research tailored to VLA models remains scarce, particularly a unified co-inference framework that jointly addresses real-time constraints and system-level energy efficiency. Thus, we propose EcoVLA, an adaptive device-edge co-inference framework for VLA models that maximizes system energy efficiency under real-time constraints. EcoVLA first introduces a unified stage-level abstraction over different VLA paradigms, establishing an architecture-agnostic co-inference design space. It then formulates a joint device-edge-network latency and energy prediction model to enable rapid runtime evaluation of candidate co-inference schemes. Building on this, EcoVLA continuously selects the energy-optimal scheme satisfying real-time constraints with millisecond-level overhead, adapting to runtime variations in network and system states. Furthermore, EcoVLA incorporates a lightweight transmission mechanism for inter-stage intermediate tensors to reduce the communication overhead incurred by cross-device collaboration. Experimental results across VLA models show that EcoVLA improves system energy efficiency by up to 236% over existing co-inference approaches under a 20 Hz action output frequency constraint, while consistently maintaining SLO satisfaction under dynamic network and edge workload conditions.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI