日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/エッジ・クラウド協調推論arXiv:2603.07949

RAPID: 多様なVLAモデルのための冗長性認識・互換性最適なエッジ・クラウド分割推論

RAPID: Redundancy-Aware and Compatibility-Optimal Edge-Cloud Partitioned Inference for Diverse VLA Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの推論コスト削減のため、冗長性を考慮し互換性を最適化したエッジ・クラウド分割推論フレームワークRAPIDを提案し、最大1.73倍の高速化を実現した。

詳しい要約

1. どんなもの?

- 本論文は、Vision Language Action (VLA) モデルの推論コストを削減するための Edge-Cloud Collaborative (ECC) 推論フレームワーク RAPID を提案している。 - VLA モデルは embodied intelligence で主流だが、推論コストが高い。 - ECC 推論はエッジデバイスの計算負荷を軽減し、リアルタイム性を満たす有効な手段である。 - しかし、既存の ECC フレームワークは VLA モデルに最適化されておらず、2つの課題がある。 - 視覚ノイズの影響を受けやすい。 - embodied タスク特有の step-wise redundancy を無視し、動作の物理的連続性を損なう。 - RAPID はこれらの課題に対処する新しい ECC 推論フレームワークである。

2. 先行研究と比べてどこがすごい?

- 既存の ECC フレームワークは VLA モデルに対して最適化されておらず、以下の2点で劣る。 - 主流の環境指向 edge-cloud partitioning 手法は視覚ノイズの干渉を受けやすい。 - 既存の edge-cloud partitioning 手法は embodied タスク特有の step-wise redundancy を無視し、動作の物理的連続性を損なう。 - RAPID はこれらの課題に対処し、最大 1.73 倍の高速化を 5%~7% のオーバーヘッドで実現する。 - 先行研究と比べて、視覚ノイズ耐性と step-wise redundancy の考慮が改善されている点がすごい。

3. 技術・手法の肝は?

- RAPID は Redundancy-Aware および Compatibility-Optimal な Edge-Cloud Partitioned Inference フレームワークである。 - 具体的な手法の詳細は要旨からは不明。 - 提案フレームワークに合わせた実装を開発したと述べられている。 - 視覚ノイズ干渉と step-wise redundancy に対処する設計が含まれると推測されるが、要旨からは不明。

4. どうやって有効だと検証した?

- 実験により、最大 1.73 倍の高速化を 5%~7% のオーバーヘッドで達成することを示した。 - 具体的な検証方法やデータセット、ベースラインは要旨からは不明。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、Edge-Cloud Collaborative (ECC) inference、Vision Language Action (VLA) models、edge-cloud partitioning が挙げられる。 - 同分野の定番として、embodied intelligence における VLA モデルやエッジクラウド協調推論の研究が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zihao Zheng, Sicheng Tian, Hangyu Cao, Chenyue Li, Jiayu Chen, Maoliang Li, Xinhao Sun, Hailong Zou, Guojie Luo, Xiang Chen

分類: cs.DC, cs.RO

原文アブストラクト

Vision Language Action (VLA) models are mainstream in embodied intelligence but face high inference costs. Edge-Cloud Collaborative (ECC) inference offers an effective fix by easing edge-device computing pressure to meet real-time needs. However, existing ECC frameworks are suboptimal for VLA models due to two challenges: (1) Mainstream environment-oriented edge-cloud partitioning methods are susceptible to interference from visual noise; (2) Existing edge-cloud partitioning methods overlook the step-wise redundancy unique to embodied tasks, thereby disrupting the physical continuity of motion. To address these issues, we propose a novel ECC inference framework, termed RAPID. Specifically, we developed an implementation tailored to the proposed framework. Experiments demonstrate this achieves a speedup of up to 1.73x with only 5%~7% overhead.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI