日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.12075

ロボット工場向けの効率的なVision-Language-Action管理・提供システム

Efficient Vision-Language-Action Management and Serving for Robot Factories

シェア:XThreadsFacebookLINEはてブBluesky

複数ロボット・複数モデルのVLA推論をマルチGPUエッジサーバでSLOを満たしながら提供する初の管理・提供システムRobionを提案。

詳しい要約

1. どんなもの?

- ロボット工場向けの VLA サービング・管理システム Robion を提案。 - VLA は VLM 段と ADiT 段の2段構成で、ロボットの安全性のため SLO が厳しく、推論は latency-critical。 - 高価な GPU をロボットに載せられないため、エッジサーバで多数のロボットに VLA 推論を提供する。 - マルチ GPU サーバ上でマルチリクエスト・マルチモデル実行を SLO 下で支援する初のシステム。

2. 先行研究と比べてどこがすごい?

- 既存の VLA システムはマルチ GPU サーバでのマルチリクエスト・マルチモデル実行を SLO 下で支援できない。 - 既存の多段モデル向けサービングはスループットと別 GPU への段分割に最適化され、VLA のミリ秒スケール段に不向き。 - Robion は単一モデルで vLLM-Omni 比 6.7 倍、Monolithic 比 1.5 倍のロボット負荷を 98% SLO 達成で処理。 - 4 GPU サーバで 8 モデルを提供し最大 64 ロボットを 98% SLO 達成で処理可能。

3. 技術・手法の肝は?

- サービングエンジンは VLM 段と ADiT 段を GPU 内で 2 ストリームに分割。 - VLM ストリームの SM を動的に制限し、ADiT が常に並走できる SM を確保。 - 複数モデルをストリーム共有で同居させ、残り SLO 時間が最小のリクエストを優先。 - 管理エンジンはマルチ GPU サーバで柔軟なモデル配置を可能に。 - 知的トラフィックコントローラが配置下でモデルごとのバッチングを最大化し、各 GPU 負荷を制限して SLO を満たす。

4. どうやって有効だと検証した?

- 単一モデルで vLLM-Omni と Monolithic と比較し、98% SLO 達成下のロボット負荷を評価。 - 平均 6.7 倍(対 vLLM-Omni)、1.5 倍(対 Monolithic)の負荷向上を確認。 - 4 GPU サーバで 8 モデルを提供する大規模実験を実施。 - 最大 64 ロボットを 98% SLO 達成で処理できることを示した。

5. 議論はある?

- 要旨からは不明。 - 想定される議論点として、SLO 達成率の定義、モデル配置の一般性、実ロボット環境での検証などが考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

- vLLM-Omni(最も広く使われる多段サービングシステム) - Monolithic(VLM と ADiT を単一パイプラインで実行) - VLA モデル(VLM + ADiT 構成) - 関連する多段モデル向けサービングシステム(一般名)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Dionysios Adamopoulos, Nattapol Chanpaisit, Basel Fakhri, Christina Giannoula

分類: cs.DC, cs.AR, cs.LG, cs.PF, cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models show high robotic manipulation capabilities via a two-stage design: a Vision-Language Model (VLM) stage followed by an Action Diffusion Transformer (ADiT) stage. Since robots must meet strict Service-Level Objectives (SLOs) for safety, VLA inference is inherently latency-critical. Meeting these SLOs requires high-end GPUs, yet weight, cost, and power constraints preclude integrating such GPUs on-robot. Prior works offload VLA inference to edge servers that serve many robots on VLA models. However, current VLA systems lack support for multi-request, multi-model execution on a multi-GPU server under SLOs, while existing serving systems for multi-stage models are optimized for throughput and stage disaggregation across separate GPUs, which are ill-suited for the millisecond-scale stages of VLA models. We design Robion, the first VLA serving and management system for multi-robot, multi-model requests on multi-GPU edge servers that meets SLOs. Our serving engine disaggregates the VLM and ADiT stages within a GPU via two streams, dynamically restricting the SMs on VLM stream so ADiT always finds SMs to run alongside it, and co-locates multiple models by sharing these streams across them, prioritizing requests by least remaining SLO time. Our management engine enables flexible model placements on multi-GPU servers, and integrates an intelligent traffic controller that maximizes per-model batching under the chosen placement while bounding each GPU's load to meet SLOs. For individual models, Robion serves on average 6.7$\times$ and 1.5$\times$ higher robot load within 98% SLO attainment over vLLM-Omni, the most widely used multi-stage serving system, and Monolithic, which runs VLM and ADiT as a single pipeline, respectively. In a large-scale experiment of serving 8 different models on a 4-GPU server, Robion can serve up to 64 robots within 98% SLO attainment.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI