日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

協調推論arXiv:2611.11023

モデルはどこで動かすべきか?6G時代の身体性知能のための協調推論フレームワーク

Where Should Models Run? A Collaborative Inference Framework for Embodied Intelligence in 6G

シェア:XThreadsFacebookLINEはてブBluesky

エッジがモデル分割と実行を調整するエッジ中心の協調推論フレームワークを提案し、WiFi/5G環境でResNetやVLAモデルの最適分割点を実験的に明らかにした。

詳しい要約

1. どんなもの?

- 本論文は、Embodied Intelligence システムにおける大規模 AI モデル(LLMs、VLA モデル)の推論をどこで実行すべきかを扱うレビュー兼フレームワーク提案である。 - 端末・edge server・cloud にモデルを分割する Collaborative Inference を対象とし、edge がモデル分割と実行を調整する edge-centric framework を提案する。 - WiFi と 5G 上での simulation および実機実験を通じ、最適な partitioning point が無線状況とモデル構造に依存して変化することを示す。 - ResNet-101、Qwen2.5-VL-7B、OpenVLA-7B について、NVIDIA Jetson Nano / AGX Xavier と AGX Thor edge server 間の latency-minimizing partition points を特定する。 - 最後に 6G-empowered embodied intelligence システムに向けた collabora…

2. 先行研究と比べてどこがすごい?

- 先行研究として collaborative inference を embodied intelligence 向けの有望解として位置づけ、その state of the art をレビューしている点がまず挙げられる。 - 従来は最適な partitioning point の決定が open problem であり、無線ネットワーク条件・モデル構造・プライバシー要件に依存するとされている。 - 本論文は edge がモデル分割と実行を調整する edge-centric framework を提案し、この課題に取り組む。 - さらに WiFi と 5G の両方で simulation と real-world experiments を行い、ネットワーク条件とモデル構造により最適戦略が変わることを実証している。 - 具体的なモデル(ResNet-101、Qwen2.5-VL-7B、OpenVLA-7B)とデバイス(Jetson Nano、AGX Xavier、AGX Thor)の組合せで latency-minimizing partition points を同定している点が特徴…

3. 技術・手法の肝は?

- edge-centric framework を提案し、edge がモデル partitioning と execution を coordination する構成を取る。 - モデルを end devices、edge servers、cloud に分割する collaborative inference を前提とする。 - 最適な partitioning point は wireless network conditions、model structure、privacy requirements に依存すると整理している。 - simulation と real-world experiments を WiFi および 5G ネットワーク上で実施する検証手法を採る。 - ResNet-101、Qwen2.5-VL-7B、OpenVLA-7B を対象に、NVIDIA Jetson Nano または AGX Xavier と AGX Thor edge server 間の collaborative inference における latency-minimizing parti…

4. どうやって有効だと検証した?

- WiFi と 5G ネットワーク上での simulation および real-world experiments の両方を通じて有効性を検証している。 - その結果、optimal partitioning strategy が network conditions と model structure に応じて変化することを示している。 - ResNet-101、Qwen2.5-VL-7B、OpenVLA-7B について、NVIDIA Jetson Nano または AGX Xavier と AGX Thor edge server 間の collaborative inference で、変動する wireless conditions 下の latency-minimizing partition points を同定している。 - 具体的な latency 値や比較指標、実験規模の詳細は要旨からは不明。

5. 議論はある?

- 最適な partitioning point の決定は依然として open problem であり、wireless network conditions、model structure、privacy requirements に依存すると論じている。 - 実験結果から、最適な partitioning strategy は network conditions と model structure によって変動することを議論している。 - 6G-empowered embodied intelligence システムに向けた collaborative inference の future directions を議論している。 - 具体的な課題の詳細や限界、privacy requirements の扱いについては要旨からは不明。

6. 次に読むべき論文は?

- 本論文が参照・比較している collaborative inference の state of the art に関する文献。 - 対象モデルとして ResNet-101、Qwen2.5-VL-7B、OpenVLA-7B の関連論文。 - 実験基盤として NVIDIA Jetson Nano、AGX Xavier、AGX Thor を用いた edge inference 研究。 - 6G-empowered embodied intelligence に関する将来方向の文献。 - 具体的な著者名や論文タイトルは要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wanlu Sun, Zhenhui Yuan, Xiang Ji, Yi Han, Qing Li, Gan Zheng

分類: cs.LG, cs.AI

原文アブストラクト

Embodied intelligence systems rely on fast and reliable inference to enable real-time perception, reasoning, and control. Recent advances in large-scale artificial intelligence (AI) models, including Large Language Models (LLMs) and Vision-Language-Action (VLA) models, have significantly enhanced the capabilities of embodied agents in complex environments. However, deploying these models remains challenging due to the limited computational resources and energy budgets of robotic platforms. A fundamental question is where inference should be executed. Collaborative inference, which partitions models across end devices, edge servers, and the cloud, has emerged as a promising solution. Yet determining the optimal partitioning point remains an open problem, as it depends on wireless network conditions, model structure, and privacy requirements. This article reviews the state of the art in collaborative inference for embodied intelligence and proposes an edge-centric framework in which the edge coordinates model partitioning and execution. Through both simulation and real-world experiments over WiFi and 5G networks, we demonstrate that the optimal partitioning strategy varies with network conditions and model structure. We further identify latency-minimizing partition points for ResNet-101, Qwen2.5-VL-7B, and OpenVLA-7B in collaborative inference between NVIDIA Jetson Nano or AGX Xavier devices and an AGX Thor edge server under varying wireless conditions. Finally, we discuss the future directions for collaborative inference in 6G-empowered embodied intelligence systems.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI