日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

遠隔操作/フリート管理arXiv:2606.21222

FleetAgent: ベクトル化V2Nメッセージによる自律フリート向け遠隔操作アシスタント

FleetAgent: Teleoperation Assistant for Autonomous Fleets via Vectorized V2N Messages

シェア:XThreadsFacebookLINEはてブBluesky

大規模な自律走行車両群の遠隔操作を支援するため、ベクトル化された車両-ネットワーク間メッセージを入力とするクラウド上のマルチモーダル大規模言語モデルを提案し、介入優先度のスコアリングと自然言語での説明を生成する。

詳しい要約

1. どんなもの?

- 大規模自律走行車両群の遠隔操作を支援するクラウドホスト型のマルチモーダル大規模言語モデル(MLLM)アシスタント。 - 車両から送られるコンパクトなベクトル化V2Nメッセージ(地図要素、検出物体、自車計画経路など)を入力とする。 - 構造化された自然言語応答(ナレーション、説明、計画とシーンの評価)と介入緊急度スコアを出力し、オペレータの優先順位付けを支援する。

2. 先行研究と比べてどこがすごい?

- 生のセンサーデータをストリーミングする従来手法と比べ、アップリンクペイロードを最大625倍削減。 - テキスト記述を用いる手法と比べ、KV-cacheメモリを16.54倍削減。 - 言語記述を用いるQwen2.5-VL-7Bと比較して、VecEval上でLingo-Judgeスコアを16.8%向上、介入失敗率を19.9%低減。

3. 技術・手法の肝は?

- 構造化メッセージをトークンベースMLLMで扱うため、ベクトルから埋め込みへのインターフェースVecFormerを提案。 - 微分可能なtop-Kコンテキスト選択により、コンテキスト長とGPU KV-cacheの増大を抑制し、バッチ処理を効率化。 - クラウドホスト型の大規模フリート管理に適した設計。

4. どうやって有効だと検証した?

- nuScenesから派生したVecEvalデータセットを構築。人間と合成の不完全な計画、人間検証済みの言語ラベルをペアで含む。 - VecEval上でFleetAgentを評価し、Lingo-Judgeスコアと介入失敗率で有効性を検証。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- Qwen2.5-VL-7B(比較対象) - nuScenes(データセット) - Lingo-Judge(評価指標)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Juntong Peng, Qi Chen, Deyuan Qu, Takayuki Shimizu, Yaobin Chen, Ziran Wang

分類: cs.RO, cs.AI

原文アブストラクト

Large-scale autonomous fleets rely on teleoperation to resolve rare failures, yet streaming raw sensor data from many vehicles is costly, and remote operators can only monitor a limited number of vehicles at a time. We introduce FleetAgent, a cloud-hosted multimodal large language model (MLLM) assistant that consumes compact vectorized vehicle-to-network (V2N) messages, such as map elements, detected objects, and the ego planned path. It provides a structured natural-language response (including narration, explanation, and evaluation of the plan and scene), along with an intervention urgency score for operator prioritization. To make structured messages compatible with token-based MLLMs, we propose VecFormer, a vector-to-embedding interface with differentiable top-K context selection that bounds context length and GPU KV-cache growth, enabling more efficient batch processing, which is important under the context of cloud-hosted large-scale fleet management. We also construct VecEval, a nuScenes-derived dataset with paired human and synthetic imperfect plans and human-verified language labels, to facilitate the training and evaluation of our proposed system. Our proposed system can reduce uplink payload by up to 625 times compared with raw images and reduce KV-cache memory by 16.54 times compared with original text descriptions. On VecEval, FleetAgent improves Lingo-Judge score by 16.8% and reduces intervention failure rate by 19.9%, compared with Qwen2.5-VL-7B using language descriptions. These results demonstrate that FleetAgent can utilize compact structured V2N messaging to enable efficient, explainable teleoperation monitoring for autonomous fleets.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI