日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2602.03983

静的・動的分離による効率的な長期間視覚言語行動モデル

Efficient Long-Horizon Vision-Language-Action Models via Static-Dynamic Disentanglement

シェア:XThreadsFacebookLINEはてブBluesky

視覚入力を静的・動的トークンに分離し、静的トークンの共有とKVキャッシュ再利用で、長期間のマルチフレーム統合と推論を効率化するVLAフレームワークDyStaを提案。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルは汎用ロボット制御の有望なパラダイム。 - しかし、入力フレームのコンテキスト窓の制限と、二次の注意計算量およびパラメータ数の多さによる推論の非効率性が課題。 - 本研究では DySta を提案。視覚入力を多層の static トークンと dynamic トークンに分離する。 - static トークンをフレーム間で単一コピー保持し、コンテキスト長を大幅削減。 - 軽量な recache gate により static トークンの key-value (KV) キャッシュを必要な時のみ更新し、効率的な推論を実現。 - 多フレーム統合能力を評価する新しいベンチマークも導入。

2. 先行研究と比べてどこがすごい?

- 従来の VLA は限られたコンテキスト窓と非効率な推論に悩まされていた。 - DySta は static/dynamic 分離により、コンテキスト長を削減しつつ多フレーム統合を可能にする。 - 既存手法と比べ、新しいベンチマークで多フレーム統合指標が 24.5% 向上。 - 実世界の記憶依存タスクで絶対成功率が 23.3% 向上。 - シミュレーションベンチマークで推論が 2.0 倍高速化(成功率 +2.3%)。 - 実世界の一般タスクで 2.2 倍高速化(成功率 +10.6%)。

3. 技術・手法の肝は?

- 視覚入力を multi-level の static トークンと dynamic トークンに分離。 - static トークンはフレーム間で単一コピーを保持し、コンテキスト長を削減。 - dynamic トークンのみをフレームごとに更新。 - 軽量な recache gate を導入し、static トークンの KV キャッシュを必要な時のみ更新。 - これにより効率的な多フレーム統合と推論を実現。 - 詳細なアーキテクチャや学習方法は要旨からは不明。

4. どうやって有効だと検証した?

- 新たに導入したベンチマークで多フレーム統合能力を評価。 - その結果、多フレーム統合指標が 24.5% 向上。 - 実世界の記憶依存タスクで絶対成功率が 23.3% 向上。 - シミュレーションベンチマークで推論が 2.0 倍高速化し、成功率も +2.3%。 - 実世界の一般タスクで推論が 2.2 倍高速化し、成功率も +10.6%。 - 具体的なベンチマーク名やタスクの詳細は要旨からは不明。

5. 議論はある?

- 要旨では、DySta が多フレーム統合と推論効率を改善することが示されている。 - しかし、static/dynamic 分離の一般性や限界、失敗ケースについての議論は要旨からは不明。 - recache gate の設計や更新条件の詳細、計算コストへの影響も不明。 - 新しいベンチマークの妥当性や他手法との公平な比較についても言及なし。 - 実世界タスクの具体的な設定や被験者数なども不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、Vision-Language-Action (VLA) モデル、Vision-Language Model (VLM)、KV キャッシュ、Recache Gate が挙げられる。 - 同分野の定番として、RT-1、RT-2、Octo、OpenVLA などが考えられるが、要旨に記載はない。 - 次に読むべき論文は、要旨からは特定できない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Weikang Qiu, Huashuo Lei, Tinglin Huang, Rex Ying

分類: cs.RO, cs.CV

原文アブストラクト

Vision-Language-Action (VLA) models have recently emerged as a promising paradigm for generalist robotic control. Built upon vision-language model (VLM) architectures, VLAs predict actions conditioned on visual observations and language instructions, achieving strong performance and generalization across tasks. However, VLAs face two major challenges: a limited context window for input frames and inefficient inference due to the quadratic attention complexity and large parameter counts. To this end, we propose DySta, a framework that disentangles visual inputs into multi-level static and dynamic tokens, which enables (1) retaining a single copy of static tokens across frames to significantly reduce context length, and (2) reusing the key-value (KV) cache of static tokens through a lightweight recache gate that updates only when necessary. This design enables efficient multi-frame integration and efficient inference. In addition, we introduce a new benchmark that more effectively evaluates the multi-frame integration ability of VLAs. Experiments show that Dysta improves multi-frame integration by 24.5% across metrics on our benchmark and 23.3% in absolute success rate on real-world memory-dependent tasks, while accelerating inference by 2.0x (with +2.3% success rate) on simulation benchmarks and 2.2x (with +10.6% success rate) on real-world general tasks.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI