日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2509.05614

SpecPrune-VLA: 行動認識型自己投機的プルーニングによる視覚言語行動モデルの高速化

SpecPrune-VLA: Accelerating Vision-Language-Action Models via Action-Aware Self-Speculative Pruning

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの推論を高速化するため、時空間的一貫性を利用して視覚トークンを行動レベルと層レベルで動的に枝刈りする学習不要の手法を提案し、成功率を維持しつつ最大1.7倍の高速化を実現した。

詳しい要約

1. どんなもの?

- VLA(Vision-Language-Action)モデルの推論を高速化する学習不要のプルーニング手法 - SpecPrune-VLA と名付けられた two-level pruning 手法 - 連続ステップの入力画像が高い類似性を持つという spatial-temporal consistency に着目 - token 選択は局所情報とモデルの global context を組み合わせるべきという知見に基づく - heuristic control を備え、action-level static pruning と layer-level dynamic pruning を組み合わせる

2. 先行研究と比べてどこがすごい?

- 既存の VLA 高速化手法は現在の action step の局所情報のみに注目し global context を無視 - その結果、成功 rate が 20% 以上低下し、高速化も限定的となるシナリオがあった - 本研究は spatial-temporal consistency を活用し局所+大域文脈を統合する点が新しい - 学習不要(training-free)で適用できる点も先行手法との差異 - 成功 rate の劣化をほぼ無視できる水準に抑えつつ高速化を実現

3. 技術・手法の肝は?

- 全体は training-free の two-level pruning と heuristic control から構成 - (1) Action-level static pruning:global history と local attention を用い、action ごとに visual token を静的に削減 - (2) Layer-level dynamic pruning:layer-wise importance に基づき層ごとに token を適応的に pruning - (3) Lightweight action-aware controller:end effector の速度で action を coarse-grained / fine-grained に分類し、pruning の強度を調整 - 上記を組み合わせ、局所情報と global context を統合した token 選択を実現

4. どうやって有効だと検証した?

- LIBERO simulation と real-world tasks で広範な実験を実施 - LIBERO simulation で最大 1.57× の speedup を達成 - real-world tasks で最大 1.70× の speedup を達成 - いずれも success rate の劣化はごく僅か(negligible)と報告 - 具体的なベースライン比較や ablation の詳細は要旨からは不明

5. 議論はある?

- 既存手法が局所情報のみに依存し成功 rate が 20% 以上低下する問題を指摘 - spatial-temporal consistency という VLA タスク固有の性質を活用する設計思想を提示 - coarse-grained / fine-grained の action 分類に応じた pruning 強度調整の有効性を示唆 - 限界や失敗ケース、pruning 強度の感度分析など詳細な議論は要旨からは不明

6. 次に読むべき論文は?

- 既存の VLA 向け pruning / acceleration 手法(要旨で比較対象とされる local 情報のみを用いる手法群) - Vision-Language-Action モデル(VLA)の代表的研究 - LIBERO benchmark を用いた関連研究 - token pruning / dynamic pruning の一般手法(layer-wise importance に基づくもの) - speculative decoding など self-speculative 系の高速化手法(名称の由来に関連)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hanzhen Wang, Jiaming Xu, Yushun Xiang, Jiayi Pan, Yongkang Zhou, Yong-Lu Li, Guohao Dai

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Pruning is a typical acceleration technique for compute-bound models by removing computation on unimportant values. Recently, it has been applied to accelerate Vision-Language-Action (VLA) model inference. However, existing acceleration methods focus on local information from the current action step and ignore the global context, leading to >20% success rate drop and limited speedup in some scenarios. In this paper, we point out spatial-temporal consistency in VLA tasks: input images in consecutive steps exhibit high similarity, and propose the key insight that token selection should combine local information with global context of the model. Based on this, we propose SpecPrune-VLA, a training-free, two-level pruning method with heuristic control. (1) Action-level static pruning. We leverage global history and local attention to statically reduce visual tokens per action. (2) Layer-level dynamic pruning. We prune tokens adaptively per layer based on layer-wise importance. (3) Lightweight action-aware controller: We classify actions as coarse- or fine-grained by the speed of the end effector and adjust pruning aggressiveness accordingly. Extensive experiments show that SpecPrune-VLA achieves up to 1.57$\times$ speedup in LIBERO simulation and 1.70$\times$ on real-world tasks, with negligible success rate degradation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI