DepthCache: 深度ガイドによる学習不要の視覚トークン統合でVLAモデル推論を高速化
DepthCache: Depth-Guided Training-Free Visual Token Merging for Vision-Language-Action Model Inference
VLAモデルの推論遅延を減らすため、深度情報を構造的先行知識として使い、視覚トークンを領域ごとに異なる比率で統合する学習不要のフレームワークを提案。LIBEROベンチマークで最大1.28倍の高速化を達成し、成功率の低下は1%未満に抑えた。
詳しい要約
1. どんなもの？
2. 先行研究と比べてどこがすごい？
3. 技術・手法の肝は？
4. どうやって有効だと検証した？
5. 議論はある？
6. 次に読むべき論文は？
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Yuquan Li, Lianjie Ma, Han Ding, Lijun Zhu
分類: cs.RO
原文アブストラクト
Vision-Language-Action (VLA) models enable generalist robotic manipulation but suffer from high inference latency. This bottleneck stems from the massive number of visual tokens processed by large language backbones. Existing methods either prune or merge tokens uniformly, degrading the spatial reasoning essential for robotic control. We present DepthCache, a training-free framework that leverages depth as a structural prior for visual token compression. It partitions observations into depth-based regions and applies spatially differentiated merge ratios, preserving the near-field workspace while compressing the distant background. To exploit temporal redundancy, DepthCache distributes the merging process across consecutive frames, ensuring consistent representations while reducing per-step computation. A motion-adaptive pipeline further optimizes auxiliary view compression based on end-effector dynamics. The framework requires no model modification, generalizing across diverse VLA architectures. On the LIBERO benchmark, DepthCache achieves up to 1.28x inference speedup with less than 1% average success rate degradation across three VLA models (pi_0.5, OpenVLA, GR00T), whereas pruning and merging baselines incur 4--24% degradation at comparable compression. Real-world experiments on a physical manipulator demonstrate that DepthCache enables faster task throughput and more responsive closed-loop control in latency-sensitive scenarios.
関連論文
- WA-SpecDec: 世界認識型投機的デコーディングによる視覚言語行動モデルの高速化VLA/推論高速化
- 動作認識型ベクトル量子化と重心再利用による効率的なVLA推論フレームワークVLA/推論高速化
- 行動に足る速さで：低遅延ロボットVLM/VLAのための時空間ビジュアルトークン統合VLA/推論高速化
- C$^3$ache: クロス推論チャンクキャッシュによるワールドアクションモデルの高速化VLA/推論高速化
- 潜在ブリッジ：デュアルシステム視覚言語行動モデルの効率的推論のための特徴デルタ予測VLA/推論高速化
- Realtime-VLA FLASH: 拡散型VLAのための投機的推論フレームワークVLA/推論高速化
