C$^3$ache: クロス推論チャンクキャッシュによるワールドアクションモデルの高速化
C$^3$ache: Accelerating World Action Models with Cross Inference Chunk Cache
ワールドアクションモデル(WAM)の推論を高速化するため、異なる推論チャンク間で残差をキャッシュして再利用する学習不要の手法C$^3$acheを提案し、最大2.5倍の高速化を達成した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Weisen Zhao, Lam Nguyen, Zhicong Lu, Yuzhang Shang
分類: cs.LG, cs.CV, cs.RO
原文アブストラクト
World Action Models (WAMs) generalize better than standard Vision-Language-Action (VLA) policies to novel motions and environments, because a video-modeling objective lets them learn from abundant unlabeled video rather than scarce labeled robot demonstrations. This generalization is computationally expensive. To complete a task, a WAM runs over multiple inference chunks, and each chunk requires a costly denoising process. Existing acceleration methods reduce this cost by caching and reusing computation within a single chunk's denoising trajectory. Our empirical analysis reveals a substantial source of redundancy they overlook: redundancy across chunks. When a robot executes a smooth behavior, the residuals computed at a given denoising step are strongly correlated from one chunk to the next. We introduce C$^3$ache, a training-free method that caches and reuses these residuals across inference chunks at the same denoising step. Experiments on benchmarks with a Fast-WAM backbone show that C$^3$ache achieves up to a $2.5\times$ speedup in total wall-clock inference time, with negligible degradation in task success rate.
関連論文
- WA-SpecDec: 世界認識型投機的デコーディングによる視覚言語行動モデルの高速化VLA/推論高速化
- 動作認識型ベクトル量子化と重心再利用による効率的なVLA推論フレームワークVLA/推論高速化
- 行動に足る速さで:低遅延ロボットVLM/VLAのための時空間ビジュアルトークン統合VLA/推論高速化
- 潜在ブリッジ:デュアルシステム視覚言語行動モデルの効率的推論のための特徴デルタ予測VLA/推論高速化
- Realtime-VLA FLASH: 拡散型VLAのための投機的推論フレームワークVLA/推論高速化
- VLA-InfoEntropy: 学習不要の視覚注意情報エントロピーによるVLAモデルの推論高速化と成功率向上VLA/推論高速化
