ニューラル内省ゲーティングによる視覚言語行動モデルの適応的KVキャッシュ再利用

本論文は、Vision-Language-Action (VLA)モデルにおけるKV-Cache再利用の適応的制御手法「Gated VLA-Cache」を提案する。VLAモデルはカメラ画像と言語指示から直接モーターコマンドを生成するが、隣接フレーム間で視覚トークンのKV表現がほぼ変化しないにもかかわらず、再計算に多くの計算コストを費やす。既存のVLA-Cacheは視覚的に静的パッチのKV状態を再利用するが、観測空間のヒューリスティックに依存し、モデル自身の不確実性を考慮しない。提案手法は、視覚的類似性キャッシュにニューラル内省を追加する軽量でトレーニング不要な拡張であり、デコード中に利用可能なゼロコストの信頼度信号（トップ2の予測アクショントークン間のロジットマージン）を監視し、マージンが閾値を下回るとキャッシュを無効化して完全な再計算をトリガーする。

先行研究のVLA-Cacheは観測空間のヒューリスティックのみに基づいてKV再利用を行い、モデルの不確実性を考慮しないため、キャッシュ再利用が誤った場合に信頼性が低下する可能性がある。提案手法は、モデルの内部状態（ロジットマージン）を内省信号として利用することで、キャッシュ再利用の判断を適応的に行い、ブラインドキャッシュが害を及ぼす状況での信頼性を向上させる。さらに、トレーニング不要で軽量な拡張であり、追加の学習やパラメータを必要としない点が優れている。

手法の核心は、視覚的類似性に基づくKVキャッシュ再利用に、モデルの予測信頼度を表すロジットマージンを組み合わせたゲーティング機構である。具体的には、デコード時にトップ2の予測アクショントークン間のロジットマージンを計算し、それが閾値未満の場合、モデルが不確実であると判断してキャッシュを無効化し、全トークンのKVを再計算する。これにより、キャッシュ再利用による計算削減を維持しつつ、モデルの不確実性が高い場合には正確な計算を優先する。この手法はトレーニング不要で、既存のVLAモデルに容易に適用できる。

評価は、4つのLIBEROベンチマークスイート（LIBERO-Goal、LIBERO-Longを含む）で、OpenVLAとOpenVLA-OFTの2つのVLAモデルを用いて行われた。結果、Gated VLA-Cacheは、ブラインドキャッシュが害を及ぼす状況で信頼性を向上させた。特にLIBERO-GoalとLIBERO-Longでは、失われた精度の100%以上を回復しつつ、計算削減の80%を維持した。

要旨からは、提案手法の限界や議論についての詳細は不明である。ただし、閾値の設定が性能に影響する可能性や、ロジットマージンが常に信頼度の良い指標となるかどうか、また異なるタスクやモデルでの汎用性などが議論の余地として考えられるが、要旨には明記されていない。

要旨で参照されている先行研究はVLA-Cacheであり、これは視覚的類似性に基づくKVキャッシュ再利用の手法である。また、評価に用いられたOpenVLAとOpenVLA-OFTはVLAモデルの具体例である。次に読むべき論文としては、VLA-Cacheの元論文や、OpenVLAの論文、さらにはKV-Cache再利用に関する一般的な研究が挙げられる。