日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2602.03782

QVLA: 視覚-言語-行動モデルの量子化におけるチャネルごとの重要度割り当て

QVLA: Not All Channels Are Equal in Vision-Language-Action Model's Quantization

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルの量子化を行動空間の感度に基づいてチャネル単位でビット幅を割り当てる手法を提案し、メモリ削減とタスク成功率の両立を実現した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルは embodied intelligence を大きく前進させるが、計算需要が大きく resource-constrained なロボット実機への展開が難しい。 - 低ビット量子化は大規模モデル圧縮の一般的な手法だが、VLA モデルの量子化に関する体系的な分析が欠けている。 - 本論文は QVLA を提案する。action-centric な量子化フレームワークで、embodied control 向けに特化して設計されている。 - 均一ビット量子化ではなく、channel-wise なビット割り当てを行う点が特徴。

2. 先行研究と比べてどこがすごい?

- LLM 由来の均一ビット量子化をロボティクスにそのまま適用するのは不適切だと主張。 - 既存手法は passive な data fidelity を優先し、小さな action のずれが catastrophic なタスク失敗に増幅する点を無視している。 - QVLA は action-space sensitivity を直接測る点で、LLM ベース手法の硬直した均一ビット量子化から大きく逸脱する。 - LIBERO において OpenVLA-OFT の量子化版は VRAM 29.2% で性能 98.9% を維持し 1.49x 高速化。LLM 由来の SmoothQuant 比で 22.6% の性能改善。

3. 技術・手法の肝は?

- 各 channel を様々な bit-width に量子化した際の final action-space sensitivity を直接測定する。 - この測定により per-channel importance metric を得る。 - その指標が global optimization を導き、量子化と pruning (0-bit) を単一の枠組みに統合する。 - 高粒度な channel-wise bit allocation strategy を採用する。

4. どうやって有効だと検証した?

- 異なる baseline で広範な評価を実施。 - LIBERO において OpenVLA-OFT の量子化版を評価。 - 元モデルの VRAM 29.2% で性能 98.9% を維持し、1.49x の speedup を達成。 - LLM 由来の SmoothQuant と比較して 22.6% の性能改善を確認。

5. 議論はある?

- VLA モデルの量子化に関する体系的分析が根本的に欠けていると指摘。 - LLM の均一ビット量子化をロボティクスに naive に適用するのは flawed だと論じる。 - action の小さな偏差が catastrophic なタスク失敗に compound する点を重視すべきと主張。 - ロボティクスにおける VLA モデル圧縮の新しい principled foundation を確立すると述べる。

6. 次に読むべき論文は?

- SmoothQuant (LLM 由来の量子化手法として比較対象) - OpenVLA-OFT (評価に用いた VLA baseline) - LIBERO (評価 benchmark) - LLM 向け量子化手法 (一般名: post-training quantization, uniform-bit quantization など)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuhao Xu, Yantai Yang, Zhenyang Fan, Yufan Liu, Yuming Li, Bing Li, Zhipeng Zhang

分類: cs.CV, cs.RO

原文アブストラクト

The advent of Vision-Language-Action (VLA) models represents a significant leap for embodied intelligence, yet their immense computational demands critically hinder deployment on resource-constrained robotic platforms. Intuitively, low-bit quantization is a prevalent and preferred technique for large-scale model compression. However, we find that a systematic analysis of VLA model's quantization is fundamentally lacking. We argue that naively applying uniform-bit quantization from Large Language Models (LLMs) to robotics is flawed, as these methods prioritize passive data fidelity while ignoring how minor action deviations compound into catastrophic task failures. To bridge this gap, we introduce QVLA, the first action-centric quantization framework specifically designed for embodied control. In a sharp departure from the rigid, uniform-bit quantization of LLM-based methods, QVLA introduces a highly granular, channel-wise bit allocation strategy. Its core mechanism is to directly measure the final action-space sensitivity when quantizing each individual channel to various bit-widths. This process yields a precise, per-channel importance metric that guides a global optimization, which elegantly unifies quantization and pruning (0-bit) into a single, cohesive framework. Extensive evaluations on different baselines demonstrate the superiority of our approach. In the LIBERO, the quantization version of OpenVLA-OFT with our method requires only 29.2% of the original model's VRAM while maintaining 98.9% of its original performance and achieving a 1.49x speedup. This translates to a 22.6% performance improvement over the LLM-derived method SmoothQuant. Our work establishes a new, principled foundation for compressing VLA models in robotics, paving the way for deploying powerful, large-scale models on real-world hardware. Code will be released.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI