日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

量子化arXiv:2605.24011

ActQuant: 視覚言語行動モデルのための4ビット未満の行動誘導量子化

ActQuant: Sub-4-bit Action-Guided Quantization for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

VLAモデルのエッジ展開を可能にするため、行動予測への寄与度に基づいてビット幅を割り当てる行動誘導型混合精度量子化フレームワークActQuantを提案し、シミュレーションと実機で高い性能を維持しつつ大幅な圧縮を実現した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルは embodied intelligence 向けの行動生成に優れるが、計算負荷が大きく edge 展開が困難。 - そこで sub-4-bit の重み量子化を目的とした ActQuant を提案。 - これは action-guided mixed-precision post-training quantization (PTQ) フレームワーク。 - さらに OmniModel.cpp という agentic conversion pipeline を導入し、C/C++ runtime と低ビットカーネルで実機展開を可能にする。

2. 先行研究と比べてどこがすごい?

- 既存の PTQ 手法は sub-4-bit 領域で性能が大幅に劣化する。 - ActQuant は 3 bits-per-weight (bpw) 以下で動作する唯一の手法であり、LIBERO benchmark で OpenVLA-OFT の 95.0%、π_{0.5} の 94.8% を保持。 - 2.5 bpw でも OpenVLA-OFT で 90.1% を達成し、backbone を 14.3 GB から 2.7 GB へ 5.3× 圧縮。 - 実機 UR3 arm でも π_{0.5} の成功率を維持しつつメモリフットプリントを 2.5× 削減。

3. 技術・手法の肝は?

- 2段階の action-guided mixed-precision PTQ。 - (1) inter-tensor bit allocator: 各 weight matrix に、エージェントの行動予測への寄与度に基づいて単一の bit-width を割り当てる。 - (2) intra-tensor scale optimizer: action-aware curvature を用いて per-block quantization scales を調整し、制御に最も影響する重みに dynamic range を集中させる。 - さらに OmniModel.cpp がアーキテクチャを native C/C++ runtime に移植し、効率的な低ビットカーネルを提供。

4. どうやって有効だと検証した?

- シミュレーションと実世界の 6-DoF UR3 arm で評価。 - すべてのモデルは OmniModel.cpp を通じて展開。 - LIBERO benchmark で、ActQuant は 3 bpw 以下で OpenVLA-OFT 95.0%、π_{0.5} 94.8% を保持。 - 2.5 bpw では OpenVLA-OFT で 90.1% を達成し、backbone を 14.3 GB から 2.7 GB へ圧縮。 - 実機 UR3 arm では π_{0.5} を ActQuant で量子化し、ベースラインの成功率を維持しつつメモリを 2.5× 削減。

5. 議論はある?

- 要旨からは不明。 - ただし、sub-4-bit 量子化における既存 PTQ の性能劣化を解決する点が主眼。 - 実機展開の利点を OmniModel.cpp で提供。 - 限界や今後の課題については要旨に記述なし。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: 既存の post-training quantization (PTQ) 手法、OpenVLA-OFT、π_{0.5}、LIBERO benchmark。 - 関連手法として、mixed-precision quantization、action-guided quantization、OmniModel.cpp が挙げられる。 - 同分野の定番: Vision-Language-Action (VLA) モデル、embodied intelligence、edge deployment。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Arash Akbari, Arman Akbari, Masih Eskandar, Qitao Tan, Yixiao Chen, Jingwu Luo, Bertha Pangaribuan, Liyun Zhang, Jennifer Dy, Geng Yuan, Xue Lin, Gaowen Liu, Stratis Ioannidis, Yanzhi Wang

分類: cs.CV, cs.AI

原文アブストラクト

Vision-Language-Action (VLA) models exhibit remarkable action generation for embodied intelligence, but their heavy compute make deployment on edge platforms impractical. Aggressive, sub-4-bit weight quantization is the natural solution, yet existing post-training quantization (PTQ) methods suffer severe performance degradation in this regime. To address this, we introduce ActQuant, an action-guided mixed-precision PTQ framework that operates in two stages: (1) an inter-tensor bit allocator that assigns each weight matrix a single bit-width based on how much it contributes to predicting the agent's actions; (2) an intra-tensor scale optimizer tunes per-block quantization scales using action-aware curvature, so that dynamic range is concentrated on the weights most influential for control. To deliver the on-device benefits of our aggressive quantization, we further introduce OmniModel.cpp, an agentic conversion pipeline that ports architectures into a native C/C++ runtime with efficient low-bit kernels. We evaluate ActQuant both in simulation and on a real-world 6-DoF UR3 arm, with all models deployed through OmniModel.cpp. On the LIBERO benchmark, ActQuant is the only method that operates at or below 3 bits-per-weight, retaining 95.0% on OpenVLA-OFT and 94.8% on $π_{0.5}$. Pushed further, ActQuant reaches 2.5 bpw at 90.1% on OpenVLA-OFT, compressing the backbone from 14.3 GB to 2.7 GB (5.3$\times$). On the physical UR3 arm, $π_{0.5}$ quantized with ActQuant retains the baseline's success rate while reducing the memory footprint by 2.5$\times$.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI