日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

量子化arXiv:2609.33269

Q-WAM: 行動サブスペース保護によるWorld Action Modelの4ビット量子化

Q-WAM: 4-Bit Quantization of World Action Models with Action-Subspace Protection

シェア:XThreadsFacebookLINEはてブBluesky

World Action Modelを4ビットに量子化する際、行動生成に重要なチャネルを低ランク16ビット枝で保護することで、精度をほぼ保ったまま計算・メモリコストを削減する手法を提案。

詳しい要約

1. どんなもの?

- World Action Models (WAMs) を対象とした 4-bit weight-activation quantization 手法 Q-WAM の提案。 - WAMs は diffusion により video と robot actions を同時生成し、robotic manipulation で高性能だが、計算・メモリコストが高い。 - Q-WAM は action 生成精度を保ちつつ、量子化ブロックのメモリを削減する。

2. 先行研究と比べてどこがすごい?

- 既存の PTQ 手法 (smoothing, rotation など) は action 生成の精度維持に不十分。 - 最強 baseline の SVDQuant に対し、RoboTwin 2.0 で 2.5--8.7 percentage points 上回る。 - 実機 (Unitree G1 humanoid, bimanual UR3) では SVDQuant より 12.8--17.6 percentage points 成功率が向上。

3. 技術・手法の肝は?

- Action Observability Gramian (AOG) を導入。各層の入力チャネルの重み付き結合における丸め誤差が、全 denoising steps を通じて最終 action をどれだけ変化させるかを測定。 - Action-Subspace Protection (ASP) を開発。action に敏感な少数のチャネル結合を 16-bit low-rank branch に保持し、残りを 4-bit に量子化。両方とも GPU で効率的に動く dense matrix multiplications として実装。 - 各 expert の層にわたる AOG 由来の action mass を集約し、action に最も重要な expert を特定。その expert にのみ ASP を適用し、最小オーバーヘッドで action 品質を維持。

4. どうやって有効だと検証した?

- 3 つの WAMs を simulation と real-world deployment で評価。 - RoboTwin 2.0 benchmark で 89.6--93.0% の平均成功率を達成。16-bit モデルとの差は 1.1 percentage points 以内。 - 量子化ブロックのメモリを 3.1--3.4× 削減。 - Unitree G1 humanoid と bimanual UR3 robot での実機実験でも有効性を確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- SVDQuant (最強 baseline として比較) - smoothing, rotation などの既存 PTQ 手法 - World Action Models (WAMs) に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Arash Akbari, Arman Akbari, Jingwu Luo, Yuhao Lei, Yi Gao, Weiwei Chen, Xuan Zhang, Zhenman Fang, Geng Yuan, Yanzhi Wang

分類: cs.RO, cs.CV

原文アブストラクト

World Action Models (WAMs) jointly generate video and robot actions through iterative diffusion and perform strongly in robotic manipulation. However, their prohibitive compute and memory costs pose substantial deployment challenges. Post-training quantization (PTQ) can reduce these costs, but existing PTQ methods such as smoothing and rotation are insufficient to maintain the precision of action generation. To overcome this limitation, we propose Q-WAM, a new 4-bit weight-activation quantization for WAMs that preserves the actions the model generates. Specifically, we introduce the \textit{Action Observability Gramian (AOG)}, which measures how much rounding errors in each weighted combination of a layer's input channels change the final action through all denoising steps. We also develop Action-Subspace Protection (ASP), which keeps the few most action-sensitive channel combinations in a tiny 16-bit low-rank branch and quantizes the complementary weights and activations to 4 bits, both as dense matrix multiplications that run efficiently on GPUs. Finally, to preserve action quality with minimal overhead, we identify the experts that matter most for the generated action by aggregating the AOG-derived action mass across the layers of each expert and apply ASP only to those experts. We evaluate Q-WAM on three WAMs, both in simulation and in real-world deployment. On the RoboTwin 2.0 benchmark, it reaches 89.6--93.0\% average success rate, within 1.1 percentage points of the 16-bit models, while reducing the memory of the quantized blocks by 3.1--3.4$\times$. Our method outperforms the strongest baseline, SVDQuant, by 2.5--8.7 percentage points. On a Unitree G1 humanoid and a bimanual UR3 robot, it improves success over SVDQuant by 12.8-17.6 percentage points.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI