日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

量子化/モデル圧縮arXiv:2607.28405

QuantWAMs: ワールドアクションモデルにおける適切な粒度でのキャリブレーション

QuantWAMs: Calibrating at the Right Granularity for World Action Models

シェア:XThreadsFacebookLINEはてブBluesky

ワールドアクションモデル(WAM)向けに、モデル構造・展開分布・タスク目的に合わせた量子化キャリブレーション手法を提案し、メモリ削減と精度維持を実現した。

詳しい要約

1. どんなもの?

QuantWAMsは、World Action Models (WAMs)向けのpost-training quantization (PTQ)フレームワークである。WAMsは将来の観測と行動を同時予測するが、反復的denoisingとclosed-loop実行により効率的なデプロイが難しい。既存のPTQ法はopen-loop目的、均質なモデル仮定、デプロイを反映しないcalibration分布に依存し、WAMsには不適切。QuantWAMsは、モデル構造、rollout分布、タスク目的で定義されるcalibration contextに量子化決定を合わせる。

2. 先行研究と比べてどこがすごい?

既存のPTQ法はWAMsに不適切である点を指摘し、それに対し、モデル構造・rollout分布・タスク目的を考慮したcalibration contextを導入した点が新しい。具体的には、shared-basis outlier calibration、co-training-objective saliency、fixed-intervention rollout auditingの3戦略を提案し、従来のopen-loopや均質な仮定に基づく方法を改善している。

3. 技術・手法の肝は?

手法の肝は3つの戦略。(1) shared-basis outlier calibration: 座標互換なモジュール間でのみactivation evidenceをプールし、outlierを効果的に扱う。(2) co-training-objective saliency: joint video-action gradientからempirical-Fisher scoresを計算し、calibration-stableな層粒度で重み精度を割り当てる。(3) fixed-intervention rollout auditing: 到達可能なclosed-loop状態を用いてdenoising-step保護スケジュールを修正し、精度予算を変えずに実行する。

4. どうやって有効だと検証した?

Fast-WAMとLingBot-VAを、RoboTwin 2.0、LIBERO、およびAgiBot G2を用いた実ロボット操作で評価。W4A4-dominant設定で、シミュレーション平均はFP16と0.2〜0.7パーセントポイント差。実ロボットでは3つの操作タスクでデプロイ可能性を確認。対象のvideo/actionブロックで、ピーク重み・活性メモリをFP16の約29%に削減し、ブロックレベルで1.4〜1.6倍の高速化。

5. 議論はある?

要旨からは、提案手法の限界や他の量子化手法との詳細比較、異なるモデルやタスクでの汎用性に関する議論は不明。また、実ロボット実験の詳細な結果や、提案手法の各戦略の寄与度の分析も要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、Fast-WAM、LingBot-VA、RoboTwin 2.0、LIBERO、AgiBot G2が挙げられる。また、World Action Modelsの基盤となるWorld Modelsや、既存のPTQ手法(例えば、GPTQやAWQなど)に関する論文が関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

分類: cs.AI, cs.LG

原文アブストラクト

World Action Models (WAMs) jointly predict future observations and actions, but their iterative denoising and closed-loop execution make efficient deployment costly. Existing post-training quantization (PTQ) methods are poorly suited to WAMs because they rely on open-loop objectives, homogeneous model assumptions, and calibration distributions that do not reflect deployment. We present QuantWAMs, a PTQ framework that aligns quantization decisions with the calibration context defined by model structure, rollout distribution, and task objective. QuantWAMs introduces three strategies: shared-basis outlier calibration, which pools activation evidence only across coordinate-compatible modules; co-training-objective saliency, which computes empirical-Fisher scores from the joint video--action gradient and assigns weight precision at a calibration-stable layer granularity; and fixed-intervention rollout auditing, which revises denoising-step protection schedules using reachable closed-loop states without changing the precision budget. We evaluate QuantWAMs on Fast-WAM and LingBot-VA across RoboTwin 2.0, LIBERO, and real-robot manipulation with an AgiBot G2. Under a W4A4-dominant setting, the reported simulation means differ from FP16 by 0.2--0.7 percentage points. Real-robot trials further establish deployment feasibility on three manipulation tasks. For the targeted video and action blocks, QuantWAMs reduces peak weight-and-activation memory to about 29\% of FP16 and provides 1.4--1.6$\times$ block-level speedups.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI