日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2604.03191

圧縮ギャップ:離散トークン化が視覚・言語・行動モデルのスケーリングを制限する理由

The Compression Gap: Why Discrete Tokenization Limits Vision-Language-Action Model Scaling

シェア:XThreadsFacebookLINEはてブBluesky

視覚エンコーダの性能向上が、行動を離散トークンで表現するVLAモデルでは性能向上に結びつかないことを示し、情報ボトルネックの位置がスケーリング挙動を決める「圧縮ギャップ」原理を提唱した。

詳しい要約

1. どんなもの?

本論文は、Vision-Language-Action (VLA) モデルにおいて、vision encoder を強化しても action が discrete token で表現されていると下流の manipulation 性能が向上しない現象を示し、その理由を情報理論的な原理「Compression Gap」で説明する研究。 - VLA の scaling では、vision encoder のアップグレードが期待されるほど効かない場合がある。 - ボトルネックの位置が scaling 挙動を支配するという主張。 - action が continuous な Diffusion Policy では encoder 強化が有効。 - action が fixed-capacity codebook で離散化される OAT では codebook が制約となる。

2. 先行研究と比べてどこがすごい?

従来、vision-language modeling と同様に vision encoder の強化が VLA の manipulation 性能も改善すると期待されてきた。 - 本研究は、action が discrete token の場合にはこの期待が失敗することを示す。 - 単にモデルやデータを大きくするのではなく、パイプライン内の情報ボトルネックを特定する必要性を提起。 - Diffusion Policy と OAT を比較し、ボトルネック位置の違いが scaling 挙動を決めることを示した点が新しい。

3. 技術・手法の肝は?

情報理論的原理「Compression Gap」を導入し、visuomotor pipeline における最も狭い情報ボトルネックが scaling 挙動を決めると主張。 - action が continuous の場合、vision encoder が binding constraint となり、その強化が性能に直結。 - action が fixed-capacity codebook で離散化される場合、codebook が binding constraint となり、上流の表現が豊かでも改善が伝播しない。 - LIBERO benchmark 上で、encoder アップグレード、encoder 品質勾配、codebook サイズ変更の実験を行う。

4. どうやって有効だと検証した?

LIBERO benchmark を用いて3系統の証拠で検証。 - factorial experiment: encoder アップグレードにより Diffusion Policy は 21 percentage points 以上改善する一方、OAT の利得は model scale を通じて大幅に減衰。 - encoder quality gradient: 4つの encoder で Diffusion Policy は encoder 品質に単調に追従するが、OAT は平坦。 - codebook size experiment: codebook 容量を緩めると encoder 感度が部分的に回復し、ボトルネック仮説の因果的証拠を提供。

5. 議論はある?

Physical AI における scaling では、モデルやデータサイズを一律に増やすのではなく、パイプライン内の情報ボトルネックの位置を特定することが重要だと議論。 - discrete tokenization が vision encoder の改善を遮断する可能性を指摘。 - ただし、具体的なボトルネック特定手法や他タスクへの一般化については要旨からは不明。

6. 次に読むべき論文は?

要旨で参照・比較されている研究として、Diffusion Policy、OAT、LIBERO benchmark が挙げられる。 - 関連手法として、continuous action を扱う Diffusion Policy と、discrete token 化を行う OAT を比較している。 - 同分野の定番として、Vision-Language-Action (VLA) モデル、vision-language modeling、Physical AI の scaling 研究が次に読むべき候補。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Takuya Shiba

分類: cs.RO, cs.CV, cs.LG

原文アブストラクト

Scaling Vision-Language-Action (VLA) models by upgrading the vision encoder is expected to improve downstream manipulation performance--as it does in vision-language modeling. We show that this expectation fails when actions are represented as discrete tokens, and explain why through an information-theoretic principle we call the Compression Gap: in any visuomotor pipeline, scaling behavior is governed by the location of the tightest information bottleneck. When actions are continuous (e.g., Diffusion Policy), the vision encoder is the binding constraint, and upgrading it directly improves performance. When actions are discretized through a fixed-capacity codebook (e.g., OAT), the codebook becomes the binding constraint, and encoder improvements cannot propagate past it--regardless of how rich the upstream representation is. We validate this principle on the LIBERO benchmark with three lines of evidence: a factorial experiment showing that encoder upgrades improve Diffusion Policy by over 21 percentage points while OAT gains are substantially attenuated across model scales; an encoder quality gradient across four encoders confirming that Diffusion Policy tracks encoder quality monotonically while OAT remains flat; and a codebook size experiment demonstrating that relaxing codebook capacity partially recovers encoder sensitivity, providing causal evidence for the bottleneck hypothesis. Our findings reveal that scaling in Physical AI requires identifying where information bottlenecks lie in the pipeline, rather than uniformly increasing model or data size.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI