日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/ロバスト性arXiv:2605.25889

能力とロバスト性は両立できない:視覚言語行動モデルに対する情報理論的限界

Capability and Robustness Cannot Both Be Free: An Information-Theoretic Bound for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語行動モデル(VLA)は、わずかな敵対的摂動で成功率が劇的に低下することを示し、その能力とロバスト性のトレードオフに理論的下限が存在することを情報理論的に証明した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルにおける capability と robustness のトレードオフに理論的下限が存在するかを問う研究。 - 任意の VLA policy に対し、capability $I(A^*;A_\pi)$ と robustness $I(A_\pi;A_{\tilde\pi})-I(A_\pi;\delta)$ の和が $H(A^*)+I(X;\tilde X)$ 以下であることを証明。 - これは task entropy と adversarial channel capacity の和で抑えられる情報理論的 bound。 - 実証として OpenVLA-7B の LIBERO 成功率が $16/255$ PGD 攻撃で $95\%$ から $5\%$ 未満に低下する現象を扱う。

2. 先行研究と比べてどこがすごい?

- 従来、VLA の capability-robustness トレードオフに理論的下限があるかは未解決だった。 - 本研究はそれが存在することを初めて証明し、情報理論的 bound を与えた。 - pixel-level bound は約 $10^3$ nats 緩いが ceiling guarantee として機能。 - encoder-specific corollary により1桁以上タイトになり、実現 capability が予算の $5$--$9\%$ を消費する領域に達する。 - さらに measurability inequality $\Rob_{\text{disc}} \le \Cap_{\text{disc}}$ を cross-architecture で示す。

3. 技術・手法の肝は?

- 証明は Data Processing Inequality の2回の適用に帰着。 - capability と robustness を相互情報量で定式化し、その和の上限を導出。 - pixel-level bound に加え、encoder-specific corollary で bound をタイト化。 - 同一構成から3つの label-free diagnostics を導出:pre-flight encoder ceiling、defense-forensics probe(input-side vs. language-model intervention を局所化)、head-agnostic robustness ratio。 - これらは discrete-token、$L_1$-regression、flow-matching ポリシー間で比較可能。

4. どうやって有効だと検証した?

- Theorem を $308$ cells で検証し、違反ゼロ。 - 内訳:$252$ closed-form Gaussian-VLA、$48$ OpenVLA-7B$+$LIBERO$+$PGD($4$ suites $\times$ $4$ $\eps$ $\times$ $3$ seeds)、$4$ Square-Attack、$4$ multi-step($T{=}10$)。 - 補完的な measurability inequality $\Rob_{\text{disc}} \le \Cap_{\text{disc}}$ を $144$ cross-architecture cells で検証。 - 対象アーキテクチャ:OpenVLA、OpenVLA-OFT(continuous-$L_1$)、SmolVLA(flow-matching)。

5. 議論はある?

- pixel-level bound は約 $10^3$ nats 緩く、ceiling guarantee としての役割に留まる。 - encoder-specific corollary によりタイト化され、実現 capability が予算の $5$--$9\%$ を消費する領域に達する。 - 導出された diagnostics は defense と architecture 比較に欠けていた cross-setting axis を提供。 - 具体的な限界や反論については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:OpenVLA-7B、LIBERO、PGD、Square-Attack、OpenVLA-OFT、SmolVLA。 - 関連手法:Data Processing Inequality、Gaussian-VLA、flow-matching、$L_1$-regression。 - 同分野の定番として Vision-Language-Action モデル全般、adversarial robustness、information-theoretic bounds に関する文献が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jianwei Tai

分類: cs.CR, cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models reach high success rates on clean inputs but collapse under small adversarial perturbations: a $16/255$ PGD attack drops OpenVLA-7B's LIBERO success from $95\%$ to under $5\%$. Whether this trade-off has a theoretical floor was open. We prove that it does. For any VLA policy, capability $I(\Astar;\Api)$ and robustness $I(\Api;\Atildepi)-I(\Api;δ)$ sum to at most $H(\Astar)+I(X;\Xtilde)$, the task entropy plus adversarial channel capacity. The proof reduces to two applications of the Data Processing Inequality. The pixel-level bound is loose by $\sim 10^3$ nats and serves as a ceiling guarantee; an encoder-specific corollary tightens it by over an order of magnitude, into a regime where realized capability already consumes $5$--$9\%$ of the budget. We validate Theorem~\ref{thm:main} with zero violations across $308$ cells: $252$ closed-form Gaussian-VLA, $48$ OpenVLA-7B$+$LIBERO$+$PGD ($4$ suites $\times$ $4$ $\eps$ $\times$ $3$ seeds), $4$ Square-Attack, and $4$ multi-step ($T{=}10$). A complementary measurability inequality $\Rob_{\text{disc}} \le \Cap_{\text{disc}}$ further holds across $144$ cross-architecture cells spanning OpenVLA, OpenVLA-OFT (continuous-$L_1$), and SmolVLA (flow-matching). The same construction yields three label-free diagnostics: a pre-flight encoder ceiling, a defense-forensics probe that localizes input-side vs.\ language-model intervention, and a head-agnostic robustness ratio comparable across discrete-token, $L_1$-regression, and flow-matching policies. Together these provide the cross-setting axis defense and architecture comparisons currently lack.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI