日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2603.19233

すべての特徴が平等ではない:視覚言語行動モデルの機構的研究

Not All Features Are Created Equal: A Mechanistic Study of Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語行動(VLA)モデルがマルチモーダル入力を行動に変換する仕組みを、活性化注入やスパースオートエンコーダなどを用いて分析し、視覚経路が行動生成を支配し、言語の重要性はタスク構造に依存することを明らかにした。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルがマルチモーダル入力を行動に変換する仕組みを解明する機械論的研究。 - 6モデル(80M~7Bパラメータ)を対象に、4ベンチマークで394,000以上のロールアウトエピソードを分析。 - activation injection, sparse autoencoders (SAEs), linear probes を適用。 - 視覚経路が行動生成を支配し、言語感度はタスク構造に依存することを発見。 - マルチ経路アーキテクチャでは専門経路が運動プログラムを、VLM経路が目標意味論を符号化。 - 対照的同定で82以上の操作概念を回復し、因果的アブレーションで感度を調査。 - Action Atlas を公開し、VLA表現の対話的探索を可能にした。

2. 先行研究と比べてどこがすごい?

- 従来のVLAモデル研究は性能評価が中心で、内部メカニズムの理解が不十分だった。 - 本研究は初めて大規模にactivation injection, SAEs, linear probesを組み合わせ、6モデルを横断的に分析。 - 視覚経路の支配性や言語感度のタスク依存性を定量的に示し、従来の想定を覆す。 - マルチ経路アーキテクチャにおける専門経路とVLM経路の分離を実証。 - 82以上の操作概念の回復や因果的アブレーションによる感度分析は先行研究にない新規性。 - Action Atlas の公開により、再現性と探索可能性を大幅に向上。

3. 技術・手法の肝は?

- activation injection: ベースライン活性化をnull-promptエピソードに注入し、行動回復を評価。 - sparse autoencoders (SAEs): 活性化のスパース表現を学習し、特徴を抽出。 - linear probes: 活性化からタスク関連情報を線形にデコード。 - クロスタスク注入: ソースタスクの軌道にロボットを誘導するか検証。 - サブスペース注入: 専門経路とVLM経路の活性化サブスペースの分離を確認。 - 対照的同定: 操作概念を回復するために使用。 - 因果的アブレーション: 特定の特徴を除去し、行動への影響を測定。 - トークンごとのSAE処理が行動忠実度に重要であることを検証。

4. どうやって有効だと検証した?

- 6モデル(80M~7B)を4ベンチマークで394,000以上のロールアウトエピソードを用いて評価。 - 視覚経路の支配性: null-promptエピソードへのベースライン注入でほぼ同一の行動を回復。 - クロスタスク注入: X-VLAエピソードの99.8%がソース軌道と一致。 - 言語感度: X-VLA libero_goalで誤プロンプト時に94%→10%に低下、libero_objectでは60-100%を維持。 - マルチ経路アーキテクチャ: 専門経路注入でVLM経路より2倍の行動変位。 - サブスペース注入で分離を確認。 - 対照的同定で82以上の操作概念を回復。 - 因果的アブレーションで28-92%のゼロ効果率を観測。

5. 議論はある?

- 視覚経路が行動生成を支配し、言語はタスク構造に依存して重要になることを示唆。 - 言語感度はモデル設計ではなくタスク構造に依存するという発見は、VLA設計に影響を与える。 - マルチ経路アーキテクチャにおける専門経路とVLM経路の分離は、モジュール性の理解を深める。 - トークンごとのSAE処理が行動忠実度に重要である一方、X-VLAではmean-poolingが改善。 - 因果的アブレーションのゼロ効果率は表現幅に依存しない。 - 限界: 6モデルに限定され、他のアーキテクチャへの一般化は未検証。 - 今後の課題: より多様なモデルとタスクでの検証、リアルタイム制御への応用。

6. 次に読むべき論文は?

- X-VLA, π0.5, SmolVLA, GR00T の原論文。 - sparse autoencoders (SAEs) をロボティクスに適用した研究。 - activation injection や linear probes を用いたモデル解釈研究。 - Vision-Language-Action (VLA) モデルのサーベイ論文。 - マルチモーダル表現学習における経路分離の研究。 - Action Atlas に関連するインタラクティブ可視化ツールの論文。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bryce Grant, Xijia Zhao, Peng Wang

分類: cs.RO

原文アブストラクト

Vision-Language-Action (VLA) models combine perception, language, and motor control in a single architecture, yet how they translate multimodal inputs into actions remains poorly understood. We apply activation injection, sparse autoencoders (SAEs), and linear probes to six models spanning 80M--7B parameters across 394,000+ rollout episodes on four benchmarks. The visual pathway dominates action generation across all architectures: injecting baseline activations into null-prompt episodes recovers near-identical behavior, while cross-task injection steers robots toward source-task positions (99.8\% of X-VLA episodes align with the source trajectory), exposing spatially bound motor programs tied to scene coordinates rather than abstract task representations. Language sensitivity depends on task structure, not model design: when visual context uniquely specifies the task, language is ignored; when multiple goals share a scene, language becomes essential (X-VLA \texttt{libero\_goal}: 94\%$\to$10\% under wrong prompts vs.\ \texttt{libero\_object}: 60--100\% regardless). In all three multi-pathway architectures (\pizhalf{}, SmolVLA, GR00T), expert pathways encode motor programs while VLM pathways encode goal semantics ($2\times$ greater behavioral displacement from expert injection), and subspace injection confirms these occupy separable activation subspaces. Per-token SAE processing is essential for action fidelity on most architectures, though mean-pooling improves fidelity on X-VLA. Contrastive identification recovers 82+ manipulation concepts, and causal ablation reveals sensitivity spanning 28--92\% zero-effect rates independent of representation width. We release \textbf{Action Atlas} (https://action-atlas.com) for interactive exploration of VLA representations across all six models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI