日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2511.18082

ActDistill: 効率的な視覚-言語-行動モデルのための汎用的な行動誘導自己蒸留

ActDistill: General Action-Guided Self-Derived Distillation for Efficient Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

既存のVLAモデルの行動予測能力を軽量な生徒モデルに転移させる蒸留フレームワークを提案し、計算量を50%以上削減しつつ同等以上の性能を実現した。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルの推論コストと遅延を削減するための汎用的な distillation フレームワーク「ActDistill」を提案する研究。 - 任意の既存 VLA モデルの action prediction 能力を軽量な student モデルへ転移する。 - action priors を活用した action-oriented efficiency を目指す点が特徴。 - 推論時には graph 関連の補助コンポーネントを除去し、動的に routing された層のみで高精度 action を予測する。

2. 先行研究と比べてどこがすごい?

- 従来の効率化手法は主に vision-language 相関に着目していたのに対し、ActDistill は action priors を知識転移とモデル圧縮の指針に用いる。 - これにより VLA モデルに特化した action-oriented efficiency を実現する点が新しい。 - 単なる圧縮ではなく、action prediction の階層的進化を明示的にモデル化する点で先行の効率化戦略と異なる。

3. 技術・手法の肝は?

- 十分に学習済みの VLA モデルを teacher として用いる。 - graph-structured encapsulation strategy を導入し、action prediction の階層的進化を明示的にモデル化する。 - graph でカプセル化された teacher から student モデルを導出する。 - student には dynamic router を搭載し、action prediction の要求に応じて計算経路を適応的に選択させる。 - hierarchical graph-informed supervision により、student の滑らかで効率的な進化を導く。 - 推論時は graph 関連の補助部品を外し、動的 routing 層のみを実行する。

4. どうやって有効だと検証した?

- embodied benchmarks 上で実験を行った。 - ActDistill は full-scale VLA モデルと同等またはそれ以上の性能を達成した。 - 計算量を 50% 以上削減し、最大 1.67 倍の speedup を実現した。 - これにより効率的な embodied intelligence への汎用パラダイムを確立したと報告している。

5. 議論はある?

- 要旨からは不明。 - ただし、graph 関連補助コンポーネントの除去や dynamic router の挙動、汎化性に関する詳細な議論は要旨では触れられていない。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法として Vision-Language-Action (VLA) モデル、knowledge distillation、dynamic routing、graph-structured modeling の各分野の代表的文献を次に読むべき候補として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wencheng Ye, Tianshi Wang, Lei Zhu, Fengling Li, Guoli Yang, Hengtao Shen

分類: cs.CV, cs.RO

原文アブストラクト

Recent Vision-Language-Action (VLA) models have shown impressive flexibility and generalization, yet their deployment in robotic manipulation remains limited by heavy computational overhead and inference latency. In this work, we present ActDistill, a general action-guided self-derived distillation framework that transfers the action prediction capability of any existing VLA model to a lightweight counterpart. Unlike previous efficiency strategies that primarily emphasize vision-language correlations, ActDistill leverages action priors to guide knowledge transfer and model compression, achieving action-oriented efficiency for VLA models. Specifically, we employ a well-trained VLA model as the teacher and introduce a graph-structured encapsulation strategy to explicitly model the hierarchical evolution of action prediction. The student model, derived from the graph-encapsulated teacher, is further equipped with a dynamic router that adaptively selects computation paths based on action prediction demands, guided by hierarchical graph-informed supervision to ensure smooth and efficient evolution. During inference, graph-related auxiliary components are removed, allowing the student to execute only dynamically routed layers and predict high-precision actions with minimal computation and latency. Experiments on embodied benchmarks demonstrate that ActDistill achieves comparable or superior performance to full-scale VLA models while reducing computation by over 50% with up to 1.67 times speedup, thereby establishing a general paradigm toward efficient embodied intelligence.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI