日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.33097

クエリ・アライメント・蒸留:効率的な視覚言語ナビゲーションのためのナビゲーション認識クロスモーダル相互作用

Query, Align, and Distill: Navigation-Aware Cross-Modal Interaction for Efficient Vision-and-Language Navigation

シェア:XThreadsFacebookLINEはてブBluesky

視覚言語ナビゲーション(VLN)において、ナビゲーション証拠を明示的に選択する教師モデルを構築し、そのクエリを蒸留することで、パラメータ数を93.65%削減しつつ性能をほぼ維持するコンパクトな生徒モデルを実現した。

詳しい要約

1. どんなもの?

- 大規模なVision-and-Language Navigation (VLN) モデルの高精度だが高コストな問題に対し、効率的なVLNを実現する手法を提案。 - 2段階アプローチ:高性能なteacherモデルを構築し、それを蒸留してコンパクトなstudentモデルを訓練。 - teacherはNavigable Query GeneratorとInstruction-Query Alignerを導入し、ナビゲーション証拠選択を明示的・圧縮可能にする。 - studentはteacherのクエリを蒸留し、パラメータ数を93.65%削減しつつ性能をほぼ維持。

2. 先行研究と比べてどこがすごい?

- 従来の大規模VLNモデルは高精度だがパラメータ数と計算コストが大きく展開が困難。 - 提案手法はteacher-student蒸留により、パラメータを93.65%削減しながらteacherのナビゲーション性能にほぼ匹敵。 - ナビゲーション証拠選択を明示的・圧縮可能にした点が先行研究と異なる。

3. 技術・手法の肝は?

- teacher:Navigable Query Generatorが学習可能なクエリスロットでパノラマ観測からグローバル・ローカルの行動十分なナビゲーション証拠を抽出。 - Instruction-Query Alignerが証拠トークンを命令に段階的にグラウンディングし、ポリシー予測。 - student:クエリボトルネックを蒸留インタフェースとし、ナビゲーション認識トークン適応目的でグローバル・ローカルクエリを蒸留。 - ファインチューニング時に行動分布もマッチング。

4. どうやって有効だと検証した?

- 標準的なVLNベンチマークでの実験により、studentがteacherのナビゲーション性能にほぼ匹敵することを確認。 - パラメータ数をteacher比で93.65%削減したことを示す。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。関連手法としてVision-and-Language Navigation (VLN) の一般的な研究や知識蒸留 (knowledge distillation) が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhihao Chen, Yiyuan Ge, Ziyang Wang, Pu Cao, Lu Yang

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Recent large-scale Vision-and-Language Navigation (VLN) models deliver strong accuracy but remain costly to deploy due to their large parameter counts and computational requirements. We tackle efficient VLN in two steps. First, we build a high-performing teacher that makes navigation evidence selection explicit and compressible. The teacher introduces a small set of learnable query slots to extract global and local action-sufficient navigable evidence from panoramic observations via a Navigable Query Generator, then progressively grounds these evidence tokens to the instruction with an Instruction-Query Aligner for policy prediction. Second, using this explicit query bottleneck as a distillation interface, we train a compact student by transferring both where to attend and what to do. We distill the teacher's global and local navigable queries with a navigation-aware token-adaptive objective, then further match action distributions during fine-tuning. Experiments on standard VLN benchmarks demonstrate that our student nearly matches the teacher's navigation performance while reducing the number of parameters by 93.65% compared to the teacher.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI