日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.16246

VLAは呼び出すエージェントから何を学べるか:具現化ナビゲーションのためのタスクレベル経験蒸留

What Can a VLA Learn from the Agent That Calls It? Task-Level Experience Distillation for Embodied Navigation

シェア:XThreadsFacebookLINEはてブBluesky

LLMプランナー付きナビゲーションエージェントの成功経験をVLAに蒸留し、テスト時はVLA単体でナビゲーションできるようにするH2E手法を提案。REVERIE-CEで成功率を35.0%から44.9%に向上させた。

詳しい要約

1. どんなもの?

- LLM planner が VLA を呼び出す embodied navigation エージェントの構成を対象に、テスト時に VLA 単体で動作できるよう、エージェントの成功経験を VLA へ蒸留する手法 H2E を提案した研究。 - 各 episode で LLM を必要とする構成はコストと遅延が増える点が動機。 - planner ではなく agent experience を蒸留する点が特徴。

2. 先行研究と比べてどこがすごい?

- 従来の蒸留は planner を対象とすることが想定されるが、本研究は agent の成功セッションを VLA の訓練データへ変換する点が異なる。 - agent session は VLA demonstration ではなく、planner tool や sub-instruction に駆動された motion、detour を含むため、そのままでは VLA 学習に使えないという課題を扱う。 - 結果として VLA が単独で停止判断を含む navigation を行えるようにする。

3. 技術・手法の肝は?

- H2E は task-level experience distillation 手法で、agent session を VLA 訓練データへ変換する。 - 各 motion を元の task instruction 下の VLA action とし、結果の pose を target とする。 - goal から離れる step の loss を mask する。 - goal から 1 m 以内の訪問 state を stop としてラベル付けする。 - VLA は low-rank adaptation で更新する。

4. どうやって有効だと検証した?

- REVERIE-CE の val-unseen 全 3,189 episode で評価。 - 8B VLA の success rate が 35.0% から 44.9% へ向上。 - VLA が goal で停止すること、および base model が到達しない goal を見つけることを学習したと報告。

5. 議論はある?

- 要旨からは不明。 - ただし agent session に含まれる detour や planner tool 駆動 motion の扱い、loss mask と stop ラベルの設計が性能に与える影響は議論対象になり得る。

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない。 - 関連手法として LLM planner と VLA を組み合わせた embodied navigation、VLA の low-rank adaptation、experience distillation に関する研究を次に読む候補として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jinze Tao, Yuxiao Han, Kangkang Dong, Yancong Wei, Xiaojun Zhu, Bokui Chen, Houde Liu

分類: cs.RO, cs.LG

原文アブストラクト

Navigation agents use a large language model (LLM) planner to call a vision-language-action (VLA) model. Each episode needs the LLM, adding cost and delay. We distill successful agent experience into the VLA instead of distilling the planner. The VLA then navigates alone at test time. Agent sessions are not VLA demonstrations. They include motions driven by planner tools and sub-instructions, along with detours. We present H2E, a task-level experience distillation method that converts these sessions into VLA training data. Every motion becomes a VLA action under the original task instruction, with the resulting poses as targets. H2E masks the loss on steps that move away from the goal. It labels every visited state within 1 m of the goal as a stop. We then update the VLA with low-rank adaptation. The VLA learns to stop at the goal and find goals the base model never reaches. On all 3,189 REVERIE-CE val-unseen episodes, H2E raises the success rate of an 8B VLA from 35.0% to 44.9%.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI