日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2610.00317

DriftOPD:ワンステップVLAポリシーのための系列レベル逆KL蒸留

DriftOPD: Sequence-Level Reverse-KL Distillation for One-Step VLA Policies

シェア:XThreadsFacebookLINEはてブBluesky

オフラインデータのみを用い、ロールアウトや教師なしで系列レベルの逆KL蒸留を行い、長期的なタスク成功を考慮したワンステップVLA行動生成を実現する手法を提案。

詳しい要約

1. どんなもの?

- VLAモデルのaction expertを対象に、sequence-levelのon-policy distillationを行う枠組み。 - teacher-freeかつrollout-freeで、offlineデータとone-step action生成のみを用いる。 - 連続行動空間のVLA action expertを1ステップ化し、長期的タスク成功を考慮する。

2. 先行研究と比べてどこがすごい?

- 従来のchunk-level trainingは局所的なaction likelihoodを最適化し、長期的タスク成功を明示的に扱わない。 - sequence-level RLはpolicy rolloutとclosed-loop interactionを要し、実機マニピュレーションでは高コスト。 - DriftOPDはteacherやonline interactionなしで、既存のone-step distillationベースラインを上回り、multi-step teacher policiesに匹敵する成功率を達成。

3. 技術・手法の肝は?

- sequence-level reverse KL divergenceが、chunk-level reverse-KL項とfuture-potential項に分解できることを示す。 - future-potential項は現在のactionの長期的効果を捉える。 - 前者をone-step drifting objectiveで、後者をoffline demonstrationsから学習したQ-function criticで最適化。 - これによりofflineデータとone-step action生成のみでsequence-level最適化を実現。

4. どうやって有効だと検証した?

- 複数のVLAアーキテクチャを対象に、シミュレーションと実世界マニピュレーションで評価。 - 既存のone-step distillationベースラインと比較し、一般に優位であることを示す。 - multi-step teacher policiesと同等のタスク成功率を達成。

5. 議論はある?

- 長期的行動をonline interactionや別途teacherなしでone-step VLA action expertに蒸留可能であることを示唆。 - 限界や失敗事例、計算コスト、一般化性に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:sequence-level reinforcement learning、one-step distillationベースライン、multi-step teacher policies。 - 関連手法:reverse KL divergence、drifting objective、Q-function critic。 - 同分野の定番:Vision-Language-Action (VLA) models、receding-horizon control、action chunking。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Youngjun Jun, Kyumin Choi, Youngmin Kim, Seonghyun Jin, Sunwoo Park, Jangho Park, Jong Chul Ye

分類: cs.RO, cs.AI, cs.CV, cs.LG

原文アブストラクト

Vision-Language-Action (VLA) models increasingly rely on action experts that generate short action chunks under receding-horizon control. While chunk-level training is convenient across robot embodiments, it optimizes local action likelihood without explicitly accounting for long-horizon task success. Sequence-level reinforcement learning can address this limitation, but typically requires policy rollouts and closed-loop interaction, which are costly for real-robot manipulation. We introduce DriftOPD, a teacher-free, rollout-free framework for sequence-level on-policy distillation of continuous VLA action experts. We show that the sequence-level reverse Kullback-Leibler (KL) divergence decomposes into a chunk-level reverse-KL term and a future-potential term that captures the long-horizon effect of the current action. DriftOPD optimizes these two terms using a one-step drifting objective and a Q-function critic learned from offline demonstrations, respectively, enabling sequence-level optimization with only offline data and one-step action generation. Across multiple VLA architectures in simulation and real-world manipulation, DriftOPD generally outperforms existing one-step distillation baselines while achieving task success performance comparable to multi-step teacher policies. These results demonstrate that long-horizon behavior can be effectively distilled into one-step VLA action experts without online interaction or a separate teacher.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI