日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2608.03483

継続か再計画か?適応的実行期間のためのベルヌーイ継続方策学習

Continue or Replan? Bernoulli-Continuation Policy Learning for Adaptive Horizon Execution

シェア:XThreadsFacebookLINEはてブBluesky

固定長のアクションチャンクを実行するVLAモデルにおいて、再計画のタイミングをタスク進捗に応じて適応的に決める軽量フレームワークを提案し、成功率を向上させた。

詳しい要約

1. どんなもの?

既存のchunk-based Vision-Language-Action (VLA)モデルは、固定数のアクション(実行ホライズン)を実行してから再計画するため、再計画がタスクの進捗と無関係な周期的スケジュールになっている。この問題に対し、提案するBernoulli-Continuation Policy (BCP)は、ベースのVLAを凍結したまま、軽量でプラグアンドプレイな適応的実行ホライズンフレームワークを提供する。固定長のアクションチャンクに対して、継続ヘッドが実行ホライズン選択を「継続か再計画か」の系列に分解し、候補ホライズンに対して順序的で接頭辞共有の帰納的バイアスを課す。最適ホライズンは観測不可能なため、軌跡レベルの結果から強化学習で訓練し、タスク成功とVLA使用効率を同時に報酬するReplanning-Efficiency Rewardを導入する。

2. 先行研究と比べてどこがすごい?

従来のchunk-based VLAモデルは固定ホライズンで周期的に再計画するため、重要な操作段階の前に再計画境界がないと、古いチャンクで実行される。BCPは、タスク進捗に応じて継続か再計画かを適応的に決定することで、この問題を解決する。また、候補ホライズンを独立なクラスとして扱うのではなく、順序的で接頭辞共有の帰納的バイアスを導入する点が新しい。さらに、最適ホライズンが観測不可能な問題に対して、軌跡レベルの報酬を用いた強化学習を採用し、タスク成功と効率を同時に最適化する。

3. 技術・手法の肝は?

BCPは、固定長アクションチャンクを生成するベースVLAに、継続ヘッド(continuation head)を追加する。継続ヘッドは、各タイムステップで「継続」か「再計画」かの二値決定を出力し、これにより実行ホライズンを適応的に決定する。この決定は、候補ホライズンに対して順序的で接頭辞共有の構造を持つため、独立なクラス分類よりも学習が容易。訓練は強化学習(RL)を用い、軌跡レベルの報酬(タスク成功とVLA使用効率を組み合わせたReplanning-Efficiency Reward)を最大化する。ベースVLAは凍結され、継続ヘッドのみが学習される。

4. どうやって有効だと検証した?

RoboTwin 2.0でLingBot-VLAをベースポリシーとして評価し、13の低成功率タスクで平均成功率+11.08%、全50タスクで89.88%から93.94%(+4.06%)に改善。Clean設定でのみ訓練したが、Randomized設定でも平均成功率+4.06%を達成。異なるベースポリシーπ0.5への転移も確認し、LIBEROで+1.7%、より難しいLIBERO-PROで+6.8%の改善。実ロボットでは2つの操作タスクで成功率が74%から92%、44%から84%に向上。オーバーヘッドは無視できる程度で、成功率向上により総実行時間は固定ホライズンのベースラインよりも短い。

5. 議論はある?

要旨からは、BCPが固定ホライズンよりも優れていることが示されているが、継続ヘッドの訓練に強化学習を用いるため、報酬設計や探索の難しさが考えられる。また、ベースVLAを凍結しているため、ベースVLAの性能に依存する可能性がある。さらに、Clean設定でのみ訓練したがRandomized設定に一般化したことから、ドメインギャップに対する頑健性が示唆されるが、その限界は不明。

6. 次に読むべき論文は?

要旨で参照されている関連研究として、chunk-based VLAモデル(例:LingBot-VLA)や、強化学習を用いた適応的ホライズン制御の研究が挙げられる。また、LIBEROやLIBERO-PROなどのベンチマークで比較されているため、これらのデータセットを用いた他のVLAモデルや、適応的実行に関する研究を読むとよい。具体的には、要旨に明記されていないが、関連手法として「Action Chunking with Transformers (ACT)」や「Diffusion Policy」などが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Weichen Xu, Zhenhua Liu, Lin Luo, Yaobo Liang, Chengtang Yao, Qingyu Mei, Jian Cao, Xixin Cao, Xing Zhang, Jiaolong Yang, Baining Guo

分類: cs.RO, cs.AI, cs.CV, cs.LG

原文アブストラクト

Existing chunk-based Vision-Language-Action (VLA) models execute a fixed number of actions (i.e., execution horizon) before replanning, turning replanning into a task-agnostic periodic schedule that is independent of task progress. As a result, when no replanning boundary falls before a critical manipulation stage, it is executed from a stale chunk rather than a freshly replanned one. To address this limitation, we propose Bernoulli-Continuation Policy (BCP), a lightweight, plug-and-play framework for adaptive horizon execution that keeps the base VLA frozen. Given a fixed-length action chunk, its continuation head decomposes execution-horizon selection into a sequence of continue-or-replan decisions, which imposes an ordinal, prefix-sharing inductive bias over candidate horizons rather than treating them as independent classes. Since the optimal horizon for each chunk is not observable, we train this head with reinforcement learning from trajectory-level outcomes and introduce a Replanning-Efficiency Reward that jointly rewards task success and efficient VLA usage, discouraging the policy from collapsing to unnecessarily short horizons. On RoboTwin 2.0 with LingBot-VLA as the base policy, BCP improves the average success rate by +11.08% on 13 low-success tasks and from 89.88% to 93.94% (+4.06%) across all 50 tasks. Although trained only under the Clean setting, BCP generalizes to the Randomized setting, raising the average success rate by +4.06%. It also transfers to a different base policy $\pi_{0.5}$, achieving a better result on LIBERO (+1.7%) and, notably, on the harder LIBERO-PRO (+6.8%). On a real robot, BCP lifts success from 74% to 92% and from 44% to 84% on two manipulation tasks. Meanwhile, its negligible overhead, combined with higher success, makes BCP's overall runtime even lower than the fixed-horizon baselines.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI