日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2603.15757

黄金のチケット:単一のノイズベクトルで生成ロボットポリシーを改善

You've Got a Golden Ticket: Improving Generative Robot Policies With A Single Noise Vector

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済みの拡散・フローマッチングポリシーに対し、ガウス分布から毎回サンプリングする代わりに固定の初期ノイズ(黄金のチケット)を与えることで、追加学習なしにタスク成功率を向上させる手法を提案。

詳しい要約

1. どんなもの?

- 事前学習済みの生成ロボットポリシーに対し、初期ノイズを毎回Gaussianからサンプリングする代わりに、固定の初期ノイズ(golden ticket)を与える手法。 - ポリシーはfrozenのまま、Monte-Carlo政策評価でgolden ticketを探索。 - diffusion/flow matchingポリシーやVLAに適用可能。 - シミュレーションと実世界のロボット操作ベンチマークで性能向上を確認。

2. 先行研究と比べてどこがすごい?

- 従来は初期ノイズを事前分布(等方Gaussian)からサンプリングしていた。 - 本研究は、固定ノイズを選ぶだけで、ポリシーを再学習せずに下流報酬を改善できることを示す。 - 追加のネットワーク訓練やインフラを必要としない点が新しい。 - 51タスク中46タスクで性能向上、最大55%の成功率改善(シミュレーション)、実世界で60エピソード以内に28%改善。

3. 技術・手法の肝は?

- 事前学習済みポリシーをfrozenに保ち、初期ノイズを注入してエピソードをロールアウト。 - スパースなタスク報酬を用いたMonte-Carlo政策評価でgolden ticketを探索。 - 探索手法はシンプルで、ポリシーに初期ノイズを注入でき、報酬を計算できれば適用可能。 - マルチタスク設定にも拡張でき、単一ノイズベクトルでVLAポリシーの7タスク平均性能を14%改善。

4. どうやって有効だと検証した?

- シミュレーションおよび実世界のロボット操作ベンチマークで評価。 - 51タスク中46タスクで性能向上を確認。 - シミュレーションでは成功率が最大55%向上。 - 実世界では60探索エピソード以内に28%向上。 - マルチタスク設定でVLAポリシーの7タスク平均性能を14%改善。 - あるタスクで最適化したgolden ticketが関連タスクの性能も向上させることを発見。

5. 議論はある?

- 要旨からは、手法の限界や失敗事例、計算コスト、探索効率に関する議論は明記されていない。 - ただし、golden ticketが関連タスクに転移する可能性が示唆されている。 - コードベースと事前学習済みポリシー、golden ticketを公開。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、diffusion policy、flow matching policy、VLA (Vision-Language-Action) モデルが挙げられる。 - 同分野の定番として、Diffusion Policy (Chi et al.)、Flow Matching (Lipman et al.)、RT-2やOpenVLAなどのVLAモデルが考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Omkar Patil, Ondrej Biza, Thomas Weng, Karl Schmeckpeper, Wil Thomason, Xiaohan Zhang, Kausik Sivakumar, Robin Walters, Nakul Gopalan, Sebastian Castro, Stephen Hart, Eric Rosen

分類: cs.RO, cs.AI

原文アブストラクト

What happens when a pretrained generative robot policy is provided a constant initial noise as input, rather than repeatedly sampling it from a Gaussian? We demonstrate that the performance of a pretrained, frozen diffusion or flow matching policy can be improved with respect to a downstream reward by swapping the sampling of initial noise from the prior distribution (typically isotropic Gaussian) with a well-chosen, constant initial noise input - a golden ticket. We propose simple search methods to find golden tickets using Monte-Carlo policy evaluation that keeps the pretrained policy frozen, does not train any new networks, and is applicable to all diffusion/flow matching policies (and therefore many VLAs). Our approach to policy improvement makes no assumptions beyond being able to inject initial noise into the policy and calculate (sparse) task rewards of episode rollouts, making it deployable with no additional infrastructure or models. Our method improves the performance of policies in 46 out of 51 tasks across simulated and real-world robot manipulation benchmarks, with absolute improvements in success rate by up to 55% for some simulated tasks, and 28% within 60 search episodes for real-world tasks. Our approach naturally extends to multi-task settings, where we improve the average performance of a VLA policy across 7 tasks by 14% using a single noise vector. Further, we find that, a golden ticket optimized for one task can also boost performance in other related tasks for the same VLA policy. We release a codebase with pretrained policies and golden tickets for simulation benchmarks using VLAs, diffusion policies, and flow matching policies.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI