日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLA/強化学習arXiv:2606.31846

Z-1: 視覚言語行動モデルのための効率的強化学習

Z-1: Efficient Reinforcement Learning for Vision-Language-Action Models

シェア:XThreadsFacebookLINEはてブBluesky

フローベースのVLAモデルに強化学習を適用し、公開データセットのみで24タスクの成功率を大幅に向上させた。

詳しい要約

1. どんなもの?

- Vision-Language-Action (VLA) モデルのための強化学習 (RL) ポストトレーニングフレームワーク Z-1 を提案。 - flow-based VLA モデルである π_{0.5} をベースに構築。 - 公開されている RoboCasa のデモンストレーションのみを SFT に使用し、24 の標準 RoboCasa タスクでタスクごとの Group Relative Policy Optimization (GRPO) を適用。 - 平均成功率 80.6% を達成し、SFT 初期化から 13.2% ポイント改善、公開されている SOTA モデルを上回る。

2. 先行研究と比べてどこがすごい?

- 既存のポリシーは behavior cloning や固定デモンストレーションからの supervised fine-tuning (SFT) に限定され、自身の失敗から改善する機会が限られていた。 - Z-1 は RL ポストトレーニングにより、追加のプライベートデモンストレーションなしで flow-based VLA ポリシーを大幅に改善できることを示した。 - 公開されている SOTA モデルを上回る性能を達成。

3. 技術・手法の肝は?

- flow-based VLA モデル π_{0.5} 上に構築。 - 公開 RoboCasa デモンストレーションで SFT 後、タスクごとの GRPO を適用。 - オンライン最適化の効率と安定性を向上させるため、以下の手法を組み合わせる: - shared-prefix rollout construction - tree-structured trajectory branching - completion-aware reward calibration - selective joint training of VLM and Action Expert

4. どうやって有効だと検証した?

- 24 の標準 RoboCasa タスクで評価。 - 平均成功率 80.6% を達成し、SFT 初期化から 13.2% ポイント改善。 - 公開されている SOTA モデルを上回る性能を確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- π_{0.5} (ベースモデル) - Group Relative Policy Optimization (GRPO) - RoboCasa (ベンチマーク) - 関連する flow-based VLA モデルや RL ポストトレーニング手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Lang Cao, Renhong Chen, Luyi Li, Peng Wang, Mofan Peng, Yitong Li

分類: cs.RO, cs.AI

原文アブストラクト

Vision-Language-Action (VLA) models offer a promising framework for robotic manipulation by connecting language instructions, visual observations, and continuous control. However, most existing policies remain limited by behavior cloning or supervised fine-tuning (SFT) from fixed demonstrations, which provides limited opportunity to improve from the policy's own failures. In this paper, we present Z-1, a reinforcement learning (RL) post-training framework for flow-based VLA models. Built on top of $\pi_{0.5}$, Z-1 uses only publicly released RoboCasa demonstrations for SFT and then applies a task-wise Group Relative Policy Optimization (GRPO) strategy across $24$ standard RoboCasa tasks. To improve the efficiency and stability of online optimization, Z-1 combines shared-prefix rollout construction, tree-structured trajectory branching, completion-aware reward calibration, and selective joint training of VLM and Action Expert. Across all $24$ RoboCasa tasks, Z-1 achieves an average success rate of $80.6\%$, improving over its SFT initialization by $13.2\%$ points and outperforms the published sota models. These results show that systematic GRPO post-training can substantially improve flow-based VLA policies without additional private demonstrations.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI