日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2610.16443

RAP-WAM: 予測リハーサルと行動摂動によるワールドアクションモデルの学習

RAP-WAM: Learning World-Action Models through Predictive Rehearsal and Action Perturbations

シェア:XThreadsFacebookLINEはてブBluesky

映像生成の事前知識を活用し、予測リハーサルと行動摂動を組み合わせてロボットの行動を学習する手法を提案。実機タスクで高い成功率を達成。

詳しい要約

1. どんなもの?

- ビデオ生成の事前知識を活用し、将来の観測とロボット行動を同時に予測するWorld-Action Modelの学習手法。 - Predictive RehearsalとAction Perturbations (RAP)を組み合わせ、future-supervised queriesとCoupled Action Projectionを導入。 - モデル生成入力で訓練しつつ記録済みターゲットを保持し、再発エラーを空間事前分布に蓄積。 - 行動を摂動させビデオ予測の変化を測定し、行動応答に基づく時空間クレジット割り当てを実施。 - 別のスコアリングネットワークや展開時プローブは不要。 - ビデオ事前学習済みバックボーンから学習し、外部身体データでの中間事前学習を行わない。

2. 先行研究と比べてどこがすごい?

- 従来のWorld-Action Modelはビデオ生成事前知識を制御に適応させる際、将来予測が政策学習をどう導くかが課題。 - 本手法は予測誤差だけでなく行動応答に基づく情報を活用し、追加のスコアリングネットワークや展開時プローブを排除。 - 外部身体データでの中間事前学習を必要とせず、ビデオ事前学習済みバックボーンから直接学習。 - 42のRoboDojoタスクで平均成功率12.85%と15.62%、スコア17.86と20.59を達成。 - 15の実ロボットタスクで完全システムがタスクマクロ平均成功率89.00%を達成し、5つのベースライン中最強を37.67ポイント上回る。

3. 技術・手法の肝は?

- Predictive Rehearsal: モデル生成入力で訓練し、記録済みターゲットを保持。再発エラーを空間事前分布に蓄積。 - Action Perturbations: 行動を摂動させ、ビデオ予測の変化を測定。 - Action-response-based spatiotemporal credit assignment: 行動応答、予測誤差、リハーサル事前分布を組み合わせ、視覚的監督を割り当て。 - 応答の空間集約により将来の行動ステップ全体の監督強度を決定。 - future-supervised queriesとCoupled Action Projectionを政策学習に統合。 - 別のスコアリングネットワークや展開時プローブは不要。

4. どうやって有効だと検証した?

- 42のRoboDojoタスクで固定ベースとエージェント改良型タスク条件付きシステムを評価。平均成功率12.85%と15.62%、スコア17.86と20.59。 - 15の実ロボットタスクで完全システムがタスクマクロ平均成功率89.00%を達成し、5つのベースライン中最強を37.67ポイント上回る。 - 315の固定出力シミュレーションウィンドウで、応答トップ20位置の45.21%が誤差トップ20外にあり、予測誤差を超える情報を示す。

5. 議論はある?

- 応答トップ20位置の45.21%が誤差トップ20外にあり、予測誤差を超える情報が存在することを示唆。 - 別のスコアリングネットワークや展開時プローブが不要である点が利点。 - 外部身体データでの中間事前学習なしで学習可能。 - 要旨からは、手法の限界や失敗事例、計算コスト、一般化可能性に関する議論は不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究: World-Action Model、ビデオ生成事前知識を用いた手法、RoboDojoタスク、5つのベースライン(具体名は要旨に記載なし)。 - 関連手法: Predictive Rehearsal、Action Perturbations、future-supervised queries、Coupled Action Projection。 - 同分野の定番: ビデオ生成モデル(例: Video Diffusion Models)、ロボット政策学習(例: Behavior Cloning、Reinforcement Learning)、World Models。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuanpeng He, Ceyao Zhang, Fangjing Li, Kefei Zhu, Lijian Li, Yueheng Li, Tianjia He, Wenpin Jiao, Zhi Jin, Yaodong Yang, Yuanpei Chen

分類: cs.AI

原文アブストラクト

Recent world action models draw on video generation priors to jointly predict future observations and robot actions. Adapting these priors to control requires determining how future predictions should guide policy learning. RAP-WAM combines predictive Rehearsal and Action Perturbations (RAP) with future-supervised queries and Coupled Action Projection for policy learning. Predictive rehearsal trains on model-generated inputs while retaining recorded targets, and accumulates recurring errors into a spatial prior. We perturb actions and measure changes in video predictions. Action-response-based spatiotemporal credit assignment combines these responses, prediction error, and the rehearsal prior to allocate visual supervision; spatially aggregating the responses determines supervision intensity across future action steps. No separate scoring network or deployment-time probe is required. The base learns from a video-pretrained backbone without intermediate pretraining on external embodied data. We evaluate the fixed base and its agent-refined, task-conditioned system. On 42 RoboDojo tasks, their average success rates are 12.85% and 15.62%, with Scores of 17.86 and 20.59. Across 15 real-robot tasks, the complete system achieves 89.00% task-macro-average success, exceeding the strongest of five baselines by 37.67 percentage points. Across 315 fixed-output simulation windows, 45.21% of response-top20 positions fall outside error-top20, revealing information beyond prediction error.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI