日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ワールドモデルarXiv:2611.04870

PrimeSim: 大規模クロスエンボディメント実演から構築する汎用ワールドモデルシミュレータ

PrimeSim: A Generalist World Model Simulator from Large-Scale Cross-Embodiment Demonstrations

シェア:XThreadsFacebookLINEはてブBluesky

22種類のロボット実演3万時間超で学習し、行動追従・多視点一貫性・長期的整合性を備えた行動条件付きワールドモデルシミュレータを構築した論文。

詳しい要約

1. どんなもの?

- PrimeSimは、action-conditionedなmultiview world model simulator - 事前学習済みvideo generatorを出発点とする - 30,110時間・22プラットフォームのrobot demonstrationsでmidtrain - 高速なautoregressive simulatorとして長horizon rolloutを実現 - 主な特徴 - 指示actionへの忠実な追従 - camera view間の一貫性維持 - 長時間のcoherentなrollout - 10.1 FPSで動作 - model weights・inference code・training codeを公開

2. 先行研究と比べてどこがすごい?

- 5つのopen-source action-conditioned world modelsと比較 - WorldSimProbeの5スイート中4つでリード - EWMBenchで総合最高スコア - 従来のvideo generatorとの違い - 単なるplausibleなvideo生成ではなく、action追従・multiview一貫性・長horizon整合性を重視 - 転移性能 - held-out platformsへ100〜200 gradient stepsで転移可能 - pretrained backboneでは転移できない設定でも成立 - 限界 - fine-grained local calibrationは依然として他手法に劣る

3. 技術・手法の肝は?

- 段階的学習 - pretrained video generatorからのprogressive midtrainingとposttraining - action追従の強化 - unified cross-embodiment action representation - frame-aligned dual-path conditioningでaction-frame対応を強化 - multiview一貫性 - view-aware interleaved attentionに明示的camera identitiesを導入 - cross-view情報交換とview固有表現の保持を両立 - 長horizon化 - fast-video, slow-memory posttraining framework - bidirectional video generatorをefficient autoregressive simulatorへ変換 - fast causal generation・self-rollout training・hier…

4. どうやって有効だと検証した?

- 定量ベンチマーク - 5つのopen-source action-conditioned world modelsとの比較 - WorldSimProbe 5スイート中4つでリード - EWMBenchで総合最高スコア - 動作性能 - 10.1 FPSで動作 - 長horizon安定性 - rigidおよびdeformable manipulation tasksで長horizon rolloutの安定性を確認 - 転移検証 - held-out platformsへ100〜200 gradient stepsで転移 - 下流利用 - rolloutがGRPO-based policy optimizationを支える忠実度を持つことを確認

5. 議論はある?

- 強み - action追従・multiview一貫性・長horizon整合性の同時達成 - 高速推論と転移性 - GRPO-based policy optimizationへの応用可能性 - 課題・限界 - fine-grained local calibrationは依然として分野他手法に劣る - 具体的な誤差要因や改善方策は要旨からは不明 - 再現性 - model weights・inference code・training codeを公開

6. 次に読むべき論文は?

- 比較対象の5つのopen-source action-conditioned world models(個別名称は要旨からは不明) - WorldSimProbeおよびEWMBench(評価スイート) - GRPO-based policy optimization(関連するpolicy最適化手法) - 背景としてvideo generationのpretrained model、autoregressive video generation、hierarchical temporal memory関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Travis Davies, Wentao Ma, Lihao Guo, Tengfei Ma, Xiaowen Chang, Jiafeng Xu, Shilong Wang, Yiqi Deng, Shaowen He, Xiaoqi Li, Qian Zhu, Ran Cheng, Hao Dong

分類: cs.RO

原文アブストラクト

A robot world model that serves as a simulator must do more than generate plausible videos: it must faithfully follow commanded actions, maintain consistency across camera views, and sustain coherent long-horizon rollouts. We present PrimeSim, an action-conditioned, multiview world model simulator that addresses these challenges through progressive midtraining and posttraining. Starting from a pretrained video generator, we midtrain on 30,110 hours of robot demonstrations spanning 22 platforms. To improve action following, we introduce a unified cross-embodiment action representation and frame-aligned dual-path conditioning to strengthen action-frame correspondence. To maintain multiview consistency, we develop view-aware interleaved attention with explicit camera identities, enabling cross-view information exchange while preserving view-specific representations. We further introduce a fast-video, slow-memory posttraining framework that transforms the bidirectional video generator into an efficient autoregressive simulator. By combining fast causal generation, self-rollout training, and hierarchical temporal memory, PrimeSim mitigates error accumulation from self-generated histories and supports coherent long-horizon simulation. PrimeSim runs at 10.1 FPS, remains stable over long-horizon rollouts on rigid and deformable manipulation tasks, and transfers to held-out platforms within 100 to 200 gradient steps where the pretrained backbone does not. Against five open-source action-conditioned world models it leads four of the five WorldSimProbe suites and posts the best overall EWMBench score, while fine-grained local calibration still trails the field; its rollouts are faithful enough to support GRPO-based policy optimization. We release the model weights, inference code, and training code.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI