日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2606.28276

SimFoundry: ポリシー学習と評価のためのモジュール式自動シーン生成

SimFoundry: Modular and Automated Scene Generation for Policy Learning and Evaluation

シェア:XThreadsFacebookLINEはてブBluesky

実世界のビデオからシミュレーション用のシーンを自動生成し、多様なバリエーションを作成してロボットポリシーの訓練と評価を行うシステムを提案。シミュレーションでの評価が実世界性能を強く予測し、訓練時のバリエーション追加が成功率を向上させることを示した。

詳しい要約

1. どんなもの?

- ビデオからzero-shot real-to-simでシーンを構築するモジュール式自動システムSimFoundryを提案。 - sim-readyなdigital twinを生成し、object・scene・taskの編集をサポート。 - 多様なdigital cousins(affordanceを保った実世界シーンの変種)を自動生成。 - 生成データで学習したpolicyがmulti-step manipulation、articulated object interaction、bimanual interactionへzero-shot転移。 - 7つのmanipulationタスクと5つのpolicy architectureで評価。

2. 先行研究と比べてどこがすごい?

- 実世界でのpolicy学習・評価は高コストでスケール困難という課題に対し、ビデオからの自動real-to-sim構築を実現。 - 単なるdigital twin生成に留まらず、object・scene・taskの編集によるdigital cousinsの自動生成を可能にした点が特徴。 - 従来のsim評価が実世界性能をどこまで予測できるか不明瞭な中、平均Pearson correlation 0.911、平均maximum ranking violation 0.018と高い予測性を示した。 - 具体的な先行研究名は要旨からは不明。

3. 技術・手法の肝は?

- ビデオ入力からzero-shotでreal-to-simシーンを構築するモジュール式パイプライン。 - sim-readyなdigital twinを生成し、object・scene・taskの編集機能を提供。 - affordanceを保持したまま実世界シーンの変種(digital cousins)を自動生成。 - これらをpolicy学習・評価に用いることで、実世界へのzero-shot転移と汎化を狙う。 - 詳細なアルゴリズムや構成要素は要旨からは不明。

4. どうやって有効だと検証した?

- 7つのmanipulationタスクと5つのpolicy architectureで評価。 - SimFoundryのsimulation評価が実世界性能を強く予測し、平均Pearson correlation 0.911、平均maximum ranking violation 0.018。 - sim学習policyを実世界でzero-shot評価し、object・scene・task cousinsを用いた場合、平均タスク成功率がそれぞれ17%、21%、40%向上。 - multi-step manipulation、articulated object interaction、bimanual interactionを含む難タスクで転移を確認。

5. 議論はある?

- digital cousinsが新たな実世界条件への汎化を促進することが示唆される。 - sim評価が実世界性能を強く予測できる可能性を示す一方、限界や失敗事例、計算コスト、real-to-simのギャップに関する議論は要旨からは不明。 - 倫理的・実運用上の課題についても要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法としてreal-to-sim、digital twin、domain randomization、sim-to-real transfer、policy learning、manipulation benchmarkが挙げられる。 - 同分野の定番としてRoboSuite、ManiSkill、RLBench、Isaac Sim、Domain Randomizationなどの一般名が考えられるが、要旨に記載はない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Nadun Ranawaka, Josiah Wong, Wei-Lin Pai, Wei-Teng Chu, Tianyuan Dai, Masoud Moghani, Hang Yin, Yunfan Jiang, Wesley Durbano, Brandon Huynh, Yu Fang, Danfei Xu, Ruohan Zhang, Li Fei-Fei, Linxi Fan, Bowen Wen, Ajay Mandlekar, Yuke Zhu

分類: cs.RO

原文アブストラクト

Training and evaluating robot policies in the real world is costly and difficult to scale. We introduce SimFoundry, a modular and automated system for zero-shot real-to-sim scene construction from a video. SimFoundry generates sim-ready digital twins and supports object, scene, and task editing, enabling the automated generation of diverse digital cousins: affordance-preserving variations of reconstructed real-world scenes. Policies trained on SimFoundry data transfer zero-shot to challenging real tasks involving multi-step manipulation, articulated object interaction, and bimanual interaction, and its digital cousins (variations of the original scene, objects, and tasks) facilitate generalization to new real-world conditions. Across 7 manipulation tasks and 5 policy architectures, SimFoundry simulation evaluations strongly predict real-world performance, with mean Pearson correlation 0.911 and mean maximum ranking violation 0.018. When evaluating sim-trained policies zero-shot in the real world, policies trained with object, scene, and task cousins in simulation show average task success rate improvements of 17%, 21%, and 40%, respectively. Additional details at https://research.nvidia.com/labs/gear/simfoundry/ .

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI