日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2505.02388

MetaScenes: 実世界3Dスキャンからの自動レプリカ生成に向けて

MetaScenes: Towards Automated Replica Creation for Real-world 3D Scans

シェア:XThreadsFacebookLINEはてブBluesky

実世界スキャンから構築した大規模シミュラブル3DシーンデータセットMetaScenesと、アセットを自動置換するマルチモーダル整合モデルScan2Simを提案し、ロボット操作とVLNのベンチマークで有効性を示した。

詳しい要約

1. どんなもの?

- 実世界の3Dスキャンから構築した大規模でシミュレーション可能な3Dシーンデータセット MetaScenes を提示 - 831のfine-grainedカテゴリにわたる15366個のobjectを含む - 併せて、assetの自動・高品質な置換を可能にするmulti-modal alignment model Scan2Sim を導入 - MetaScenes を評価するための2つのbenchmarkを提案 - robotic manipulation 向けの小物品layoutに着目した詳細なscene synthesisタスク - vision-and-language navigation (VLN) におけるdomain transferタスク - プロジェクトサイト: https://meta-scenes.github.io/

2. 先行研究と比べてどこがすごい?

- 既存データセットは、現実世界のobject多様性の精密な複製をartist-driven designに大きく依存しており、多大な人的労力とscalabilityの課題を抱えていた - 本研究は、artist-driven designへの依存を排除し、実世界scanからsimulatableな3D sceneをscalablyに生成する枠組みを提示 - Scan2Sim によりasset置換を自動化・高品質化し、3D sceneのscalingを可能にする点が先行研究と異なる - 具体的な先行研究名や定量的比較は要旨からは不明

3. 技術・手法の肝は?

- 実世界scanから構築した大規模simulatable 3D scene dataset MetaScenes(15366 objects / 831 fine-grained categories) - multi-modal alignment model Scan2Sim を導入 - assetの自動・高品質な置換を実現 - artist-driven designへの依存を排除 - 評価用に2つのbenchmarkを設計 - robotic manipulation 向けの小物品layoutに着目した詳細なscene synthesisタスク - VLN におけるdomain transferタスク - Scan2Sim の具体的なarchitectureやalignmentの詳細は要旨からは不明

4. どうやって有効だと検証した?

- MetaScenes に対して2つのbenchmarkを提案し評価 - robotic manipulation 向けの小物品layoutに着目した詳細なscene synthesisタスク - vision-and-language navigation (VLN) におけるdomain transferタスク(cross-domain transferの検証) - 結果として、MetaScenes がよりgeneralizableなagent learningとsim-to-real applicationsを支援し、EAI研究に新たな可能性をもたらす潜在性を確認 - 具体的なmetricや数値結果は要旨からは不明

5. 議論はある?

- 要旨では、MetaScenes がEAI研究におけるgeneralizableなagent learningやsim-to-real applicationsを支援する潜在性を持つと述べられている - artist-driven designへの依存を排除することでscalabilityの課題に対処するという主張 - 限界、失敗事例、倫理的・実運用上の議論については要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照・比較されている具体的な先行研究は明示されていない - 関連手法として、実世界scanからのsimulatable scene構築、multi-modal alignment、asset replacement、scene synthesis、vision-and-language navigation (VLN) のdomain transfer、sim-to-real transfer に関する研究が次に読むべき候補 - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Huangyue Yu, Baoxiong Jia, Yixin Chen, Yandan Yang, Puhao Li, Rongpeng Su, Jiaxin Li, Qing Li, Wei Liang, Song-Chun Zhu, Tengyu Liu, Siyuan Huang

分類: cs.CV, cs.AI, cs.LG, cs.RO

原文アブストラクト

Embodied AI (EAI) research requires high-quality, diverse 3D scenes to effectively support skill acquisition, sim-to-real transfer, and generalization. Achieving these quality standards, however, necessitates the precise replication of real-world object diversity. Existing datasets demonstrate that this process heavily relies on artist-driven designs, which demand substantial human effort and present significant scalability challenges. To scalably produce realistic and interactive 3D scenes, we first present MetaScenes, a large-scale, simulatable 3D scene dataset constructed from real-world scans, which includes 15366 objects spanning 831 fine-grained categories. Then, we introduce Scan2Sim, a robust multi-modal alignment model, which enables the automated, high-quality replacement of assets, thereby eliminating the reliance on artist-driven designs for scaling 3D scenes. We further propose two benchmarks to evaluate MetaScenes: a detailed scene synthesis task focused on small item layouts for robotic manipulation and a domain transfer task in vision-and-language navigation (VLN) to validate cross-domain transfer. Results confirm MetaScene's potential to enhance EAI by supporting more generalizable agent learning and sim-to-real applications, introducing new possibilities for EAI research. Project website: https://meta-scenes.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI