日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

3Dシーン再構成arXiv:2603.16868

MessyKitchens: 接触リッチなオブジェクトレベルの3Dシーン再構成

MessyKitchens: Contact-rich object-level 3D scene reconstruction

シェア:XThreadsFacebookLINEはてブBluesky

散らかった実世界のキッチンシーンを対象に、物体の形状・姿勢・接触を高精度に再構成する新しいデータセットと、複数物体を同時に再構成する手法を提案した論文。

詳しい要約

1. どんなもの?

- 単眼画像からの物体レベル3Dシーン再構成を扱う研究。 - 実世界の散らかったキッチンシーンを対象に、物体ごとの3D形状・姿勢・接触の高忠実度ground truthを提供する新データセットMessyKitchensを導入。 - 単一物体再構成のSAM 3Dを拡張し、Multi-Object Decoder (MOD)で物体レベルのシーン再構成を同時に行う手法を提案。 - ロボティクスやアニメーション応用のため、非貫入や現実的な接触といった物理的妥当性を重視。

2. 先行研究と比べてどこがすごい?

- 従来の単眼3D再構成はdepth推定で高性能だが、物体分解や物体間関係の再構成は未解決。 - 既存データセットと比べ、MessyKitchensはregistration accuracyとinter-object penetrationで大幅改善。 - 提案のMODは3データセットでstate of the artに対し一貫した有意な改善を示す。 - 物理的妥当性(非貫入・接触)を考慮した物体レベル再構成を実現する点が新しい。

3. 技術・手法の肝は?

- 単一物体再構成のSAM 3Dを基盤とし、Multi-Object Decoder (MOD)を追加。 - MODにより複数物体をjointに物体レベルでシーン再構成。 - 物体の形状・姿勢推定に加え、非貫入や現実的接触を満たす物理的に妥当な再構成を目指す。 - データセットは実世界のcluttered環境と高忠実度の物体レベルground truth(形状・姿勢・接触)を提供。

4. どうやって有効だと検証した?

- MessyKitchensが既存データセットよりregistration accuracyとinter-object penetrationで大幅に改善することを示す。 - 複数物体再構成手法を3つのデータセットで比較し、MODがstate of the artを一貫して有意に上回ることを実証。 - 詳細な評価指標や実験設定は要旨からは不明。

5. 議論はある?

- 物体の多様性、頻繁なocclusion、複雑な物体関係が物体レベル再構成の難しさとして挙げられている。 - 物理的妥当性(非貫入・接触)がロボティクスやアニメーション応用で重要と主張。 - 限界や失敗事例、計算コスト、一般化性に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- SAM 3D(単一物体再構成の基盤手法) - 単眼3Dシーン再構成の最近の手法(depth estimationベース) - 物体レベル3D再構成の関連データセット(比較対象として言及) - 物理的妥当性を考慮したシーン再構成の研究 - ロボティクス応用の3Dシーン理解

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Junaid Ahmed Ansari, Ran Ding, Fabio Pizzati, Ivan Laptev

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Monocular 3D scene reconstruction has recently seen significant progress. Powered by the modern neural architectures and large-scale data, recent methods achieve high performance in depth estimation from a single image. Meanwhile, reconstructing and decomposing common scenes into individual 3D objects remains a hard challenge due to the large variety of objects, frequent occlusions and complex object relations. Notably, beyond shape and pose estimation of individual objects, applications in robotics and animation require physically-plausible scene reconstruction where objects obey physical principles of non-penetration and realistic contacts. In this work we advance object-level scene reconstruction along two directions. First, we introduceMessyKitchens, a new dataset with real-world scenes featuring cluttered environments and providing high-fidelity object-level ground truth in terms of 3D object shapes, poses and accurate object contacts. Second, we build on the recent SAM 3D approach for single-object reconstruction and extend it with Multi-Object Decoder (MOD) for joint object-level scene reconstruction. To validate our contributions, we demonstrate MessyKitchens to significantly improve previous datasets in registration accuracy and inter-object penetration. We also compare our multi-object reconstruction approach on three datasets and demonstrate consistent and significant improvements of MOD over the state of the art. Our new benchmark, code and pre-trained models will become publicly available on our project website: https://messykitchens.github.io/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI