日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

モバイルマニピュレーションarXiv:2602.16356

開世界モバイルマニピュレーションのための関節3Dシーングラフ

Articulated 3D Scene Graphs for Open-World Mobile Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

RGB-D動画から物体の関節運動を推定し、親子関係を含む意味的・運動学的3Dシーングラフを構築するフレームワークMoMa-SGを提案。

詳しい要約

1. どんなもの?

- 本論文は、関節物体を含む実世界環境での長期的な mobile manipulation を可能にする枠組み MoMa-SG を提案する。 - RGB-D 系列から物体の動きを推定し、semantic-kinematic 3D scene graph を構築する。 - 物体の articulation(回転・並進関節)を推定し、親子関係や収納物体を推論する。 - 新データセット Arti4D-Semantic を導入し、実機実験で有効性を示す。

2. 先行研究と比べてどこがすごい?

- 従来の 3D scene understanding は semantics や affordance に焦点を当てるが、物体の運動学的性質を考慮しない。 - 本手法は semantics, geometry, kinematics を統合し、articulated scene の理解を可能にする。 - 単一最適化で revolute と prismatic 関節を推定する unified twist estimation を新規に提案。 - 親子関係ラベルと軸注釈を含む Arti4D-Semantic データセットを新規に構築。

3. 技術・手法の肝は?

- RGB-D 系列から物体インタラクションを時間的に分割し、occlusion-robust point tracking で運動を推定。 - 点軌跡を 3D に持ち上げ、unified twist estimation で関節パラメータを単一最適化で推定。 - 推定された articulation を物体に関連付け、開状態での親子関係を推論して収納物体を検出。 - これらを統合し semantic-kinematic 3D scene graph を構築。

4. どうやって有効だと検証した?

- 2 つのデータセット上で MoMa-SG の性能を評価し、主要設計選択の ablation を実施。 - quadruped と mobile manipulator を用いた実世界実験で、日常家庭環境における articulated object の manipulation を実証。 - コードとデータは https://momasg.cs.uni-freiburg.de で公開。

5. 議論はある?

- 要旨からは、手法の限界や失敗事例、計算コスト、一般化可能性に関する議論は明記されていない。 - 実世界実験の詳細な条件や被験者数などは要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている研究は明記されていない。 - 関連手法として、3D scene graph、articulated object estimation、point tracking、mobile manipulation の定番研究が挙げられる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Martin Büchner, Adrian Röfer, Tim Engelbracht, Tim Welschehold, Zuria Bauer, Hermann Blum, Marc Pollefeys, Abhinav Valada

分類: cs.RO, cs.AI, cs.CV

原文アブストラクト

Semantics has enabled 3D scene understanding and affordance-driven object interaction. However, robots operating in real-world environments face a critical limitation: they cannot anticipate how objects move. Long-horizon mobile manipulation requires closing the gap between semantics, geometry, and kinematics. In this work, we present MoMa-SG, a novel framework for building semantic-kinematic 3D scene graphs of articulated scenes containing a myriad of interactable objects. Given RGB-D sequences containing multiple object articulations, we temporally segment object interactions and infer object motion using occlusion-robust point tracking. We then lift point trajectories into 3D and estimate articulation models using a novel unified twist estimation formulation that robustly estimates revolute and prismatic joint parameters in a single optimization pass. Next, we associate objects with estimated articulations and detect contained objects by reasoning over parent-child relations at identified opening states. We also introduce the novel Arti4D-Semantic dataset, which uniquely combines hierarchical object semantics including parent-child relation labels with object axis annotations across 62 in-the-wild RGB-D sequences containing 600 object interactions and three distinct observation paradigms. We extensively evaluate the performance of MoMa-SG on two datasets and ablate key design choices of our approach. In addition, real-world experiments on both a quadruped and a mobile manipulator demonstrate that our semantic-kinematic scene graphs enable robust manipulation of articulated objects in everyday home environments. We provide code and data at: https://momasg.cs.uni-freiburg.de.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI