日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

シーン理解arXiv:2603.16301

OGScene3D: シーン理解のための漸進的オープンボキャブラリ3Dガウシアンシーングラフマッピング

OGScene3D: Incremental Open-Vocabulary 3D Gaussian Scene Graph Mapping for Scene Understanding

シェア:XThreadsFacebookLINEはてブBluesky

ロボットが環境を漸進的に探索しながら、オープンボキャブラリの3Dセマンティックマップとシーングラフを構築するシステムを提案した。

詳しい要約

1. どんなもの?

- ロボット応用向けのopen-vocabularyな3D scene understandingシステム。 - 既存手法は事前構築済みの完全な3D semantic mapを必要とするが、本手法はincrementalに3D semantic mappingとscene graph構築を実現。 - confidence-based Gaussian semantic representationを採用し、semantic predictionとその信頼性を同時にモデル化。 - hierarchical 3D semantic optimizationとlong-term global optimizationにより、時系列観測を活用してsemantic predictionを継続的に改善。 - progressive graph constructionでnodeとsemantic relationshipを動的に生成・更新し、3D scene graphを継続的に更新。

2. 先行研究と比べてどこがすごい?

- 既存手法は完全な3D semantic mapを前提とするため、incrementalな探索が必要なロボットシナリオに適用困難。 - 本手法はincrementalにopen-vocabulary scene understandingを実現し、事前の完全マップを不要とする点が新しい。 - confidence-based Gaussian semantic representationにより、semantic predictionの信頼性を考慮した頑健なscene modelingを可能にする。 - hierarchical optimizationとlong-term global optimizationを組み合わせ、時系列メモリを活用してsemantic consistencyを向上。 - progressive graph constructionにより、nodeとrelationshipを動的に更新する点が従来にない。

3. 技術・手法の肝は?

- confidence-based Gaussian semantic representation: semantic predictionとその信頼性をjointlyにモデル化。 - hierarchical 3D semantic optimization: local correspondence establishmentとglobal refinementによりsemantic consistencyを実現し、グローバルに一貫したsemantic mapを構築。 - long-term global optimization: 過去の観測のtemporal memoryを活用し、2D-3D semantic consistencyとGaussian rendering contributionを統合してsemantic understandingを継続的に洗練。 - progressive graph construction: nodeとsemantic relationshipを動的に生成・更新し、3D scene graphを継続的に更新。

4. どうやって有効だと検証した?

- 広く使われているデータセットと実世界シーンでのextensive experimentsを実施。 - open-vocabulary scene understandingにおけるOGScene3Dの有効性を実証。 - 具体的なデータセット名や評価指標は要旨からは不明。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、open-vocabulary 3D scene graph、incremental semantic mapping、3D Gaussian Splatting、CLIP-based open-vocabulary understandingなどが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Siting Zhu, Ziyun Lu, Guangming Wang, Chenguang Huang, Yongbo Chen, I-Ming Chen, Wolfram Burgard, Hesheng Wang

分類: cs.RO

原文アブストラクト

Open-vocabulary scene understanding is crucial for robotic applications, enabling robots to comprehend complex 3D environmental contexts and supporting various downstream tasks such as navigation and manipulation. However, existing methods require pre-built complete 3D semantic maps to construct scene graphs for scene understanding, which limits their applicability in robotic scenarios where environments are explored incrementally. To address this challenge, we propose OGScene3D, an open-vocabulary scene understanding system that achieves accurate 3D semantic mapping and scene graph construction incrementally. Our system employs a confidence-based Gaussian semantic representation that jointly models semantic predictions and their reliability, enabling robust scene modeling. Building on this representation, we introduce a hierarchical 3D semantic optimization strategy that achieves semantic consistency through local correspondence establishment and global refinement, thereby constructing globally consistent semantic maps. Moreover, we design a long-term global optimization method that leverages temporal memory of historical observations to enhance semantic predictions. By integrating 2D-3D semantic consistency with Gaussian rendering contribution, this method continuously refines the semantic understanding of the entire scene. Furthermore, we develop a progressive graph construction approach that dynamically creates and updates both nodes and semantic relationships, allowing continuous updating of the 3D scene graphs. Extensive experiments on widely used datasets and real-world scenes demonstrate the effectiveness of our OGScene3D on open-vocabulary scene understanding.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI