日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

3DセグメンテーションarXiv:2606.05975

T-FunS3D: タスク駆動型階層的オープンボキャブラリ3D機能セグメンテーション

T-FunS3D: Task-Driven Hierarchical Open-Vocabulary 3D Functionality Segmentation

シェア:XThreadsFacebookLINEはてブBluesky

ロボットが3Dシーン内の機能的オブジェクト部品をタスク記述に基づいて特定するための、タスク駆動型の階層的オープンボキャブラリ3D機能セグメンテーション手法を提案した。

詳しい要約

1. どんなもの?

- タスク駆動型の階層的オープンボキャブラリ3D機能セグメンテーション手法「T-FunS3D」を提案。 - 入力は屋内シーンの3D点群と姿勢付きRGB-D画像。 - タスク記述が与えられると、シーングラフから関連インスタンスを特定し、その機能コンポーネントを視覚言語モデルで位置特定する。 - ロボット応用のための実用的な知覚を提供することを目的とする。

2. 先行研究と比べてどこがすごい?

- 既存のオープンボキャブラリ3Dセグメンテーションは物体レベルの認識に焦点を当て、シーン全体のパートセグメンテーションは網羅的でリソース集約的かつ時間がかかる。 - T-FunS3Dはタスク駆動型で関連インスタンスのみを対象とすることで、粒度・精度・速度のバランスを改善。 - SceneFun3Dデータセットで、最先端手法と同等の性能を維持しつつ、実行時間の短縮とメモリ使用量の削減を実現。

3. 技術・手法の肝は?

- 3D点群と姿勢付きRGB-D画像から、インスタンスとその視覚埋め込みを抽出してオープンボキャブラリシーングラフを構築。 - タスク記述に基づき、シーングラフ内で最も関連するインスタンスを特定。 - 視覚言語モデルを活用して、特定したインスタンスの機能コンポーネントを位置特定する。 - 階層的アプローチにより、シーン全体を網羅的に処理することを回避。

4. どうやって有効だと検証した?

- SceneFun3Dデータセットを用いた実験を実施。 - オープンボキャブラリ3D機能セグメンテーションにおいて、最先端手法と同等の性能を達成。 - 実行時間の短縮とメモリ使用量の削減を確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- SceneFun3Dデータセットを提案した研究。 - オープンボキャブラリ3Dセグメンテーションの代表的手法(例:OpenScene, OpenMask3Dなど)。 - 視覚言語モデルを3Dに適用した研究(例:LERF, 3D-OVSなど)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jingkun Feng, Reza Sabzevari

分類: cs.CV, cs.RO

原文アブストラクト

Open-vocabulary 3D functionality segmentation enables robots to localize functional object components in 3D scenes. It is a challenging task that requires spatial understanding and task interpretation. Current open-vocabulary 3D segmentation methods primarily focus on object-level recognition, while scene-wide part segmentation methods attempt to segment the entire scene exhaustively, making them highly resource-intensive and time consuming. Balancing segmentation performance in terms of granularity, accuracy, and speed remains a challenge. As one step towards alleviating this, we introduce T-FunS3D, a task-driven hierarchical open-vocabulary 3D functionality segmentation method that provides actionable perception for robotic applications. Our method takes as input the 3D point cloud and posed RGB-D images of an indoor scene. We construct an open-vocabulary scene graph by extracting instances and their visual embeddings in the environment. Given a task description, T-FunS3D identifies the most relevant instances in the scene graph and locates their functional components leveraging a vision-language model. Experiments on the SceneFun3D dataset demonstrate that T-FunS3D is comparable to state-of-the-art in open-vocabulary 3D functionality segmentation, while achieving faster runtime and reduced memory usage.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI