特徴量を焼き込む:特徴マップレンダリングによるボリュームセグメンテーションの高速化
Baking in the Feature: Accelerating Volumetric Segmentation by Rendering Feature Maps
大規模データセットで学習済みの特徴抽出器をNeRFにボリュームレンダリングで焼き込み、少ないアノテーションで高精度な3Dセグメンテーションを実現した。
著者: Kenneth Blomqvist, Lionel Ott, Jen Jen Chung, Roland Siegwart
分類: cs.CV, cs.RO
原文アブストラクト
Methods have recently been proposed that densely segment 3D volumes into classes using only color images and expert supervision in the form of sparse semantically annotated pixels. While impressive, these methods still require a relatively large amount of supervision and segmenting an object can take several minutes in practice. Such systems typically only optimize their representation on the particular scene they are fitting, without leveraging any prior information from previously seen images. In this paper, we propose to use features extracted with models trained on large existing datasets to improve segmentation performance. We bake this feature representation into a Neural Radiance Field (NeRF) by volumetrically rendering feature maps and supervising on features extracted from each input image. We show that by baking this representation into the NeRF, we make the subsequent classification task much easier. Our experiments show that our method achieves higher segmentation accuracy with fewer semantic annotations than existing methods over a wide range of scenes.
関連論文
- Lang3DSeg: 点群トランスフォーマによるアノテーションフリーなオープンボキャブラリ3Dセグメンテーション3Dセグメンテーション
- SplatLabel: 4Dガウシアンスプラッティングによる擬似ラベリング3Dセグメンテーション
- UniPart: 実世界インタラクションのためのゼロショット言語接地3Dパーツセグメンテーション3Dセグメンテーション
- 仮想ドローンを飛ばして3Dガウシアンをオンラインでセグメンテーション3Dセグメンテーション
- EPS3D: エンドツーエンドのフィードフォワード型3Dパノプティックセグメンテーション3Dセグメンテーション
- T-FunS3D: タスク駆動型階層的オープンボキャブラリ3D機能セグメンテーション3Dセグメンテーション
