日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

セグメンテーションarXiv:2505.03539

パノラマ分布外セグメンテーション

Panoramic Out-of-Distribution Segmentation

シェア:XThreadsFacebookLINEはてブBluesky

360度パノラマ画像において、未知の物体(分布外)を検出する新タスクPanOoSを提案し、テキスト誘導プロンプト分布学習により既存手法を上回るPOSを実現した。

詳しい要約

1. どんなもの?

- 360°画像による全方向知覚のための新しいタスク「Panoramic Out-of-distribution Segmentation (PanOoS)」を提案する研究。 - パノラマ画像中で既知クラスに属さないoutlierを検出しつつ、安全で包括的なscene understandingを目指す。 - 最初の解法としてPOS (Panoramic Out-of-distribution Segmentation model) を提案。 - あわせてDenseOoSとQuadOoSの2つのベンチマークを構築。

2. 先行研究と比べてどこがすごい?

- 既存のpanoramic semantic segmentationはoutlierを識別できず、pinhole向けOoSモデルはpanoramic領域でpixel distortionやbackground clutterにより性能不足。 - このギャップに対しPanOoSタスクを新設し、最初の解法POSを提示。 - DenseOoSでAuPRCが34.25%向上、FPR95が21.42%低下し、state-of-the-artのpinhole-OoS手法を上回る。 - closed-set segmentationでもleadingな性能を示す。

3. 技術・手法の肝は?

- text-guided prompt distribution learningによりpanoramic画像特性へ適応。 - CLIPのcross-domain generalization能力を引き出すdisentanglement strategyを統合。 - Prompt-based Restoration Attention (PRA) がprompt guidanceとself-adaptive correctionでsemantic decodingを最適化。 - Bilevel Prompt Distribution Learning (BPDL) がsemantic prototype supervisionによりper-pixel mask embeddingsのmanifoldを精緻化。

4. どうやって有効だと検証した?

- DenseOoSとQuadOoSの2つのベンチマークを構築して評価。 - DenseOoSは複雑環境下の多様なoutlierを含み、QuadOoSはquadruped robotとpanoramic annular lens systemで取得。 - 広範な実験でPOSの優位性を確認。AuPRC +34.25%、FPR95 -21.42% (DenseOoS)。 - pinhole-OoSのstate-of-the-art手法との比較で上回り、closed-set segmentationでもleading性能を確認。

5. 議論はある?

- PanOoSデータセットの不足を補うため2つのベンチマークを構築した点が議論の前提。 - pixel distortionやbackground clutterへの対処がpanoramic OoSの課題として提示。 - 具体的な限界や失敗事例、計算コスト、real-time性に関する議論は要旨からは不明。 - コードとデータセット公開予定 (https://github.com/MengfeiD/PanOoS)。

6. 次に読むべき論文は?

- pinhole Out-of-distribution Segmentation (OoS) のstate-of-the-art手法(比較対象として言及)。 - CLIP(cross-domain generalizationの基盤として言及)。 - panoramic semantic segmentationの既存研究(outlier未対応として言及)。 - 関連する定番としてoutlier exposureやenergy-based OoD detection、mask embeddingに基づくsegmentation系OoS研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mengfei Duan, Yuheng Zhang, Yihong Cao, Fei Teng, Kai Luo, Jiaming Zhang, Kailun Yang, Zhiyong Li

分類: cs.CV, cs.RO, eess.IV

原文アブストラクト

Panoramic imaging enables capturing 360{\deg} images with an ultra-wide Field-of-View (FoV) for dense omnidirectional perception, which is critical to applications, such as autonomous driving and augmented reality, etc. However, current panoramic semantic segmentation methods fail to identify outliers, and pinhole Out-of-distribution Segmentation (OoS) models perform unsatisfactorily in the panoramic domain due to pixel distortions and background clutter. To address these issues, we introduce a new task, Panoramic Out-of-distribution Segmentation (PanOoS), with the aim of achieving comprehensive and safe scene understanding. Furthermore, we propose the first solution, POS, which adapts to the characteristics of panoramic images through text-guided prompt distribution learning. Specifically, POS integrates a disentanglement strategy designed to materialize the cross-domain generalization capability of CLIP. The proposed Prompt-based Restoration Attention (PRA) optimizes semantic decoding by prompt guidance and self-adaptive correction, while Bilevel Prompt Distribution Learning (BPDL) refines the manifold of per-pixel mask embeddings via semantic prototype supervision. Besides, to compensate for the scarcity of PanOoS datasets, we establish two benchmarks: DenseOoS, which features diverse outliers in complex environments, and QuadOoS, captured by a quadruped robot with a panoramic annular lens system. Extensive experiments demonstrate superior performance of POS, with AuPRC improving by 34.25% and FPR95 decreasing by 21.42% on DenseOoS, outperforming state-of-the-art pinhole-OoS methods. Moreover, POS achieves leading closed-set segmentation capabilities and advances the development of panoramic understanding. Code and datasets will be available at https://github.com/MengfeiD/PanOoS.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI