MemorySeg: 潜在メモリを用いたLiDARオンライン意味セグメンテーション
MemorySeg: Online LiDAR Semantic Segmentation with a Latent Memory
LiDAR点群の時系列入力を扱うため、過去フレームの情報を潜在メモリに保存・更新・参照するオンライン意味セグメンテーション手法を提案し、遮蔽や遠距離の疎な観測を補って精度を向上させた。
著者: Enxu Li, Sergio Casas, Raquel Urtasun
分類: cs.CV, cs.RO
原文アブストラクト
Semantic segmentation of LiDAR point clouds has been widely studied in recent years, with most existing methods focusing on tackling this task using a single scan of the environment. However, leveraging the temporal stream of observations can provide very rich contextual information on regions of the scene with poor visibility (e.g., occlusions) or sparse observations (e.g., at long range), and can help reduce redundant computation frame after frame. In this paper, we tackle the challenge of exploiting the information from the past frames to improve the predictions of the current frame in an online fashion. To address this challenge, we propose a novel framework for semantic segmentation of a temporal sequence of LiDAR point clouds that utilizes a memory network to store, update and retrieve past information. Our framework also includes a regularizer that penalizes prediction variations in the neighborhood of the point cloud. Prior works have attempted to incorporate memory in range view representations for semantic segmentation, but these methods fail to handle occlusions and the range view representation of the scene changes drastically as agents nearby move. Our proposed framework overcomes these limitations by building a sparse 3D latent representation of the surroundings. We evaluate our method on SemanticKITTI, nuScenes, and PandaSet. Our experiments demonstrate the effectiveness of the proposed framework compared to the state-of-the-art.
関連論文
- HiPFuse: エッジデバイス上のロボット知覚向けリアルタイムLiDARセマンティックセグメンテーションLiDARセグメンテーション
- レイ整合・スキャン認識型融合ネットワークによるLiDARセマンティックセグメンテーションLiDARセグメンテーション
- 不完全ラベル下でのLiDARセマンティックセグメンテーションにおける単一ドメイン汎化の探求LiDARセグメンテーション
- BikeScenes: 自転車向けオンラインLiDARセマンティックセグメンテーションLiDARセグメンテーション
- 点-平面投影による小規模データでの高精度LiDARセマンティックセグメンテーションLiDARセグメンテーション
- 不確実性を考慮した学習によるオープンセットLiDARパノプティックセグメンテーションLiDARセグメンテーション
