単一モーダル視覚位置分類へのマルチモーダルアプローチ
A Multi-modal Approach to Single-modal Visual Place Classification
単眼RGB画像からの視覚位置分類を、ドメイン不変な単眼深度推定による疑似深度を追加モダリティとして用いる疑似マルチモーダルRGB-D分類問題として再定式化し、完全自己教師ありの枠組みを提案した。
著者: Tomoya Iwasaki, Kanji Tanaka, Kenta Tsukahara
分類: cs.CV, cs.RO
原文アブストラクト
Visual place classification from a first-person-view monocular RGB image is a fundamental problem in long-term robot navigation. A difficulty arises from the fact that RGB image classifiers are often vulnerable to spatial and appearance changes and degrade due to domain shifts, such as seasonal, weather, and lighting differences. To address this issue, multi-sensor fusion approaches combining RGB and depth (D) (e.g., LIDAR, radar, stereo) have gained popularity in recent years. Inspired by these efforts in multimodal RGB-D fusion, we explore the use of pseudo-depth measurements from recently-developed techniques of ``domain invariant" monocular depth estimation as an additional pseudo depth modality, by reformulating the single-modal RGB image classification task as a pseudo multi-modal RGB-D classification problem. Specifically, a practical, fully self-supervised framework for training, appropriately processing, fusing, and classifying these two modalities, RGB and pseudo-D, is described. Experiments on challenging cross-domain scenarios using public NCLT datasets validate effectiveness of the proposed framework.
関連論文
- 地形正規化垂直分布による森林LiDAR位置認識のスキャンコンテキスト失敗診断位置認識
- UpDown-SC: 重力正規化された上下包絡線スキャンコンテキストによる屋内LiDAR位置認識位置認識
- M3GA-Wild: 森林におけるマルチモーダル・マルチセッションの地上-空中位置認識のための大規模データセットとベンチマーク位置認識
- DXPR: 視覚基盤モデルを用いた深度ベースの視覚-LiDARクロスモーダル位置認識位置認識
- InLiER: 中間混合基数構造キーポイントトークン化による学習不要の異種LiDAR位置認識位置認識
- G-PROBE: 3D点群のためのクロスFOV位置認識と確信度結合型ローカライゼーション位置認識
