HGSFusion: ハイブリッド生成と同期によるレーダー・カメラ融合3D物体検出
HGSFusion: Radar-Camera Fusion with Hybrid Generation and Synchronization for 3D Object Detection
レーダーの到来方向推定誤差を考慮して確率密度関数で点群を稠密化し、空間・モダリティ同期で画像特徴と融合する3D物体検出ネットワークを提案。
著者: Zijian Gu, Jianwei Ma, Yan Huang, Honghao Wei, Zhanye Chen, Hui Zhang, Wei Hong
分類: cs.CV, cs.AI, cs.LG, cs.RO
原文アブストラクト
Millimeter-wave radar plays a vital role in 3D object detection for autonomous driving due to its all-weather and all-lighting-condition capabilities for perception. However, radar point clouds suffer from pronounced sparsity and unavoidable angle estimation errors. To address these limitations, incorporating a camera may partially help mitigate the shortcomings. Nevertheless, the direct fusion of radar and camera data can lead to negative or even opposite effects due to the lack of depth information in images and low-quality image features under adverse lighting conditions. Hence, in this paper, we present the radar-camera fusion network with Hybrid Generation and Synchronization (HGSFusion), designed to better fuse radar potentials and image features for 3D object detection. Specifically, we propose the Radar Hybrid Generation Module (RHGM), which fully considers the Direction-Of-Arrival (DOA) estimation errors in radar signal processing. This module generates denser radar points through different Probability Density Functions (PDFs) with the assistance of semantic information. Meanwhile, we introduce the Dual Sync Module (DSM), comprising spatial sync and modality sync, to enhance image features with radar positional information and facilitate the fusion of distinct characteristics in different modalities. Extensive experiments demonstrate the effectiveness of our approach, outperforming the state-of-the-art methods in the VoD and TJ4DRadSet datasets by $6.53\%$ and $2.03\%$ in RoI AP and BEV AP, respectively. The code is available at https://github.com/garfield-cpp/HGSFusion.
関連論文
- SDCM: 車載ネットワークにおけるレーダー・視覚3次元物体検出のための模擬稠密化と補償モデリング融合センサーフュージョン
- CaRLi-V: カメラ・レーダー・LiDAR融合による点単位3D速度推定センサーフュージョン
- カメラによる道路レイアウト抽出を活用したT字路でのmmWaveレーダーによる見通し外歩行者位置推定センサーフュージョン
- 不確かさ駆動型レーダー慣性融合による瞬時3次元自己速度推定センサーフュージョン
- 任意のLiDARをガイドとする拡散事前分布による教師なしレーダー点群強調センサーフュージョン
- 画像と4Dレーダースペクトルの深度認識融合による3D物体検出センサーフュージョン
