遮蔽や情報欠損に対応するマルチビュー視覚融合のためのアンサンブル学習:実世界データによる評価と運転者手活動認識への応用
Ensemble Learning for Fusion of Multiview Vision with Occlusion and Missing Information: Framework and Evaluations with Real-World Data and Applications in Driver Hand Activity Recognition
複数カメラの映像を後期融合するCNNアンサンブルを構築し、遮蔽やセンサ故障による情報欠損を補完して運転者の手の活動を高精度に認識する枠組みを提案・評価した。
著者: Ross Greer, Mohan Trivedi
分類: cs.LG, cs.AI, cs.CV, cs.RO
原文アブストラクト
Multi-sensor frameworks provide opportunities for ensemble learning and sensor fusion to make use of redundancy and supplemental information, helpful in real-world safety applications such as continuous driver state monitoring which necessitate predictions even in cases where information may be intermittently missing. We define this problem of intermittent instances of missing information (by occlusion, noise, or sensor failure) and design a learning framework around these data gaps, proposing and analyzing an imputation scheme to handle missing information. We apply these ideas to tasks in camera-based hand activity classification for robust safety during autonomous driving. We show that a late-fusion approach between parallel convolutional neural networks can outperform even the best-placed single camera model in estimating the hands' held objects and positions when validated on within-group subjects, and that our multi-camera framework performs best on average in cross-group validation, and that the fusion approach outperforms ensemble weighted majority and model combination schemes.
関連論文
- MatchFusion: 時空間マルチモーダル自動運転のための明示的・暗黙的インスタンスマッチングマルチモーダル融合
- LiDAR-BIND-T: ロボティクス応用に向けた時間的一貫性を考慮したセンサモダリティ変換と融合の改良マルチモーダル融合
- t-READi: 自動運転向けTransformer駆動の堅牢で効率的なマルチモーダル推論マルチモーダル融合
- スコアに合わせて演じる:ロボットマニピュレーションのための段階誘導型動的マルチセンサ融合マルチモーダル融合
- 潜在コンタクトを活用したカメラ-LiDAR融合による難条件下の場所認識マルチモーダル融合
- 車両情報に基づくマルチモーダル融合技術:サーベイマルチモーダル融合
