視覚基盤モデルのセマンティックセグメンテーション評価ベンチマークの指針
How to Benchmark Vision Foundation Models for Semantic Segmentation?
視覚基盤モデルをセマンティックセグメンテーションで評価する際の標準的なベンチマーク設定を検討し、ViT-B・16x16パッチ・線形デコーダでの微調整と複数データセットでの評価を推奨している。
著者: Tommie Kerssies, Daan de Geus, Gijs Dubbelman
分類: cs.CV, cs.AI, cs.LG, cs.RO
原文アブストラクト
Recent vision foundation models (VFMs) have demonstrated proficiency in various tasks but require supervised fine-tuning to perform the task of semantic segmentation effectively. Benchmarking their performance is essential for selecting current models and guiding future model developments for this task. The lack of a standardized benchmark complicates comparisons. Therefore, the primary objective of this paper is to study how VFMs should be benchmarked for semantic segmentation. To do so, various VFMs are fine-tuned under various settings, and the impact of individual settings on the performance ranking and training time is assessed. Based on the results, the recommendation is to fine-tune the ViT-B variants of VFMs with a 16x16 patch size and a linear decoder, as these settings are representative of using a larger model, more advanced decoder and smaller patch size, while reducing training time by more than 13 times. Using multiple datasets for training and evaluation is also recommended, as the performance ranking across datasets and domain shifts varies. Linear probing, a common practice for some VFMs, is not recommended, as it is not representative of end-to-end fine-tuning. The benchmarking setup recommended in this paper enables a performance analysis of VFMs for semantic segmentation. The findings of such an analysis reveal that pretraining with promptable segmentation is not beneficial, whereas masked image modeling (MIM) with abstract representations is crucial, even more important than the type of supervision used. The code for efficiently fine-tuning VFMs for semantic segmentation can be accessed through the project page at: https://tue-mps.github.io/benchmark-vfm-ss/.
関連論文
- 高解像度深度と超低解像度RGBによるプライバシー保護セマンティックセグメンテーションセマンティックセグメンテーション
- CLFTv2: 階層的特徴ピラミッドによる効率的なカメラ-LiDAR融合セマンティックセグメンテーションセマンティックセグメンテーション
- Contextrast++: セマンティックセグメンテーションのためのロバストなマルチスケール文脈対比学習セマンティックセグメンテーション
- ICRA 2026 GOOSE 2D細粒度セマンティックセグメンテーションチャレンジ技術報告:フィールドロボティクスにおける堅牢な屋外シーン理解のためのDINOv3活用セマンティックセグメンテーション
- ICRA 2026 GOOSE 2D細粒度セマンティックセグメンテーションチャレンジ技術報告:屋外シーン理解のためのクエリベースセグメンテーションと空間コンテキスト拡大の探求セマンティックセグメンテーション
- Invascal: 不確実性を考慮したLiDARレンジビューセマンティックセグメンテーションのための逆空孔自己校正セマンティックセグメンテーション
