日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マルチタスク知覚arXiv:2510.17363

M2H: 単眼空間知覚のための効率的なウィンドウベースクロスタスク注意を用いたマルチタスク学習

M2H: Multi-Task Learning with Efficient Window-Based Cross-Task Attention for Monocular Spatial Perception

シェア:XThreadsFacebookLINEはてブBluesky

単眼画像からセマンティックセグメンテーション・深度・エッジ・表面法線を同時推定する軽量マルチタスク学習フレームワークM2Hを提案し、ウィンドウベースのクロスタスク注意でタスク間の特徴交換を効率化した。

詳しい要約

1. どんなもの?

- 単眼画像からsemantic segmentation・depth・edge・surface normalを同時推定するmulti-task learningフレームワークM2Hの提案 - 従来の独立single-taskモデルや共有encoder-decoderではなく、Window-Based Cross-Task Attention Moduleでタスク間の特徴交換を行う - lightweight ViTベースのDINOv2 backbone上に構築し、edge deviceでのreal-time deploymentを志向 - 動的環境での3D scene graph構築を支えるmonocular spatial perceptionの基盤として位置づけ

2. 先行研究と比べてどこがすごい?

- 独立したsingle-taskモデルや共有encoder-decoder型のmulti-taskモデルと異なり、構造化されたfeature exchangeを導入 - タスク固有の詳細を保持しつつタスク間のprediction consistencyを改善する点が新規 - NYUDv2でstate-of-the-artのmulti-taskモデルを上回ると報告 - Hypersimでsingle-taskのdepth・semanticベースラインを超え、Cityscapesでも優位 - laptop hardware上で計算効率を維持しつつ性能向上を両立

3. 技術・手法の肝は?

- Window-Based Cross-Task Attention Moduleにより、window単位でタスク間の特徴交換を構造化して行う - これによりタスク固有detailの保持とタスク間整合性の向上を狙う - backboneはlightweight ViTベースのDINOv2を使用 - semantic segmentation・depth・edge・surface normalの4タスクを単眼画像からmulti-taskで推定 - real-time deployment向けに計算オーバーヘッドを抑える設計

4. どうやって有効だと検証した?

- NYUDv2でstate-of-the-artのmulti-taskモデルと比較し優位性を確認 - Hypersimでsingle-taskのdepthおよびsemanticベースラインと比較 - Cityscapesでも性能評価を実施 - laptop hardware上での計算効率を確認 - ベンチマークに加えreal-world dataでも実用性を検証

5. 議論はある?

- 計算効率とmulti-task性能の両立を主張しているが、具体的なlatency・消費電力・model sizeなどの数値は要旨からは不明 - edge device実運用での精度劣化やrobustnessに関する詳細は要旨からは不明 - 3D scene graph構築への応用可能性に言及するが、その統合評価の詳細は要旨からは不明 - 各タスク間の寄与やablationの詳細は要旨からは不明

6. 次に読むべき論文は?

- DINOv2(backboneとして採用) - 共有encoder-decoder型のmulti-task learningの代表的手法(一般名としてmulti-task learning with shared encoder-decoder) - NYUDv2・Hypersim・Cityscapesを用いたmonocular depth estimationおよびsemantic segmentationの代表的研究 - Window-based attention(Swin Transformer系) - 3D scene graph constructionに関する研究(応用先として言及)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: U. V. B. L Udugama, George Vosselman, Francesco Nex

分類: cs.CV, cs.LG, cs.RO

原文アブストラクト

Deploying real-time spatial perception on edge devices requires efficient multi-task models that leverage complementary task information while minimizing computational overhead. This paper introduces Multi-Mono-Hydra (M2H), a novel multi-task learning framework designed for semantic segmentation and depth, edge, and surface normal estimation from a single monocular image. Unlike conventional approaches that rely on independent single-task models or shared encoder-decoder architectures, M2H introduces a Window-Based Cross-Task Attention Module that enables structured feature exchange while preserving task-specific details, improving prediction consistency across tasks. Built on a lightweight ViT-based DINOv2 backbone, M2H is optimized for real-time deployment and serves as the foundation for monocular spatial perception systems supporting 3D scene graph construction in dynamic environments. Comprehensive evaluations show that M2H outperforms state-of-the-art multi-task models on NYUDv2, surpasses single-task depth and semantic baselines on Hypersim, and achieves superior performance on the Cityscapes dataset, all while maintaining computational efficiency on laptop hardware. Beyond benchmarks, M2H is validated on real-world data, demonstrating its practicality in spatial perception tasks.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI