日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

3D再構成arXiv:2610.37818

魚眼カメラ対応の全視野ガウシアンスプラッティングとメッシュ抽出

GOFish: Full Field-of-View Gaussian Splatting and Mesh Extraction

シェア:XThreadsFacebookLINEはてブBluesky

魚眼画像から直接学習し、180°を超える全視野のレンダリングと衝突用メッシュを同時に生成する3Dガウシアンスプラッティング手法を提案。

詳しい要約

1. どんなもの?

- 魚眼レンズを用いるロボット・自動運転車・360°カメラ向けの新しい3D Gaussian Splatting(GS)表面再構成手法「GOFish」 - 魚眼画像から直接学習し、180°を超える全FoVのラスタライズと、同一シーンからの整合メッシュ抽出を同時に行う - 得られるGaussianシーンとメッシュはLiDAR不要のシミュレーション対応デジタルツインを構成し、リアルタイム描画・全FoVレイトレース・衝突ジオメトリを提供

2. 先行研究と比べてどこがすごい?

- 従来の魚眼GSは最大180°までしかラスタライズできずメッシュを生成しない - Gaussian表面再構成手法はpinhole画像を前提としており魚眼画像に直接適用できない - GOFishは魚眼画像で直接学習し180°超のFoVをラスタライズし整合メッシュを抽出する初のGS表面再構成手法 - 200° FIORDと205° FullCircleベンチマークで最良の先行手法よりPSNRがそれぞれ2.28dB、1.97dB改善 - 魚眼レンダリングベースラインをそのFoV内でも上回り、FIORDとScanNet++主要セットで最高のmesh F-scoreを達成

3. 技術・手法の肝は?

- 魚眼画像上で直接学習するGS表面再構成パイプライン - Calibrated densificationにより全FoVにわたり表面を復元 - Calibrated Mip Filteringによりピクセルぼけをシーンとメッシュから排除 - Wide-Angle Appearance Modelingによりレンズ減光(lens falloff)をシーンとメッシュから排除 - 同一シーンからGaussian表現と整合するメッシュを抽出

4. どうやって有効だと検証した?

- 200°のFIORDベンチマークと205°のFullCircleベンチマークで評価 - PSNRで最良の先行手法をそれぞれ2.28dB、1.97dB上回ることを確認 - 魚眼レンダリングベースラインとの比較を各ベースラインのFoV内で実施し優位性を確認 - FIORDおよびScanNet++主要セットでmesh F-scoreが最高であることを確認

5. 議論はある?

- 要旨からは不明(具体的な限界や失敗ケース、計算コスト、一般化性に関する議論は要旨に記載なし)

6. 次に読むべき論文は?

- 魚眼GSレンダリングの先行手法(180°までのラスタライズを行うfisheye Gaussian Splatting) - pinhole画像を前提とするGaussian表面再構成手法 - ベンチマークであるFIORD、FullCircle、ScanNet++に関連する研究 - 魚眼レンズを用いるロボティクス向けデジタルツイン・シミュレーション関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Allen Tu, Meher Gitika Karumuri, Shifan Zhu, Hailing Wang, Yen-Liang Lin, David Held, Matthias Zwicker, Tom Goldstein

分類: cs.CV, cs.GR, cs.RO

原文アブストラクト

Robots, autonomous vehicles, and consumer 360° cameras use fisheye lenses for wide fields of view (FoVs). Simulation-ready digital twins require photorealistic rendering across the full FoV and an aligned collision mesh. However, prior fisheye Gaussian Splatting methods only rasterize up to 180° and do not produce meshes, while Gaussian surface reconstruction methods assume pinhole training images. We present GOFish, the first 3D Gaussian Splatting surface reconstruction method to train directly on fisheye images, rasterize FoVs beyond 180°, and extract an aligned mesh from the same scene. Calibrated densification recovers the surface across the entire FoV, while Calibrated Mip Filtering and Wide-Angle Appearance Modeling keep pixel blur and lens falloff out of the scene and mesh. Across the 200° FIORD and 205° FullCircle benchmarks, GOFish improves PSNR over the best prior method by 2.28 and 1.97 dB, respectively. It also outperforms fisheye rendering baselines within their own FoVs and achieves the highest mesh F-score on FIORD and the main ScanNet++ set. Together, the Gaussian scene and mesh form a LiDAR-free, simulation-ready digital twin that renders in real time, ray traces the full FoV, and provides collision geometry.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI