UniWorld: 世界モデルによる自動運転の事前学習
UniWorld: Autonomous Driving Pre-training via World Models
4D幾何占有を世界モデルとして予測するラベル不要の事前学習フレームワークを提案し、自動運転の各種下流タスクで性能向上とアノテーションコスト削減を実現した。
著者: Chen Min, Dawei Zhao, Liang Xiao, Yiming Nie, Bin Dai
分類: cs.CV, cs.RO
原文アブストラクト
In this paper, we draw inspiration from Alberto Elfes' pioneering work in 1989, where he introduced the concept of the occupancy grid as World Models for robots. We imbue the robot with a spatial-temporal world model, termed UniWorld, to perceive its surroundings and predict the future behavior of other participants. UniWorld involves initially predicting 4D geometric occupancy as the World Models for foundational stage and subsequently fine-tuning on downstream tasks. UniWorld can estimate missing information concerning the world state and predict plausible future states of the world. Besides, UniWorld's pre-training process is label-free, enabling the utilization of massive amounts of image-LiDAR pairs to build a Foundational Model.The proposed unified pre-training framework demonstrates promising results in key tasks such as motion prediction, multi-camera 3D object detection, and surrounding semantic scene completion. When compared to monocular pre-training methods on the nuScenes dataset, UniWorld shows a significant improvement of about 1.5% in IoU for motion prediction, 2.0% in mAP and 2.0% in NDS for multi-camera 3D object detection, as well as a 3% increase in mIoU for surrounding semantic scene completion. By adopting our unified pre-training method, a 25% reduction in 3D training annotation costs can be achieved, offering significant practical value for the implementation of real-world autonomous driving. Codes are publicly available at https://github.com/chaytonmin/UniWorld.
関連論文
- OccWAM: シーンから自己へのフローマッチングを統合した占有ワールドアクションモデル自動運転/世界モデル
- DriveWLA:自動運転のための世界・言語・行動モデリングによる未来動態とシーン意味論の統合自動運転/世界モデル
- PhysWAM: 自動運転のための物理的に整合した世界行動モデル自動運転/世界モデル
- 自動運転のシーン予測のための拡散トランスフォーマーワールドアクションモデル自動運転/世界モデル
- Discrete-WAM: 世界モデルとポリシー学習のための統一離散ビジョン・アクショントークン編集自動運転/世界モデル
- VectorWorld: ベクトルグラフ上の拡散フローによる効率的なストリーミング世界モデル自動運転/世界モデル
