日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2511.13719

マルチモーダル基盤モデルによる空間知能のスケーリング

Scaling Spatial Intelligence with Multimodal Foundation Models

シェア:XThreadsFacebookLINEはてブBluesky

800万件の多様な空間データでマルチモーダル基盤モデルを訓練し、空間知能ベンチマークで大幅な性能向上を達成するとともに、データスケーリングや創発的汎化の兆候を分析した。

詳しい要約

1. どんなもの?

- 本研究は、multimodal foundation models の spatial intelligence を強化する取り組み。 - SenseNova-SI family として、既存の multimodal foundations(Qwen3-VL、InternVL3、Bagel)を基盤に構築。 - 空間能力の厳密な taxonomy に基づき 8M の多様なデータ(SenseNova-SI-8M)を体系的に整備。 - 複数の spatial intelligence ベンチマークで高性能を示し、学習済みモデルを公開。

2. 先行研究と比べてどこがすごい?

- 先行 multimodal foundation models は spatial intelligence に顕著な欠陥があると指摘。 - 既存基盤モデル(Qwen3-VL、InternVL3、Bagel)を土台に、空間能力の taxonomy に沿った大規模データで強化。 - 広範な spatial benchmarks で「unprecedented」な性能を報告しつつ、一般 multimodal understanding(MMBench-En 84.9%)も維持。 - データスケーリングや emergent generalization の兆候、過学習・language shortcuts のリスク分析も含む点が特徴。

3. 技術・手法の肝は?

- 空間能力の rigorous taxonomy を定義し、それに基づき SenseNova-SI-8M(8M サンプル)を体系的にキュレーション。 - 基盤は visual understanding models(Qwen3-VL、InternVL3)と unified understanding and generation model(Bagel)。 - 多様データ訓練による generalization を狙う設計。 - spatial chain-of-thought reasoning の予備的検討や下流応用の可能性検証も実施。

4. どうやって有効だと検証した?

- 多数の spatial intelligence benchmarks で評価:VSI-Bench 68.8%、MMSI 43.3%、MindCube 85.7%、ViewSpatial 54.7%、SITE 47.7%、BLINK 63.9%、3DSR 55.5%、EmbSpatial 72.0%。 - 一般 multimodal understanding も MMBench-En 84.9% で維持を確認。 - データスケーリングの影響、emergent generalization の兆候、過学習・language shortcuts リスク、spatial chain-of-thought reasoning、下流応用の可能性を分析。

5. 議論はある?

- データスケーリングの影響を分析。 - 多様データ訓練による emergent generalization の初期兆候を議論。 - 過学習および language shortcuts のリスクを指摘・分析。 - spatial chain-of-thought reasoning に関する予備的検討を提示。 - 下流応用の可能性を検証。 - 具体的な限界や未解決課題の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 基盤として用いられた Qwen3-VL、InternVL3、Bagel の各論文。 - 評価に用いられた VSI-Bench、MMSI、MindCube、ViewSpatial、SITE、BLINK、3DSR、EmbSpatial、MMBench-En の各ベンチマーク論文。 - spatial chain-of-thought reasoning や language shortcuts に関連する研究。 - 要旨で直接参照されていない関連手法は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhongang Cai, Ruisi Wang, Chenyang Gu, Fanyi Pu, Junxiang Xu, Yubo Wang, Wanqi Yin, Zhitao Yang, Chen Wei, Qingping Sun, Tongxi Zhou, Jiaqi Li, Hui En Pang, Oscar Qian, Yukun Wei, Zhiqian Lin, Xuanke Shi, Kewang Deng, Xiaoyang Han, Zukai Chen, Xiangyu Fan, Hanming Deng, Lewei Lu, Liang Pan, Bo Li, Ziwei Liu, Quan Wang, Dahua Lin, Lei Yang

分類: cs.CV, cs.AI, cs.LG, cs.MM, cs.RO

原文アブストラクト

Despite remarkable progress, multimodal foundation models still exhibit surprising deficiencies in spatial intelligence. In this work, we explore scaling up multimodal foundation models to cultivate spatial intelligence within the SenseNova-SI family, built upon established multimodal foundations including visual understanding models (i.e., Qwen3-VL and InternVL3) and unified understanding and generation models (i.e., Bagel). We take a principled approach to constructing high-performing and robust spatial intelligence by systematically curating SenseNova-SI-8M: eight million diverse data samples under a rigorous taxonomy of spatial capabilities. SenseNova-SI demonstrates unprecedented performance across a broad range of spatial intelligence benchmarks: 68.8% on VSI-Bench, 43.3% on MMSI, 85.7% on MindCube, 54.7% on ViewSpatial, 47.7% on SITE, 63.9% on BLINK, 55.5% on 3DSR, and 72.0% on EmbSpatial, while maintaining strong general multimodal understanding (e.g., 84.9% on MMBench-En). More importantly, we analyze the impact of data scaling, discuss early signs of emergent generalization capabilities enabled by diverse data training, analyze the risk of overfitting and language shortcuts, present a preliminary study on spatial chain-of-thought reasoning, and validate the potential downstream application. All newly trained multimodal foundation models are publicly released.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI