日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

空間知能ベンチマークarXiv:2610.23959

同一空間か否か:視点間矛盾による空間知能のベンチマーク

Same Space or Not: Benchmarking Spatial Intelligence Through Cross-View Contradictions

シェア:XThreadsFacebookLINEはてブBluesky

3視点の同一シーンと1視点の編集済みシーンを提示し、矛盾する視点を特定・説明させる空間知能ベンチマークSSoNを提案。最強VLMでも人間の83.3%に対し39.7%と大きく劣ることを示した。

詳しい要約

1. どんなもの?

- 空間知能を測る新 benchmark「Same Space or Not (SSoN)」を提案 - 同一 scene の 3 view と編集済み variant の 1 view を提示 - 矛盾する view を特定し、その理由を説明させる課題 - 7 つの indoor scene source と 6 種類の controlled 3D edit からなる 1,000 問 - 信頼できる参照 view や明示された target は与えられない

2. 先行研究と比べてどこがすごい?

- 既存 benchmark は spatial relations・perspective-taking・mental modeling を扱う - それらは view 間の pair 比較が中心で、どの view が真実から外れるかは分からない - SSoN は cross-view で一貫した scene 表現を保てるかを直接問う - 人間 83.3% に対し最強 VLM は 39.7%、説明も要求すると 34.9% と大きな差 - 現行 VLM の実質的な弱点を定量化した点が新しい

3. 技術・手法の肝は?

- 3 view は不変 scene、1 view は編集済み variant という構成 - モデルは矛盾する view を特定し、矛盾を説明する必要がある - 人手レビューを生成制約へ反復的に翻訳する pipeline を構築 - automated check と網羅的な human validation で trivial な visual shortcut を排除 - 一意な答えに十分な証拠がある問題のみを残す設計

4. どうやって有効だと検証した?

- 人間 83.3%、最強 VLM 39.7%、説明要求時 34.9% を報告 - prompting・camera 情報・3D reconstruction を介入として検討 - 100 問 intervention set(baseline 24%)で検証 - prompting と 3D reconstruction は answer accuracy 50% 未満 - ground-truth camera 情報で answer 61%、True solve 48% - held-out 201 問で Qwen2.5-VL-7B は 21.89%、answer-only fine-tuning で 33.33%、rationale と answer の fine-tuning で 41.79%

5. 議論はある?

- cross-view contradiction resolution は現行 VLM の大きな弱点と結論 - targeted supervision により部分的に改善可能と示唆 - camera 情報を与えても True solve は 48% に留まり、根本課題が残る - 編集の種類や scene source ごとの難易度差は要旨からは不明 - 実世界 embodied 設定への一般化可能性は要旨からは不明

6. 次に読むべき論文は?

- Qwen2.5-VL-7B(fine-tuning 比較の対象) - 3D reconstruction を用いた spatial reasoning 研究 - perspective-taking / mental modeling 系の既存 spatial intelligence benchmark - vision-language model の rationale 付き fine-tuning 研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Huizi Cao, Guanyu Xu, Zhixuan Liang, Ming Yin, Jiuxiang Gu, Manling Li, Mengdi Wang, Shilong Liu

分類: cs.CV, cs.LG

原文アブストラクト

Spatial intelligence, the capacity to represent and reason about physical space, underlies embodied perception and real-world visual understanding. Existing benchmarks probe it through spatial relations, perspective-taking, and mental modeling. What remains underexamined is whether a model can maintain a coherent scene representation across views, since pairwise comparison alone cannot reveal which view departs from the truth. We thus introduce Same Space or Not (SSoN), a benchmark of cross-view contradiction resolution comprising 1,000 questions from seven indoor scene sources and six categories of controlled 3D edits. Each question presents three views of an unchanged scene and one view of an edited variant. Models must identify the inconsistent view and explain the contradiction without a designated trusted reference or a marked target. Our pipeline iteratively translates human review into generation constraints. Automated checks and exhaustive human validation screen out both trivial visual shortcuts and questions lacking sufficient evidence for a unique answer. Humans achieve 83.3% accuracy, compared with 39.7% for the strongest vision-language models (VLMs), falling to 34.9% when a valid visual explanation is also required. We investigate prompting, camera information, and 3D reconstruction as interventions. On a 100-question intervention set with a 24% baseline, prompting and 3D reconstruction remain below 50% answer accuracy, except when ground-truth camera information is supplied, which reaches 61% answer accuracy but only 48% True solve accuracy. On a held-out 201-question test set, Qwen2.5-VL-7B achieves 21.89% accuracy, 33.33% after answer-only fine-tuning, and 41.79% after fine-tuning on both rationales and answers. These results identify cross-view contradiction resolution as a substantial weakness of current VLMs that can be partly addressed by targeted supervision.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI