日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ベンチマークarXiv:2611.14953

RSLiveBench-UAV:継続的に進化する航空空間知能の視覚言語ベンチマーク

RSLiveBench-UAV: A Continually Evolving Vision-Language Benchmark for Aerial Spatial Intelligence

シェア:XThreadsFacebookLINEはてブBluesky

実UAV画像を継続取得して更新される視覚言語ベンチマークを構築し、30モデルを17タスクで評価した。

詳しい要約

1. どんなもの?

- 継続的に更新される UAV 画像を用いた vision-language benchmark「RSLiveBench-UAV」 - Aerial spatial intelligence (ASI) を評価する目的 - 実 UAV 画像の反復取得により更新される - 更新プロトコル - 前回リリース以降に撮影された画像のみ受け入れる - 回答開示を遅延させる - 規模 - 10 scenes、35,491 question records、17 tasks - 2D perception、3D perception、cross-view perception、reasoning をカバー - 評価対象 - general-purpose、remote-sensing、embodied の30モデル

2. 先行研究と比べてどこがすごい?

- 従来 benchmark は固定データセットで、モデル進化に追従しにくい - 本 benchmark は実 UAV 画像の継続取得で更新される点が新しい - 前回リリース後の画像のみ受け入れる更新プロトコル - 回答開示の遅延 - entity-centered な生産ワークフロー - 同一物理車両の反復観測を geometry-assisted association で紐付け - 人手検証済み属性を再利用 - 追跡可能な質問生成 - スコアリング - モデル judge を使わない deterministic scoring - 要旨からは不明: 既存 ASI benchmark との定量的比較

3. 技術・手法の肝は?

- 継続更新プロトコル - 前回リリース後の実 UAV 画像のみ採用 - 回答開示を遅延 - entity-centered production workflow - geometry-assisted association で物理車両の反復観測をリンク - 人手検証済み属性を再利用 - view-specific annotations と spatial references を組み合わせ質問生成 - タスク構成 - 2D/3D/cross-view perception と reasoning の17タスク - 評価 - deterministic scoring のみ、model judges 不使用 - 更新後の一貫性評価 - retrospective scene-group comparisons - rolling-window replay

4. どうやって有効だと検証した?

- 30モデルを35,491 question records、10 scenes、17 tasksで評価 - general-purpose、remote-sensing、embodied モデル - 主な結果 - 18の embodied モデル全てが3つの remote-sensing 比較対象を Overall で上回る - 最強 embodied モデルは43.29、GPT-6-Astra は59.88 - fine-grained vehicle recognition は依然困難 - 性能は height と camera pitch で変動 - 更新下の一貫性 - retrospective scene-group comparisons と rolling-window replay でスコアパターンの一貫性を分析

5. 議論はある?

- embodied モデルが remote-sensing 比較対象を Overall で上回る一方、GPT-6-Astra との差は大きい - fine-grained vehicle recognition が難題として残る - height や camera pitch による性能変動 - 継続更新下でのスコア一貫性を retrospective scene-group comparisons と rolling-window replay で検討 - 要旨からは不明: 具体的な限界やバイアス、更新頻度の議論

6. 次に読むべき論文は?

- GPT-6-Astra(本 benchmark で最強スコアの比較対象) - embodied models(18モデルの個別手法) - remote-sensing models(3つの比較対象) - geometry-assisted association 関連手法 - 要旨からは不明: 個別論文名の明示的参照はない

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yue Zhou, Jiawei Liu, Jue Chen, Ziyang Gong, Haojia Wei, Jingxiang Li, Xue Jiang, Zhihang Zhong, Pai Peng, Xue Yang, Yansheng Li, Jonathan Li

分類: cs.CV

原文アブストラクト

Aerial spatial intelligence (ASI) requires models to understand objects and spatial relationships across changing viewpoints and scales. Evaluating these abilities as models evolve calls for fresh physical observations, yet producing new aerial spatial questions requires repeatedly establishing entity identities, geometric references, and cross-view correspondences. We introduce \textbf{RSLiveBench-UAV}, a continually evolving vision-language benchmark driven by recurring acquisition of real UAV imagery. Its update protocol admits images captured after the preceding release and delays answer disclosure. An entity-centered production workflow uses geometry-assisted association to link repeated observations of physical vehicles, reuse human-verified attributes, and combine them with view-specific annotations and spatial references for traceable question generation. All tasks use deterministic scoring without model judges. We evaluate 30 general-purpose, remote-sensing, and embodied models on 35,491 question records from ten scenes, covering 17 tasks across 2D perception, 3D perception, cross-view perception, and reasoning. All 18 tested embodied models outperform the three selected remote-sensing comparators in Overall, although the strongest embodied model scores 43.29 versus 59.88 for GPT-6-Astra. Fine-grained vehicle recognition remains challenging, and performance varies across heights and camera pitches. Retrospective scene-group comparisons and rolling-window replay characterize score-pattern consistency under scene renewal. RSLiveBench-UAV connects fresh physical observations, entity-centered answer production, and systematic model evaluation to support continual assessment of ASI. Benchmark will release at https://rslivebench.space

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI