日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

探索arXiv:2607.02479

EAGLE-360: 360度環境における身体化された能動的全域から局所への探索

EAGLE-360: Embodied Active Global-to-Local Exploration in 360$^\circ$

シェア:XThreadsFacebookLINEはてブBluesky

360度パノラマ環境での能動的視覚探索を改善するため、グローバルな事前情報を活用して探索空間を段階的に絞り込むフレームワークを提案し、大規模データセットと位置エンコーディングの改良により性能を向上させた。

詳しい要約

1. どんなもの?

EAGLE-360は、360°パノラマ環境における能動的視覚探索(active visual search)のためのEmbodied Active Global-to-Local Explorationフレームワークである。Multimodal Large Language Models (MLLMs)を基盤とし、パノラマ特有の極歪みや連続的な円筒トポロジーを扱うためにRoPE Rollingという座標シフト型位置エンコーディングを導入する。また、大規模なEAGLE-360データセット(14,000以上の4Kパノラマと70,000ラウンド以上のVQA対話)を構築し、Supervised Fine-Tuning (SFT)とGroup Relative Policy Optimization (GRPO)を組み合わせた訓練パイプラインにより、空間推論とツール呼び出し能力を引き出す。

2. 先行研究と比べてどこがすごい?

従来のパノラマ探索手法は、断片的なローカル視点に依存し、厳格な初期化とグローバルなパノラマ事前知識の欠如により、近視眼的で非効率な探索と、ターゲットが視野外にある場合の堅牢なエラー回復に課題があった。EAGLE-360は、グローバルな事前知識を活用して初期の全体視点を確立し、反復的に推論して探索空間を段階的に狭めることで、これらの問題を克服する。また、標準的なMLLMはパノラマ特性を効果的にモデル化できないが、RoPE Rollingにより連続的なトポロジーをシームレスに扱える点が革新的である。

3. 技術・手法の肝は?

手法の核心は、グローバルからローカルへの探索パラダイムと、パノラマの連続トポロジーをモデル化するRoPE Rollingの適応にある。RoPE Rollingは座標シフト型の位置エンコーディングで、パノラマの円筒構造を扱う。訓練はSFTとGRPOを組み合わせ、空間推論とツール呼び出し能力を引き出す。データセットは大規模で高品質なVQA対話を含む。

4. どうやって有効だと検証した?

大規模な実験により、360°視覚探索において新しいstate-of-the-artを確立し、ベースモデルと比較して精度が約8倍向上し、探索効率も大幅に改善されたことを示した。具体的な評価指標や比較対象は要旨からは不明だが、広範な実験による検証が行われている。

5. 議論はある?

要旨からは、提案手法の限界や議論についての詳細は不明である。ただし、グローバルな事前知識に依存するため、初期のグローバル推論が誤ると探索性能に影響する可能性や、データセットの構築コスト、実環境でのロバスト性などが考えられるが、要旨には明記されていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究は明示されていないが、同分野の定番として、Multimodal Large Language Models (MLLMs)の基礎研究、360°パノラマ理解、能動的視覚探索(active visual search)、位置エンコーディング(RoPEなど)、強化学習(GRPO)に関する論文が挙げられる。具体的には、RoPEの元論文、GRPOの元論文、パノラマVQAデータセットや探索ベンチマークに関する研究などが関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jingtao Xu, Zizhuo Lin, Jianwen Sun, Yi Yang, Yawei Luo

分類: cs.CV

原文アブストラクト

While Multimodal Large Language Models (MLLMs) have demonstrated exceptional capabilities in standard visual understanding, adapting them for active visual search in 360$^\circ$ panoramic environments exposes fundamental limitations. Specifically, standard MLLMs struggle to effectively model inherent panoramic properties, such as severe polar distortion and continuous cylindrical topologies, which significantly degrades target detection accuracy. Consequently, existing panoramic search methods attempt to compensate by relying heavily on fragmented local viewpoints. Burdened by rigid initialization and a lack of global panoramic priors, these approaches suffer from myopic, inefficient exploration and struggle with robust error recovery when targets are out of view. To overcome these challenges, we propose EAGLE-360, a novel Embodied Active Global-to-Local Exploration framework. Rather than performing exhaustive local searches, EAGLE-360 leverages global priors to establish an initial holistic perspective, iteratively reasoning and progressively narrowing the search space. Architecturally, we adapt RoPE Rolling, a coordinate-shifting positional encoding mechanism, to seamlessly model the continuous topologies of panoramas. To facilitate this paradigm, we construct the large-scale EAGLE-360 dataset, comprising 14,000+ 4K panoramas and 70,000+ rounds of high-quality VQA dialogues. By employing a training pipeline that integrates Supervised Fine-Tuning (SFT) with Group Relative Policy Optimization (GRPO), we effectively elicit complex spatial reasoning and tool-calling capabilities. Extensive experiments demonstrate that EAGLE-360 establishes a new state-of-the-art for 360$^\circ$ visual search, achieving nearly an 8-fold increase in accuracy over the base model while significantly enhancing exploration efficiency.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI