日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ナビゲーションarXiv:2603.12696

HaltNav: 軽量なトポロジカル事前知識に基づく反応的視覚停止による頑健な視覚言語ナビゲーション

HaltNav: Reactive Visual Halting over Lightweight Topological Priors for Robust Vision-Language Navigation

シェア:XThreadsFacebookLINEはてブBluesky

軽量なテキストベースの地図(osmAG)とVLNを組み合わせ、障害物による経路変更をMLLMで検出して再計画する階層型ナビゲーションフレームワークを提案。

詳しい要約

1. どんなもの?

- Vision-and-Language Navigation (VLN) の新しい階層ナビゲーション枠組み HaltNav を提案。 - 軽量な text-based osmAG (OpenStreetMap Area Graph) を構造事前情報として利用。 - MLLM-based brain module が高レベルタスク接地と障害物認識を担う。 - グローバル経路を局所的な実行スニペットに変換し、VLN executor に事前情報に基づくサブ指示を提供。 - Reactive Visual Halting (RVH) により局所制御ループを中断し、osmAG を更新して再計画をトリガー。

2. 先行研究と比べてどこがすごい?

- 従来は計算負荷の高い 2D/3D metric map を前提とすることが多かった。 - 本研究は軽量で取得・維持が容易な text-based osmAG を活用。 - 事前マップのみのグローバル計画は実環境の局所変化(閉扉、混雑通路)に弱いが、HaltNav は VLN の局所探索・指示接地能力と組み合わせて頑健性を向上。 - 煩雑な言語指示なしで複数ベースラインを上回り、環境変化下の長期的 VLN のロバスト性を大幅改善。

3. 技術・手法の肝は?

- 階層的ナビゲーション枠組み:osmAG によるグローバル計画と VLN による局所探索・指示接地を結合。 - MLLM-based brain module が高レベルタスク接地と障害物認識を実行。 - osmAG を条件としてグローバル経路を局所実行スニペット列に変換し、VLN executor に目標中心のサブ指示を提供。 - Reactive Visual Halting (RVH):局所異常を検出し、局所制御ループを中断、osmAG の該当トポロジーを無効化して更新、再計画により迂回路を生成。 - 停止能力を効率的に訓練するため、生成モデルで障害物を注入するデータ合成パイプラインを導入し、hard negative サンプルを拡充。

4. どうやって有効だと検証した?

- 広範な実験を実施し、階層的枠組みが複数のベースライン手法を上回ることを示した。 - 煩雑な言語指示なしで性能を発揮。 - 環境変化下での長期的 vision-language navigation のロバスト性を大幅に改善。 - 具体的なデータセット名や評価指標は要旨からは不明。

5. 議論はある?

- 事前マップのみのグローバル計画は実環境の局所接続変化(閉扉、混雑通路)により実行時失敗を招く問題を指摘。 - HaltNav はこのギャップを RVH と再計画で緩和するが、限界や失敗事例、計算コスト、スケーラビリティに関する議論は要旨からは不明。 - データ合成パイプラインの有効性や一般化性能についての詳細な議論も要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:osmAG を用いた先行研究、計算負荷の高い 2D/3D metric map を前提とする VLN 手法、VLN のベースライン手法。 - 関連手法:Vision-and-Language Navigation (VLN)、MLLM-based brain module、Reactive Visual Halting (RVH)、OpenStreetMap Area Graph (osmAG)。 - 同分野の定番:R2R、RxR、REVERIE などの VLN ベンチマークや、HAMT、DUET、NavGPT などの手法が考えられるが、要旨に明示なし。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zihui Yu, Pingcong Li, Bichi Zhang, Sören Schwertfeger

分類: cs.RO, cs.CV

原文アブストラクト

Vision-and-Language Navigation (VLN) is shifting from rigid, step-by-step instruction following toward open-vocabulary, goal-oriented autonomy. Achieving this transition without exhaustive routing prompts requires agents to leverage structural priors. While prior work often assumes computationally heavy 2D/3D metric maps, we instead exploit a lightweight, text-based osmAG (OpenStreetMap Area Graph), a floorplan-level topological representation that is easy to obtain and maintain. However, global planning over a prior map alone is brittle in real-world deployments, where local connectivity can change (e.g., closed doors or crowded passages), leading to execution-time failures. To address this gap, we propose a hierarchical navigation framework HaltNav that couples the robust global planning of osmAG with the local exploration and instruction-grounding capability of VLN. Our approach features an MLLM-based brain module, which is capable of high-level task grounding and obstruction awareness. Conditioned on osmAG, the brain converts the global route into a sequence of localized execution snippets, providing the VLN executor with prior-grounded, goal-centric sub-instructions. Meanwhile, it detects local anomalies via a mechanism we term Reactive Visual Halting (RVH), which interrupts the local control loop, updates osmAG by invalidating the corresponding topology, and triggers replanning to orchestrate a viable detour. To train this halting capability efficiently, we introduce a data synthesis pipeline that leverages generative models to inject realistic obstacles into otherwise navigable scenes, substantially enriching hard negative samples. Extensive experiments demonstrate that our hierarchical framework outperforms several baseline methods without tedious language instructions, and significantly improves robustness for long-horizon vision-language navigation under environmental changes.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI