日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

探索arXiv:2611.15964

隠れ物体のマルチモーダルベイズ探索

COMBS: Concealed Object Multi-modal Bayesian Search

シェア:XThreadsFacebookLINEはてブBluesky

LLM・VLM・意味ネットワークを統合したマルチモーダル事前分布と部分観測MDPにより、隠れた物体を効率的に探索する手法COMBSを提案。

詳しい要約

1. どんなもの?

- 環境内に隠された物体(concealed object)を探索する問題を扱う研究 - 部分的観測環境の形式化と、複数の事前知識(ontology, semantic network, LLM, VLM)を統合する枠組みを提案 - concealment-adaptive mixed-observability MDP (CA-MOMDP) を定式化 - 物体位置と「どのノードが物体を隠し得るか」の両方に不確実性を持つ Bayes-adaptive 設定 - 隠蔽可能性は bounded ontology prior を持つ仮説として保持し、interaction によってのみ解消 - 環境を room と object のノードに抽象化する hierarchical transition system (HTS) を定義し、CA-MOMDP 上で計画 - COMBS-score と呼ぶ multi-modal fusion で物体位置の belief を初期化 - 探索は Bayes' rule で belief を更新しながら行う探索手法

2. 先行研究と比べてどこがすごい?

- 単一モデル依存を避け、human informed semantic network, LLM, VLM を融合した COMBS-score で belief を初期化する点 - 隠蔽可能性そのものを不確実性として扱う CA-MOMDP を導入している点 - 閉じた容器を「見た」だけで除外しない belief 更新(never lets a look rule out a closed container) - 理論面: 正確な知覚下で存在する target を bounded 回数の探索で発見すること、noisy perception 下の missed detection でも位置を排除しないことを証明 - 実験面: 5つの simulator 構成(gridworld から Matterport3D + real detector まで)で in-distribution/out-of-distribution とも 92-100% 発見 - per-step LLM policy より大規模シーンで低コストかつ高性能、TidyBot ranking より OOD 配置を多く…

3. 技術・手法の肝は?

- CA-MOMDP: 物体位置と隠蔽可能ノードの両方に不確実性を持つ Bayes-adaptive mixed-observability 設定 - 隠蔽仮説は bounded ontology prior で保持し、interaction によってのみ解決 - HTS (hierarchical transition system): 環境を room ノードと object ノードに抽象化し、CA-MOMDP 上で計画可能にする - COMBS-score: human informed semantic network, LLM, VLM の multi-modal fusion により物体位置の初期 belief を構築 - 抽象化の grounding と単一モデル依存の低減を狙う - belief 更新は Bayes' rule で実施し、閉じた容器を look だけで排除しない設計 - 理論保証: 正確な知覚下での bounded 探索回数での発見、noisy perception 下の missed detection でも位置を排除しないこと

4. どうやって有効だと検証した?

- 各コンポーネントの ablation を実施し、それぞれの重要性を確認 - 5つの simulator 構成で評価(gridworld から Matterport3D + real detector まで) - in-distribution target を 92-100%、out-of-distribution target を 92-100% 発見 - 処理速度で baselines と同等以上 - 大規模シーンで per-step LLM policy を低コストで有意に上回る - TidyBot ranking より OOD 配置を多く回収 - LLM-only prior と同等性能を per-decision latency の一部で達成 - 指定 error level での target absent 宣言が可能な唯一の standalone 手法であることを確認 - 同一エピソードで per-step LLM policy が 12-22% の存在 target を放棄するのに対し、COMBS は 1.6-3.2%

5. 議論はある?

- 理論保証は exact perception と noisy perception の条件付きであり、実環境での一般性には議論の余地 - bounded ontology prior の設計や仮説空間の大きさが性能・計算量に与える影響は要旨からは不明 - COMBS-score の各モデル寄与や fusion の重み付けの感度は要旨からは不明 - 大規模シーンでの per-step LLM policy との比較はあるが、他の planning 手法との比較は要旨からは不明 - absent 宣言の error level の設定方法や校正の詳細は要旨からは不明 - Matterport3D + real detector での実環境ギャップの影響は要旨からは不明

6. 次に読むべき論文は?

- per-step LLM policy(要旨で比較されている baseline) - TidyBot ranking(要旨で比較されている ranking 手法) - LLM-only prior(要旨で比較されている事前分布手法) - Bayes-adaptive MDP / mixed-observability MDP の関連研究 - semantic network や ontology を用いた物体探索の関連研究 - VLM を用いた affordance / 物体位置推定の関連研究 - Matterport3D を用いた embodied navigation / object search の関連研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Taylor Bergeron, Kevin Leahy

分類: cs.RO

原文アブストラクト

This work addresses the problem of finding a concealed object in an environment by unifying formalisms for partially observable environments with multi-modal priors drawn from a mix of ontologies, semantic networks, LLMs, and VLMs. We propose a concealment-adaptive mixed-observability MDP (CA-MOMDP), a Bayes-adaptive setting where uncertainty is over both object locations and which nodes can conceal them, held as a hypothesis with a bounded ontology prior and resolved only by interaction. We define a hierarchical transition system (HTS) to abstract the environment into room and object nodes that can be planned over via our CA-MOMDP. We further propose a COMBS-score: a multi-modal fusion of a human informed semantic network, LLM, and VLM, to initialize the belief over object locations, which grounds our abstractions and reduces reliance on a single model. Belief is maintained via Bayes' rule, which never lets a look rule out a closed container. We prove a present target is found in a bounded number of searches under exact perception and that its location is never ruled out given missed detection under noisy perception. We ablate each component to demonstrate their significance. Across five simulator configurations, from a gridworld to Matterport3D with a real detector, COMBS finds 92-100% of in-distribution and 92-100% of out-of-distribution targets, matches or beats the baselines in processing speed, significantly outperforms a per-step LLM policy at lower cost on the larger scenes, recovers more out-of-distribution placements than a TidyBot ranking, and matches an LLM-only prior at a fraction of its per-decision latency. COMBS is the only standalone method that can declare a target absent at a stated error level, and the per-step LLM policy offered a termination action abandons 12-22% of targets that were present, against 1.6-3.2% for COMBS on the same episodes.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI