日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

身体化エージェントarXiv:2604.17252

見たものが真実とは限らない:身体化エージェントにおける能動的介入による信念慣性の緩和

Seeing Isn't Believing: Mitigating Belief Inertia via Active Intervention in Embodied Agents

シェア:XThreadsFacebookLINEはてブBluesky

LLMベースの身体化エージェントが環境フィードバックを無視して誤った信念に固執する「信念慣性」問題を特定し、予測・検証・更新のサイクル(EVU)を導入して能動的に信念を更新することでタスク成功率を向上させる手法を提案した。

詳しい要約

1. どんなもの?

- LLMを活用したembodied agentsが複雑なタスクに取り組む際、内部信念と異なる環境フィードバックを見落とす問題を『belief inertia』として定式化。 - 形式的probing分析でこの現象を特徴づけ、受動的理解から能動的管理への移行を提唱。 - Estimate-Verify-Update (EVU) メカニズムを導入し、予測・検証・信念更新を明示的推論で行う。 - prompting-basedとtraining-basedの両方のagent reasoning手法に統合可能な統一介入機構。 - 3つのembodied benchmarksでタスク成功率の大幅向上を実証。

2. 先行研究と比べてどこがすごい?

- 従来のLLM-based embodied agentsは環境フィードバックを無視し、内部信念に固執する傾向があった。 - 本研究はこの問題をbelief inertiaとして形式化し、受動的理解ではなく能動的介入という新たな枠組みを提案。 - EVUは既存のprompting-basedおよびtraining-based手法に統合可能な統一機構であり、汎用性が高い。 - 従来手法と比較して、3つのembodied benchmarksで一貫した成功率向上を達成。

3. 技術・手法の肝は?

- Estimate-Verify-Update (EVU) メカニズムを提案。 - Estimate: agentが期待される結果を予測。 - Verify: 観察と予測を明示的推論で照合。 - Update: 検証証拠に基づき事前信念を能動的に更新。 - テキスト形式のbelief statesを明示的に生成し、prompting-basedおよびtraining-basedのagent reasoning手法に統合可能。

4. どうやって有効だと検証した?

- 3つのembodied benchmarksを用いた広範な実験を実施。 - EVUがタスク成功率を一貫して大幅に向上させることを示した。 - さらなる分析により、belief inertiaを効果的に軽減することを検証。 - コードはhttps://github.com/WangHanLinHenry/EVUで公開。

5. 議論はある?

- 要旨からは、belief inertiaの軽減効果や成功率向上以外の具体的な議論(限界、失敗事例、計算コストなど)は不明。 - 提案手法の一般化可能性や他のembodiedタスクへの適用については言及されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、LLM-based embodied agents、prompting-based reasoning、training-based reasoning、belief updatingに関する研究が挙げられる。 - 同分野の定番として、ReAct、Reflexion、SayCan、Inner Monologueなどが考えられるが、要旨に記載がないため一般名として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hanlin Wang, Chak Tou Leong, Jian Wang, Wenjie Li

分類: cs.CL, cs.AI, cs.RO

原文アブストラクト

Recent advancements in large language models (LLMs) have enabled agents to tackle complex embodied tasks through environmental interaction. However, these agents still make suboptimal decisions and perform ineffective actions, as they often overlook critical environmental feedback that differs from their internal beliefs. Through a formal probing analysis, we characterize this as belief inertia, a phenomenon where agents stubbornly adhere to prior beliefs despite explicit observations. To address this, we advocate active belief intervention, moving from passive understanding to active management. We introduce the Estimate-Verify-Update (EVU) mechanism, which empowers agents to predict expected outcomes, verify them against observations through explicit reasoning, and actively update prior beliefs based on the verification evidence. EVU is designed as a unified intervention mechanism that generates textual belief states explicitly, and can be integrated into both prompting-based and training-based agent reasoning methods. Extensive experiments across three embodied benchmarks demonstrate that EVU consistently yields substantial gains in task success rates. Further analyses validate that our approach effectively mitigates belief inertia, advancing the development of more robust embodied agents. Our code is available at https://github.com/WangHanLinHenry/EVU.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI