日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

LLM幻覚arXiv:2512.21577

幻覚の統一定義:それは世界モデルだ、この愚か者!

A Unified Definition of Hallucination: It's The World Model, Stupid!

シェア:XThreadsFacebookLINEはてブBluesky

言語モデルの幻覚を「ユーザーに観測可能な不正確な内部世界モデリング」と統一的に定義し、既存の定義を包含する枠組みを提案した論文。

詳しい要約

1. どんなもの?

- 言語モデルにおけるhallucinationの統一的な定義を提案する論文。 - 従来の様々な定義を「ユーザーに観測可能な形での不正確な(内部)world modeling」として統合。 - 参照するworld modelとconflict policyを変えることで、先行定義を包含するフレームワークを構築。 - この統一視点は評価の明確化やplanning/reward errorとの区別、ベンチマーク間の比較に有用と主張。 - HalluWorldという補完的ベンチマークとの接続も行う。

2. 先行研究と比べてどこがすごい?

- 従来はhallucinationの定義が乱立し、統一的な理解が欠けていた。 - 本論文はそれらを単一の定義に折り畳み、先行定義を特殊ケースとして包含する点が新しい。 - 参照world modelとconflict policyの変動により、多様な定義を統合できる点が優れている。 - 評価において想定する「world」を明確化することを強制し、真のhallucinationとplanning/reward errorを区別する。 - ベンチマーク間の比較や緩和戦略の議論に共通言語を提供する。

3. 技術・手法の肝は?

- hallucinationを「不正確な(内部)world modeling」と定義し、それがユーザーに観測可能な形で現れるとする。 - 参照world modelとconflict policyをパラメータとして変化させるフレームワークを提案。 - 例えば、知識ベースと矛盾する事実の陈述や、ソースと矛盾する要約の生成をhallucinationとして捉える。 - この枠組みにより、先行定義を統合し、評価の前提を明確化する。 - HalluWorldベンチマークと接続し、完全に指定された参照world modelをインスタンス化する。

4. どうやって有効だと検証した?

- 要旨からは不明。具体的な実験や検証方法については記述されていない。 - ただし、HalluWorldという補完的ベンチマークとの接続が述べられており、これが検証に用いられる可能性がある。 - 統一フレームワークの有用性は、評価の明確化や比較可能性の向上という論点で主張されている。

5. 議論はある?

- 統一視点の有用性として、評価が想定する参照「world」を明確化することを強制する点が挙げられている。 - 真のhallucinationとplanningやreward errorを区別できる。 - ベンチマーク間の比較や緩和戦略の議論に共通言語を提供する。 - ただし、具体的な反論や限界については要旨では触れられていない。

6. 次に読むべき論文は?

- HalluWorld: 要旨で直接参照されている補完的ベンチマーク。 - その他、hallucinationの定義や評価に関する先行研究(具体的な論文名は要旨からは不明)。 - 関連分野の定番として、hallucination detection/mitigationに関するサーベイ論文や、knowledge-grounded dialogue、factual consistency評価の研究が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Emmy Liu, Varun Gangal, Chelsea Zou, Michael Yu, Xiaoqi Huang, Alex Chang, Zhuofu Tao, Karan Singh, Sachin Kumar, Steven Y. Feng

分類: cs.CL, cs.AI, cs.LG, stat.ML

原文アブストラクト

Despite numerous attempts at mitigation since the inception of language models, hallucinations remain a persistent problem even in today's frontier LLMs. Why is this? We review existing definitions of hallucination and fold them into a single, unified definition wherein prior definitions are subsumed. We argue that hallucination can be unified by defining it as simply inaccurate (internal) world modeling, in a form where it is observable to the user. For example, stating a fact which contradicts a knowledge base OR producing a summary which contradicts the source. By varying the reference world model and conflict policy, our framework unifies prior definitions. We argue that this unified view is useful because it forces evaluations to clarify their assumed reference "world", distinguishes true hallucinations from planning or reward errors, and provides a common language for comparison across benchmarks and discussion of mitigation strategies. Building on this definition, we also connect our framework to HalluWorld, a complementary benchmark that instantiates fully specified reference world models for stress-testing model hallucinations.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI