世界モデルにおける幻覚は予測可能であり、防止可能である

- 現代の生成的世界モデルは、行動制御可能な未来をますますリアルに描画するが、しばしば幻覚（hallucination）を起こす。 - 幻覚とは、ロールアウトが視覚的に流暢でありながら、真のダイナミクスから逸脱することである。 - 本研究では、幻覚が状態行動空間の低カバレッジ領域に集中するという仮説を立て、それを検証する。 - そのために、MMBench2という427時間・210タスクのデータセットを導入し、350Mパラメータの世界モデルを訓練した。 - 幻覚を予測・防止するためのデータ中心の信号を開発し、カバレッジを考慮したサンプリングと好奇心報酬による適応手法を提案する。

- 従来の世界モデル研究では、幻覚はアーキテクチャや訓練の不安定性に起因すると考えられがちだった。 - 本研究は、幻覚がデータカバレッジの問題であることを示し、軽量なデータ中心の信号で検出・緩和できることを明らかにした。 - 先行研究と比べて、幻覚を3つのモード（知覚的、行動周辺化、シーン発散）に分類し、それぞれをパイプラインの異なる段階に紐付けた点が新しい。 - また、幻覚予測子を好奇心報酬としてオンラインでデータ収集に活用し、50の実環境軌道だけで未見環境に適応できることを示した。

- MMBench2データセットを構築し、真の行動、報酬、ライブシミュレータを提供する。 - 350Mパラメータの世界モデルを訓練し、幻覚を3モードに分類する。 - 各モードに対応する3つの信号を開発し、モデルが失敗する場所を正確に予測する。 - 訓練時のカバレッジギャップを埋めるために、カバレッジ考慮型サンプリングを開発。 - オンラインでは、幻覚予測子を好奇心報酬として用い、ターゲットデータ収集を誘導する。 - これにより、事前訓練済み世界モデルを未見環境に少数の実軌道で適応させるデータ効率的なファインチューニングレシピを実現。

- MMBench2データセット上で350Mパラメータの世界モデルを訓練し、幻覚の3モードを特定。 - 開発した3つの信号が、モデルの失敗を正確に予測することを検証。 - カバレッジ考慮型サンプリングと好奇心報酬によるデータ収集が、幻覚を緩和することを示す。 - 50の実環境軌道のみで、事前訓練済み世界モデルを未見環境に適応できることを実証。 - これらの結果から、幻覚がデータカバレッジ問題であり、検出信号が緩和にも使えることを確認。

- 幻覚がデータカバレッジに起因するという仮説を支持する結果が得られた。 - 幻覚の3モードはパイプラインの異なる段階に由来し、それぞれに対処が必要である。 - 検出と緩和に同じ信号を利用できるという点が重要である。 - ただし、要旨からは、他の要因（例：モデル容量、訓練アルゴリズム）の影響や、他のデータセットへの一般化可能性については不明である。 - また、50軌道での適応がどの程度の性能かを定量的に示す情報は要旨にはない。

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、world models、generative models、reinforcement learning、curiosity-driven exploration、data coverage、hallucination detectionなどが挙げられる。 - 同分野の定番として、Dreamer、PlaNet、World Models (Ha & Schmidhuber) などが考えられるが、要旨には具体的な論文名はない。