日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデル解釈arXiv:2606.09936

一つのレンズ、多様な世界:世界モデルの解釈可能性のための能力型インターフェース

One Lens, Many Worlds : A Capability-Typed Interface for World-Model Interpretability

シェア:XThreadsFacebookLINEはてブBluesky

異なるアーキテクチャの世界モデルを統一的に解釈するための、能力型アダプタを備えたオープンソース基盤WorldModelLensを提案する論文。

詳しい要約

1. どんなもの?

- WorldModelLens は、World Model の解釈可能性のためのオープンソース基盤。 - 異なる計算基盤(PlaNet/Dreamer の latent recurrent state-space、IRIS の token-based、I-JEPA の joint-embedding predictive)を統一的に扱う。 - capability-typed adapter を中心に、必須4メソッド(encode, transition, initial state, sample)と任意ヘッド(decode, reward, continue, actor, critic)を宣言。 - 単一の hook/cache 層で time-indexed activations、imagination rollouts、intervention replay を提供。

2. 先行研究と比べてどこがすごい?

- 従来の probing, activation patching, sparse autoencoders, surprise analysis は各アーキテクチャごとに再実装が必要だった。 - 既存の hook-and-cache ツールは transformer language model を前提とし、action、environment step、imagined rollout の概念がない。 - WorldModelLens は capability-typed interface により、RL と self-supervised の world model を first-class に扱い、相互模倣を不要にする。 - 分析を一度書けば多様なモデルに適用可能。

3. 技術・手法の肝は?

- capability-typed adapter を導入し、各モデルが必須メソッド(encode, transition, initial state, sample)を実装。 - 任意ヘッド(decode, reward, continue, actor, critic)を capability descriptor で宣言。 - 単一の hook/cache 層が time-indexed activations、imagination rollouts、intervention replay を提供。 - これにより、異なる計算基盤の world model に共通の解釈手法を適用可能。

4. どうやって有効だと検証した?

- 要旨からは不明。

5. 議論はある?

- 断片化はモデルではなくツールの問題であると主張。 - world model の共有構造が小さな typed interface で捉えられると議論。 - 具体的な限界や反論については要旨からは不明。

6. 次に読むべき論文は?

- PlaNet, Dreamer, IRIS, I-JEPA が参照されている。 - 関連手法として probing, activation patching, sparse autoencoders, surprise analysis が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bhavith Chandra Challagundla, Sanskar Pandey, Param Thakkar, Rishikesh Mallagundla, Yugandhar Reddy Gogireddy, Wenhao Lu, Hindol Roy Choudhury, Shravani Challagundla, Mohamed Deraz Nasr, Spursh Deshpande

分類: cs.LG, cs.AI

原文アブストラクト

World models are now built on substantially different computational substrates. Latent recurrent state-space models such as PlaNet and the Dreamer family compress observations into recurrent states; token-based models such as IRIS quantize observations into a learned codebook and predict autoregressively with a transformer; and joint-embedding predictive architectures such as I-JEPA predict in a learned latent space with no pixel decoder. The interpretability methods applied to these models, including probing, activation patching, sparse autoencoders, and surprise analysis, share a common set of primitives, yet they are re-implemented from scratch for each architecture because existing hook-and-cache tooling assumes a transformer language model with no notion of actions, environment steps, or imagined rollouts. We argue that this fragmentation reflects the tooling rather than the models, and that the shared structure of world models is captured by a small typed interface. We present WorldModelLens, an open-source interpretability substrate organized around a capability-typed adapter: every model implements four required methods (encode, transition, initial state, sample) and declares a set of optional heads (decode, reward, continue, actor, critic) through an explicit capability descriptor, so that reinforcement-learning and self-supervised world models are first-class without either imitating the other. A single hook and cache layer exposes time-indexed activations, imagination rollouts, and intervention replay over this interface, allowing each analysis to be written once.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI