日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ワールドモデルarXiv:2609.22175

対照的ワールドモデル

Contrastive World Models

シェア:XThreadsFacebookLINEはてブBluesky

ピクセル再構成を使わず、状態行動系列と将来観測の局所特徴間の相互情報量を最大化する対照学習目的で潜在ダイナミクスモデルを学習し、視覚的妨害に頑健なワールドモデルを実現した。

詳しい要約

1. どんなもの?

- 視覚的に複雑な環境でpixel reconstructionベースのworld modelが失敗する問題に対処する手法。 - Contrastive World Modelsと名付けられ、pixel reconstructionなしでlatent dynamics modelを学習する。 - Dreamerを基盤とし、観測再構成をDeep InfoMax風の下界に置き換える。 - state-action系列と将来観測の局所patch特徴間の相互情報量を最大化する。 - 視覚的に無関係な詳細の再構成を不要にし、計画・制御に有用な情報を保持させる。

2. 先行研究と比べてどこがすごい?

- 従来のDreamerはpixel reconstructionを用いるため、視覚的複雑さが増すと無関係情報が目的関数を支配し性能が低下する。 - 提案法は再構成を排除し、相互情報量最大化により将来予測に有用な情報のみを保持する。 - デフォルト設定ではDreamerとmomentum prediction baselineに匹敵する。 - distractorや自然動画背景が導入されると両者を大幅に上回る。 - pixel decoderを除去することで学習効率も向上する。

3. 技術・手法の肝は?

- Dreamerのworld model目的関数におけるobservation reconstructionを置き換える。 - Deep InfoMaxに類似した下界を用い、state-action系列と将来観測のlocal patch features間のmutual informationを最大化する。 - これによりstate表現が将来予測に有用な情報を保持するよう促す。 - pixel decoderを完全に除去し、視覚的に無関係な詳細の再構成を回避する。 - state-action系列と将来観測へのアクセスのみを仮定する汎用的なアプローチ。

4. どうやって有効だと検証した?

- 視覚的複雑さが増加する3つの設定で小規模実験を実施。 - デフォルト設定ではDreamerとmomentum prediction baselineに匹敵する性能を確認。 - distractorや自然動画背景を導入した設定では両ベースラインを大幅に上回ることを確認。 - pixel decoder除去による学習効率の向上も確認。 - 具体的なデータセット名や評価指標は要旨からは不明。

5. 議論はある?

- contrastiveかつinfomaxベースの目的関数が、視覚的nuisance factorsに頑健なworld model構築のための原理的で有望な方向性であると示唆。 - この特性はmodel-based RLエージェントの実世界転移に特に関連する。 - 提案法は汎用的で、state-action系列と将来観測へのアクセス以外に最小限の仮定しか置かない。 - 限界や失敗事例、計算コストの詳細な議論は要旨からは不明。

6. 次に読むべき論文は?

- Dreamer(基盤手法として参照) - Deep InfoMax(目的関数の着想元として参照) - momentum prediction baseline(比較対象として参照) - pixel reconstructionベースのworld model(対比される従来手法) - model-based RLの実世界転移に関する研究(一般名)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bonnie Li

分類: cs.LG, cs.AI, cs.CV

原文アブストラクト

World models trained via pixel reconstruction can struggle in visually complex environments, where irrelevant information dominates the objective and distract the model from information relevant to planning and control. We present Contrastive World Models, an approach for learning latent dynamics models without pixel reconstruction. Building on Dreamer, we replace observation reconstruction in the standard world model objective with a Deep InfoMax-like lower bound that maximizes the mutual information between state-action sequences and local patch features of future observations, encouraging state representations to retain information that is predictive of the future without requiring the model to reconstruct visually irrelevant details. We evaluate our approach in small-scale experiments across three settings of increasing visual complexity. Our method matches Dreamer and a momentum prediction baseline in the default setting, and substantially outperforms both once distractors or natural video backgrounds are introduced, while also training more efficiently by removing the pixel decoder entirely. Our approach is general and makes minimal assumptions beyond access to state-action sequences and future observations. These results suggest that contrastive, infomax-based objectives are a principled and promising direction for building world models that are robust to visual nuisance factors, a property particularly relevant for transferring model-based RL agents to the real world.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI