日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2603.01748

正則化による離散世界モデル学習

Discrete World Models via Regularization

シェア:XThreadsFacebookLINEはてブBluesky

再構成や対比学習を使わず、正則化のみでブール潜在表現の世界モデルを教師なし学習する手法を提案した。

詳しい要約

1. どんなもの?

- 環境の状態と動態をコンパクトな潜在空間で捉えるWorld Modelsの一種。 - Boolean状態表現を用いることで、探索ヒューリスティクスや記号的推論・計画に有用。 - 既存手法は再構成や対照学習、報酬信号に依存するが、DWMRは再構成不要・対照学習不要の教師なしBoolean World Model学習法。 - 新たなWorld Modeling損失と正則化を組み合わせ、潜在予測と表現ビットのエントロピー・独立性を最大化。 - 離散ロールアウトに対する頑健性を高める訓練スキームも導入。

2. 先行研究と比べてどこがすごい?

- 既存手法はdecoder-based reconstruction、contrastive learning、reward signalsに依存していた。 - DWMRは再構成も対照学習も不要で、教師なしでBoolean World Modelを学習可能。 - 組合せ構造を持つ2つのベンチマークで、再構成ベースの代替手法よりも正確な表現と遷移を学習。 - 補助的な再構成デコーダと組み合わせることでさらなる性能向上が得られる。

3. 技術・手法の肝は?

- 新たなWorld Modeling損失を導入し、潜在予測と特殊な正則化を結合。 - 正則化はvariance、correlation、coskewnessペナルティを通じて表現ビットのエントロピーと独立性を最大化。 - 同時に、スパースな行動変化に対するlocality priorを強制。 - 離散ロールアウトに対する頑健性を改善する新しい訓練スキームを導入。 - 再構成や対照学習に依存しない教師なし学習を実現。

4. どうやって有効だと検証した?

- 組合せ構造を持つ2つのベンチマークで実験。 - DWMRが再構成ベースの代替手法よりも正確な表現と遷移を学習することを示した。 - 補助的な再構成デコーダと組み合わせることで追加の性能向上が得られることを確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:decoder-based reconstruction、contrastive learning、reward signalsを用いる既存のWorld Models。 - 関連手法:Boolean state representations、search heuristics、symbolic reasoning and planning。 - 同分野の定番:World Models、Dreamer、PlaNetなど。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Davide Bizzaro, Luciano Serafini

分類: cs.LG, cs.AI

原文アブストラクト

World models aim to capture the states and dynamics of an environment in a compact latent space. Moreover, using Boolean state representations is particularly useful for search heuristics and symbolic reasoning and planning. Existing approaches keep latents informative via decoder-based reconstruction, or instead via contrastive or reward signals. In this work, we introduce Discrete World Models via Regularization (DWMR): a reconstruction-free and contrastive-free method for unsupervised Boolean world-model learning. In particular, we introduce a novel world-modeling loss that couples latent prediction with specialized regularizers. Such regularizers maximize the entropy and independence of the representation bits through variance, correlation, and coskewness penalties, while simultaneously enforcing a locality prior for sparse action changes. To enable effective optimization, we also introduce a novel training scheme improving robustness to discrete roll-outs. Experiments on two benchmarks with underlying combinatorial structure show that DWMR learns more accurate representations and transitions than reconstruction-based alternatives. Finally, DWMR can also be paired with an auxiliary reconstruction decoder, and this combination yields additional gains.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI