因果関係を考慮した強化学習のためのオブジェクト中心の世界モデル
Object-Centric World Models for Causality-Aware Reinforcement Learning
観測をオブジェクト単位のトークンに分解し、Transformerベースの世界モデルと因果関係を考慮した方策・価値ネットワークを統合したSTICAを提案。物体が多い環境での強化学習において、サンプル効率と最終性能で既存手法を上回ることを示した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Yosuke Nishimoto, Takashi Matsubara
分類: cs.LG, cs.AI
原文アブストラクト
World models have been developed to support sample-efficient deep reinforcement learning agents. However, it remains challenging for world models to accurately replicate environments that are high-dimensional, non-stationary, and composed of multiple objects with rich interactions since most world models learn holistic representations of all environmental components. By contrast, humans perceive the environment by decomposing it into discrete objects, facilitating efficient decision-making. Motivated by this insight, we propose \emph{Slot Transformer Imagination with CAusality-aware reinforcement learning} (STICA), a unified framework in which object-centric Transformers serve as the world model and causality-aware policy and value networks. STICA represents each observation as a set of object-centric tokens, together with tokens for the agent action and the resulting reward, enabling the world model to predict token-level dynamics and interactions. The policy and value networks then estimate token-level cause--effect relations and use them in the attention layers, yielding causality-guided decision-making. Experiments on object-rich benchmarks demonstrate that STICA consistently outperforms state-of-the-art agents in both sample efficiency and final performance.
関連論文
- 世界モデルは政策ランキングの正確性に必ずしも正しさを要さない:相対的限界と監査の限界強化学習/世界モデル
- DiffDreamer: 世界モデルと微分可能シミュレーションを結合した俊敏なクアッドロータ制御強化学習/世界モデル
- CyberWorld: 自律型サイバー防御のためのサンプル効率の高い世界モデル強化学習/世界モデル
- 効率的な一次強化学習のための局所・大域世界モデルの結合強化学習/世界モデル
- 注目を学ぶ:部分観測強化学習における構造的注意機構による情報履歴の優先強化学習/世界モデル
- DreamerV3-XP:不確実性推定による探索の最適化強化学習/世界モデル
