日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/世界モデルarXiv:2511.14262

因果関係を考慮した強化学習のためのオブジェクト中心の世界モデル

Object-Centric World Models for Causality-Aware Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

観測をオブジェクト単位のトークンに分解し、Transformerベースの世界モデルと因果関係を考慮した方策・価値ネットワークを統合したSTICAを提案。物体が多い環境での強化学習において、サンプル効率と最終性能で既存手法を上回ることを示した。

詳しい要約

1. どんなもの?

- 高次元・非定常・複数物体の相互作用を含む環境のための world model と強化学習フレームワーク - 名称は STICA (Slot Transformer Imagination with CAusality-aware reinforcement learning) - 観測を object-centric tokens の集合として表現し、agent action と reward の tokens も加える - object-centric Transformers を world model 兼 causality-aware な policy/value networks として統合 - 物体分解に基づく人間の知覚に着想を得た統一フレームワーク

2. 先行研究と比べてどこがすごい?

- 多くの既存 world model は環境全体を holistic representations として学習するため、複数物体の rich interactions を正確に再現しにくい - STICA は観測を object-centric tokens に分解し、token-level dynamics と interactions を予測 - policy/value networks が token-level cause–effect relations を推定し attention layers で利用 - object-rich benchmarks で state-of-the-art agents に対し sample efficiency と final performance の両方で一貫して優位と報告

3. 技術・手法の肝は?

- 観測を object-centric tokens の集合として表現 - agent action と resulting reward の tokens も系列に含め、world model が token-level dynamics と interactions を予測 - object-centric Transformers を world model として使用 - causality-aware な policy と value networks が token-level cause–effect relations を推定 - 推定した因果関係を attention layers に組み込み、causality-guided decision-making を実現

4. どうやって有効だと検証した?

- object-rich benchmarks 上で実験 - STICA を state-of-the-art agents と比較 - sample efficiency と final performance の両指標で一貫した優位性を確認したと報告 - 具体的な benchmark 名・baseline 名・数値は要旨からは不明

5. 議論はある?

- 要旨からは不明 - 想定される論点として、object-centric tokens の抽出品質、token-level cause–effect 推定の妥当性、多物体環境でのスケーラビリティが考えられるが、要旨に明記なし

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない - 関連手法として Slot Attention 系の object-centric representation learning、Transformer ベースの world models、causality-aware reinforcement learning の代表的論文を次に読む候補として挙げる

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yosuke Nishimoto, Takashi Matsubara

分類: cs.LG, cs.AI

原文アブストラクト

World models have been developed to support sample-efficient deep reinforcement learning agents. However, it remains challenging for world models to accurately replicate environments that are high-dimensional, non-stationary, and composed of multiple objects with rich interactions since most world models learn holistic representations of all environmental components. By contrast, humans perceive the environment by decomposing it into discrete objects, facilitating efficient decision-making. Motivated by this insight, we propose \emph{Slot Transformer Imagination with CAusality-aware reinforcement learning} (STICA), a unified framework in which object-centric Transformers serve as the world model and causality-aware policy and value networks. STICA represents each observation as a set of object-centric tokens, together with tokens for the agent action and the resulting reward, enabling the world model to predict token-level dynamics and interactions. The policy and value networks then estimate token-level cause--effect relations and use them in the attention layers, yielding causality-guided decision-making. Experiments on object-rich benchmarks demonstrate that STICA consistently outperforms state-of-the-art agents in both sample efficiency and final performance.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI