日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ワールドモデルarXiv:2605.08578

Atariにおけるデータ効率的な汎用トランスフォーマーワールドモデルに対するスケールの影響の調査

Probing the Impact of Scale on Data-Efficient, Generalist Transformer World Models for Atari

シェア:XThreadsFacebookLINEはてブBluesky

Atari 100kベンチマークで、最小限のトランスフォーマーワールドモデルを用いて、モデル規模が環境ごとに異なるスケーリング挙動を示すことを明らかにし、統合トレーニングがスケーリングダイナミクスを安定化させることを実証した。

詳しい要約

1. どんなもの?

Atari 100k benchmark上で、minimalist transformer world model (WM) のscaleがdata-efficiencyとgeneralizationに与える影響を分析する研究。固定offline datasetとexpert policyを用い、model scaleとarchitecture mechanismを分離してscaling behaviorを調べる。

2. 先行研究と比べてどこがすごい?

既存研究はarchitecture mechanismとmodel scaleの独立した影響を混同しがち。本研究はminimalist transformer WMでscaleのみを系統的に変化させ、環境ごとのscaling regimeの違いやjoint trainingの安定化効果を明らかにする点が新しい。

3. 技術・手法の肝は?

presupposed expert policyから得た固定offline dataset上で、minimalist transformer world modelを訓練。個別タスクと26環境のunified settingでscaleを変化させ、interpolation thresholdやoverparameterized regime、classical regimeを分析。

4. どうやって有効だと検証した?

Atari 100k benchmarkで、個別環境および26環境統合設定でscaling挙動を評価。さらにsimulated dynamics内で学習したpolicyがmedian expert-random-normalized score 0.770を達成し、fidelity向上がdownstream controlに直結することを示す。

5. 議論はある?

環境によりscaling regimeが異なり、個別ではlarger WMがfidelityを悪化させる場合もあるが、joint trainingはscaling dynamicsを安定化し全環境でmonotonic gainsを保証。今後の進歩はarchitecture innovationだけでなくprecise scaling strategiesにもあると示唆。

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。関連手法としてworld models (WMs)、transformer-based world models、Atari 100k benchmark、offline reinforcement learning、scaling laws for neural networksが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jooyeon Kim

分類: cs.LG, cs.AI

原文アブストラクト

Developing generalist systems that retain human-like data efficiency is a central challenge. While world models (WMs) offer a promising path, existing research often conflates architectural mechanisms with the independent impact of model \emph{scale}. In this work, we use a minimalist transformer world model to analyze scaling behaviors on the Atari 100k benchmark, using fixed offline datasets derived from a presupposed expert policy. Our results reveal that environments fundamentally fall into distinct scaling regimes, even when constrained by identical offline data budgets and model capacities. For individual tasks, some environments naturally allow models to pass the interpolation threshold, yielding monotonic improvements in the overparameterized regime, while others remain trapped in the classical regime, where larger world models degrade fidelity. In the unified setting, i.e., a single transformer trained on a suite of 26 Atari environments, we uncover that joint training stabilizes scaling dynamics, ensuring monotonic gains across all environments, regardless of their distinct inherent scaling regimes. Finally, we demonstrate that improved fidelity translates directly to downstream control, with policies learned entirely within the simulated dynamics achieving a median expert-random-normalized score of 0.770. Our findings suggest that future progress lies as much in precise scaling strategies as in architectural innovation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI