日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ワールドモデルarXiv:2512.10016

ラベルなし軌道を活用する潜在行動ワールドモデル

Latent Action World Models for Control with Unlabeled Trajectories

シェア:XThreadsFacebookLINEはてブBluesky

行動ラベル付きデータとラベルなしデータを共通の潜在行動表現で統合し、オフライン強化学習により効率的に制御方策を学習する手法を提案。

詳しい要約

1. どんなもの?

- 本研究は、heterogeneous data(action-conditioned trajectoriesとaction-free data)から学習するworld modelを提案する。 - latent action representationを共有することで、action-conditioned dataとaction-free dataを統合的に利用する。 - これにより、大規模なunlabeled trajectoriesと少量のaction-labeled dataで学習可能となる。 - 学習したlatent-action world modelを用いてoffline reinforcement learning (RL)によりlatent-action policyを獲得する。 - 従来別々だったoffline RLとaction-free trainingを橋渡しする。

2. 先行研究と比べてどこがすごい?

- 標準的なworld modelはaction-conditioned trajectoriesに依存し、action labelsが少ないと効果が限定的である。 - 本研究はaction-free dataも活用し、action-labeled samplesを約1桁少なく抑えつつ、DeepMind Control Suiteで強い性能を達成する。 - 従来のoffline RLはaction-conditioned dataを前提とし、action-free trainingはRLと組み合わせられることが稀であった。 - 本研究はこれらを統合し、より効率的なworld model学習を可能にする点が優れている。

3. 技術・手法の肝は?

- 共有されたlatent action representationを学習するlatent-action world modelを導入する。 - このlatent spaceは、観測されたcontrol signalsとpassive observationsから推論されたactionsを整合させる。 - 単一のdynamics modelが、大規模なunlabeled trajectoriesと少量のaction-labeled trajectoriesの両方で訓練される。 - 学習したworld modelを用いてoffline RLによりlatent-action policyを学習する。

4. どうやって有効だと検証した?

- DeepMind Control Suite上で評価を実施。 - 純粋にaction-conditionedなbaselinesと比較して、約1桁少ないaction-labeled samplesで強い性能を達成した。 - これにより、latent actionsがpassive dataとinteractive dataの両方で訓練を可能にし、world modelの学習効率を高めることが示された。

5. 議論はある?

- 要旨からは、具体的な議論や限界についての記述は不明。 - ただし、latent actionsがworld modelの効率を向上させることを示唆している。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究:標準的なworld models、offline reinforcement learning (RL)、action-free training。 - 関連手法:DeepMind Control Suiteを用いた研究。 - 同分野の定番:Dreamer、PlaNet、CURL、DrQなどが考えられるが、要旨では明示されていない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Marvin Alles, Xingyuan Zhang, Patrick van der Smagt, Philip Becker-Ehmck

分類: cs.LG

原文アブストラクト

Inspired by how humans combine direct interaction with action-free experience (e.g., videos), we study world models that learn from heterogeneous data. Standard world models typically rely on action-conditioned trajectories, which limits effectiveness when action labels are scarce. We introduce a family of latent-action world models that jointly use action-conditioned and action-free data by learning a shared latent action representation. This latent space aligns observed control signals with actions inferred from passive observations, enabling a single dynamics model to train on large-scale unlabeled trajectories while requiring only a small set of action-labeled ones. We use the latent-action world model to learn a latent-action policy through offline reinforcement learning (RL), thereby bridging two traditionally separate domains: offline RL, which typically relies on action-conditioned data, and action-free training, which is rarely used with subsequent RL. On the DeepMind Control Suite, our approach achieves strong performance while using about an order of magnitude fewer action-labeled samples than purely action-conditioned baselines. These results show that latent actions enable training on both passive and interactive data, which makes world models learn more efficiently.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI