日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2505.15589

世界モデルを参照軌道として用いる高速運動適応

World Models as Reference Trajectories for Rapid Motor Adaptation

シェア:XThreadsFacebookLINEはてブBluesky

世界モデルの予測を暗黙の参照軌道として使う二重制御フレームワークを提案し、強化学習による長期報酬最大化と高速な潜在制御による運動実行を分離することで、動特性変化に素早く適応する手法を実現した。

詳しい要約

1. どんなもの?

- 実世界環境で学習済み制御ポリシーを展開する際の動力学変化への適応問題を扱う研究 - Reflexive World Models (RWM) と呼ぶ dual control framework を提案 - world model の予測を implicit reference trajectories として rapid adaptation に利用 - 制御問題を強化学習による長期的報酬最大化と rapid latent control による robust motor execution に分離 - 高次元連続制御タスクでの動力学変動下の性能維持を狙う

2. 先行研究と比べてどこがすごい?

- model-based RL ベースラインと比較して適応が大幅に高速 - オンライン計算コストが低い - near-optimal performance を維持 - 動力学が予期せず変化すると再学習まで性能が劣化する従来課題に対処 - 柔軟な policy learning と rapid error correction の利点を統合する点が特徴

3. 技術・手法の肝は?

- world model の予測を implicit reference trajectories として用いる dual control framework - 長期的報酬最大化は reinforcement learning が担当 - robust motor execution は rapid latent control が担当 - 二重アーキテクチャで適応速度と計算コストの両立を図る - 詳細なアルゴリズム構成は要旨からは不明

4. どうやって有効だと検証した?

- 高次元連続制御タスクで評価 - 動力学が変動する条件で性能を検証 - model-based RL ベースラインとの比較で適応速度とオンライン計算コストを評価 - near-optimal performance の維持を確認 - 具体的なタスク名・データセット名は要旨からは不明

5. 議論はある?

- 実世界展開時の動力学変化への対処という実用課題に動機付け - 適応速度と計算コストのトレードオフを議論 - 柔軟な学習と迅速な誤り訂正の統合の原理的利点を主張 - 限界や失敗事例、詳細な理論解析は要旨からは不明

6. 次に読むべき論文は?

- model-based RL ベースライン(比較対象として言及) - world model を用いた model-based reinforcement learning の代表的手法 - latent control / latent dynamics を用いた適応手法 - rapid motor adaptation 関連研究 - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Carlos Stein Brito, Daniel McNamee

分類: cs.LG, cs.AI, cs.RO, cs.SY, eess.SY

原文アブストラクト

Deploying learned control policies in real-world environments poses a fundamental challenge. When system dynamics change unexpectedly, performance degrades until models are retrained on new data. We introduce Reflexive World Models (RWM), a dual control framework that uses world model predictions as implicit reference trajectories for rapid adaptation. Our method separates the control problem into long-term reward maximization through reinforcement learning and robust motor execution through rapid latent control. This dual architecture achieves significantly faster adaptation with low online computational cost compared to model-based RL baselines, while maintaining near-optimal performance. The approach combines the benefits of flexible policy learning through reinforcement learning with rapid error correction capabilities, providing a principled approach to maintaining performance in high-dimensional continuous control tasks under varying dynamics.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  4. 4GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  5. 5Google DeepMind、ロボット向けAIを発表新製品・発表

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI