日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

オフライン強化学習arXiv:2611.07245

MAC-v2: ピクセル入力からの長期的モデルベース価値展開

MAC-v2: Long-horizon model-based value expansion from pixels

シェア:XThreadsFacebookLINEはてブBluesky

再構成不要の潜在ワールドモデルとアクションチャンキングを組み合わせ、ピクセルベースのオフライン強化学習で長期的なモデルベース価値展開を実現した手法MAC-v2を提案。

詳しい要約

1. どんなもの?

- pixel-based offline RL において long-horizon model-based value expansion を有効に機能させるフレームワーク MAC-v2 を提案する研究。 - reconstruction-free な latent world model と action chunking を組み合わせ、imagined trajectory 上での value expansion を可能にする。 - visual OGBench, MMBench2, Robomimic, LIBERO-10 など多様な visual benchmark で評価。

2. 先行研究と比べてどこがすごい?

- state-based 環境と異なり pixel 入力では representation と dynamics の両方を学習する必要があり、誤差が再帰的に蓄積しやすいという課題に対処。 - model-free および model-based の offline RL baselines に対して強い性能を達成。 - 従来の reconstruction を伴う世界モデルではなく reconstruction-free な latent world model を用いる点が特徴。

3. 技術・手法の肝は?

- reconstruction-free な latent world model を action chunking と共に学習。 - 表現を prediction と control の目的関数から学習することで、dynamics prediction を妨げる control-irrelevant な視覚詳細のエンコードを回避。 - action chunking により value expansion に必要な再帰的 model prediction の回数を削減し、prediction error を緩和。

4. どうやって有効だと検証した?

- visual OGBench, MMBench2, Robomimic, LIBERO-10 を含む多様な visual benchmarks で評価。 - model-free および model-based offline RL baselines と比較し強い性能を確認。 - 分析により long-horizon model-based value expansion が性能に重要であること、action chunking と latent learning objectives の両方が reliable な long-horizon latent imagination に不可欠であることを示す。

5. 議論はある?

- long-horizon model-based value expansion の重要性を分析で示す。 - action chunking と latent learning objectives が long-horizon latent imagination の信頼性に必須であると議論。 - 具体的な限界や失敗事例については要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている model-free offline RL および model-based offline RL の baselines。 - pixel-based offline RL における world model 関連手法(具体的名称は要旨からは不明)。 - visual OGBench, MMBench2, Robomimic, LIBERO-10 を用いた関連研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kwanyoung Park, Sergey Levine

分類: cs.LG, cs.AI

原文アブストラクト

We study whether \emph{long-horizon model-based value expansion} can serve as an effective framework in pixel-based offline reinforcement learning (RL). Long-horizon model-based value expansion from pixels is substantially harder than state-based environments, as the agent must learn both the representation and its dynamics, and errors from either can accumulate recursively over imagined trajectories. We introduce MAC-v2, which enables long-horizon model-based expansion from pixels by training a reconstruction-free latent world model with action chunking. By learning representations from prediction and control objectives, MAC-v2 does not need to encode control-irrelevant visual details that can hinder the dynamics prediction. Action chunking further mitigates the prediction error by reducing the number of recursive model predictions required for value expansion. Across diverse visual benchmarks including visual OGBench, MMBench2, Robomimic, and LIBERO-10, MAC-v2 achieves strong performance against model-free and model-based offline RL baselines. Our analyses show that long-horizon model-based value expansion is critical for the performance of MAC-v2, and that both action chunking and latent learning objectives are essential for reliable long-horizon latent imagination.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI