日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ワールドモデルarXiv:2610.15267

LeHami: ワールドモデルのためのシンプレクティック潜在ダイナミクス

LeHami: Symplectic Latent Dynamics for World Models

シェア:XThreadsFacebookLINEはてブBluesky

JEPAの予測器をハミルトン力学に基づくシンプレクティックな流れに置き換え、長期ロールアウトでの潜在分布の収縮を防ぐワールドモデルを提案。

詳しい要約

1. どんなもの?

本論文は、JEPA(Joint-Embedding Predictive Architecture)の潜在空間ワールドモデルに、シンプレクティックなHamiltonian力学を導入したLeHami(Symplectic Hamiltonian JEPA)を提案する。 - 標準的な自己回帰予測器を、構造化された潜在状態(q, p)上の行動条件付きHamiltonian flowに置き換える。 - 時間積分には厳密にシンプレクティックなleapfrogステップを用いる。 - これにより、学習パラメータや行動列に依存せず、位相空間体積の保存、一様な収縮の排除、漸近安定固定点の排除、異なる潜在状態の融合の排除を保証する。 - 位置様表現の時間微分から運動量様成分を得て、予測と制御のための明示的な2次状態を提供する。

2. 先行研究と比べてどこがすごい?

従来のJEPAベースのワールドモデルは、潜在空間で直接学習するが、制約のない自己回帰予測器は長いロールアウトで潜在分布を収縮させる可能性がある。 - LeHamiは、予測器をシンプレクティックなHamiltonian flowに置き換えることで、位相空間体積を各ロールアウトステップで保存し、一様な収縮や漸近安定固定点、異なる潜在状態の融合を学習パラメータや行動列に依存せず排除する。 - これにより、推論時の幾何学的保証を提供し、表現正則化とは相補的なアプローチとなる。 - 保守的および駆動される視覚振り子環境で、制約のないJEPAワールドモデルと比較して長期的な速度予測を大幅に改善し、ベースラインが収縮する一方で潜在体積を一定に保つことを実証した。

3. 技術・手法の肝は?

技術の肝は、JEPAの予測器を行動条件付きHamiltonian flowに置き換え、シンプレクティックleapfrog積分を適用する点にある。 - 潜在状態を(q, p)の構造化された位相空間として扱い、qは学習された位置様表現、pはその時間微分から得られる運動量様成分とする。 - これにより、各ロールアウトステップで位相空間体積が保存され、一様な収縮や漸近安定固定点、異なる潜在状態の融合が排除される。 - 学習パラメータや行動列に依存しない推論時の幾何学的保証が得られる。 - また、未見のサブフレームステップサイズでの正確な積分や数値的時間反転もサポートする。

4. どうやって有効だと検証した?

保守的および駆動される視覚振り子環境で検証を行った。 - 制約のないJEPAワールドモデルと比較して、長期的な速度予測を大幅に改善することを示した。 - ベースラインが潜在体積を収縮させる一方で、LeHamiは経験的に一定の潜在体積を維持することを確認した。 - 学習されたflowが、未見のサブフレームステップサイズでの正確な積分と数値的時間反転をサポートすることも示した。

5. 議論はある?

本論文では、幾何学的構造が潜在ワールドモデルにおける表現正則化とは相補的な推論時の保証を提供できることを示している。 - 具体的な議論や限界については要旨からは不明。 - ただし、シンプレクティックなHamiltonian flowの導入により、一様な収縮や漸近安定固定点、異なる潜在状態の融合が排除されることが理論的に保証されている。

6. 次に読むべき論文は?

要旨で参照/比較されている研究として、JEPA(Joint-Embedding Predictive Architecture)ベースのワールドモデルが挙げられる。 - また、シンプレクティック積分やHamiltonian力学に基づく手法、leapfrogステップなどの数値積分法が関連する。 - 同分野の定番として、モデルベース強化学習におけるワールドモデル(例:Dreamer、PlaNet)や、物理構造を考慮したニューラルネットワーク(Hamiltonian Neural Networksなど)が次に読むべき論文として考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Romina Yalovetzky, Randall Balestriero, Yann LeCun

分類: cs.LG, cs.AI, cs.RO

原文アブストラクト

Joint-embedding predictive architectures (JEPAs) learn world models directly in latent space, but unconstrained autoregressive predictors may contract the latent distribution over long rollouts. We introduce Symplectic Hamiltonian JEPA (LeHami), which replaces the standard predictor with an action-conditioned Hamiltonian flow over a structured latent state (q, p) integrated using an exactly symplectic leapfrog step. This construction preserves phase-space volume at every rollout step and rules out uniform contraction, asymptotically stable fixed points, and merging of distinct latent states, independently of the learned parameters or action sequence. We obtain the momentum-like component from temporal derivatives of the learned position-like representation, providing an explicit second-order state for prediction and control. On conservative and actuated visual pendulum environments, LeHami substantially improves long-horizon velocity prediction over an unconstrained JEPA world model and empirically maintains constant latent volume where the baseline contracts. The learned flow also supports accurate integration at unseen sub-frame step sizes and numerical time reversal. These results show how geometric structure can provide inference-time guarantees that are complementary to representation regularization in latent world models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI