日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2605.25313

UWM-JEPA: 信念空間で想像する予測的世界モデル

UWM-JEPA: Predictive World Models That Imagine in Belief Space

シェア:XThreadsFacebookLINEはてブBluesky

部分観測環境向けに、密度行列潜在変数とユニタリ予測器を持つJEPA世界モデルを提案し、隠れ状態の不確実性を保持したままロールアウトできることを示した。

詳しい要約

1. どんなもの?

- 部分的観測環境のための世界モデル - 複数の隠れた未来を想像し、反事実的行動下で操作する必要 - JEPAの潜在空間での予測 - ベクトル潜在は信念を内部構造として持たない - UWM-JEPAを提案 - 密度行列潜在をjoint system-environment空間に持つ - 学習されたunitary predictor - ロールアウト中にjoint-state spectrumを正確に保存 - 予測器が不確実性を散逸させない

2. 先行研究と比べてどこがすごい?

- 従来のJEPAはベクトル潜在で信念を運べない - UWM-JEPAは密度行列潜在とunitary predictorを導入 - パラメータ一致のLSTM-JEPAと比較 - 反事実的ターゲット目的と行動ヘッドで訓練 - 隠れ速度指標タスクでUWM-JEPAは0.77精度 - LSTM-JEPAは多数クラス精度0.53に崩壊 - 盲ロールアウトでUWM-JEPAはprobe R^2の低下が10点未満 - ベクトル潜在ベースラインは41点と68点低下 - 両者はheld-out context probeで同等 - 分離は予測器にあり、エンコーダではない

3. 技術・手法の肝は?

- 密度行列潜在をjoint system-environment空間に持つJEPA - 学習されたunitary predictor - ロールアウト中にjoint-state spectrumを正確に保存 - 予測器が不確実性を散逸させない - 反事実的ターゲットで訓練 - 行動感度には反事実的ターゲットが必要 - teacher-forcedターゲットでは不十分 - この知見はunitaryパラメータ化を超えて適用可能

4. どうやって有効だと検証した?

- 隠れ速度指標タスク - 与えられた行動列で5ステップ先読み - ターゲット観測をマスク - UWM-JEPAは0.77精度 - 行動を摂動すると単調に劣化 - パラメータ一致LSTM-JEPAは0.53に崩壊 - 全ての行動条件で多数クラス精度 - 盲ロールアウトでprobe R^2を評価 - UWM-JEPAは短horizonで10点未満の低下 - ベクトル潜在ベースラインは41点と68点低下 - held-out context probeでは両者同等

5. 議論はある?

- 部分的観測下で想像するには潜在幾何と予測器力学が重要 - 凍結されたcontext-encoding能力だけではない - 行動感度には反事実的ターゲットが必要 - teacher-forcedターゲットでは不十分 - この発見はunitaryパラメータ化を超えて適用可能 - 予測器とエンコーダの分離を特定 - 盲ロールアウトでの差は予測器に起因

6. 次に読むべき論文は?

- LSTM-JEPA(比較対象) - JEPA(Joint Embedding Predictive Architecture) - ベクトル潜在ベースライン - 反事実的ターゲット目的 - unitary predictor - 密度行列潜在

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Santosh Kumar Radha, Oktay Goktas

分類: cs.LG, cs.AI, cs.RO, stat.ML

原文アブストラクト

World models for partially observed environments must imagine multiple compatible hidden futures and steer between them under counterfactual actions. Joint Embedding Predictive Architectures (JEPAs) do this in latent space, but a vector-valued latent has no internal structure for carrying the belief over hidden continuations through blind rollout. We introduce the Unitary World Model JEPA (UWM-JEPA), a JEPA world model with a density-matrix latent on a joint system-environment space and a learned unitary predictor. The construction preserves the joint-state spectrum exactly during rollout, so the predictor itself cannot dissipate the represented uncertainty. On a hidden-velocity indicator task requiring five-step forward simulation under a given action sequence with the target observation masked, UWM-JEPA reaches 0.77 accuracy and degrades monotonically as actions are perturbed; a parameter-matched LSTM-JEPA trained under the same counterfactual-target objective and action head collapses to majority-class accuracy (0.53) under every action condition. Under blind rollout, UWM-JEPA loses fewer than ten points of probe R^2 at short horizons while vector-latent baselines lose forty-one and sixty-eight; both nevertheless tie on a held-out context probe, locating the separation in the predictor rather than the encoder. Action sensitivity itself requires training against counterfactual rather than teacher-forced targets, a finding that applies beyond the unitary parameterisation. For JEPA world models to imagine under partial observability, latent geometry and predictor dynamics matter, not frozen context-encoding capacity alone.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3パナソニックHDなど、触覚に即応する両手作業AI「T-Rex」を共同開発研究・技術
  4. 4SoftBank主導、Agile Robotsが5億ドル調達 NVIDIAと日立も参加資金調達
  5. 5パナソニックHD、「現場起点のPhysical AI」の研究開発加速を発表研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI