日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2605.28865

言語的監督なしの物理的相互作用による世界モデルにおける創発的意味表現

Emergent Semantic Representations in World Models through Physical Interaction without Linguistic Supervision

シェア:XThreadsFacebookLINEはてブBluesky

言語を使わずに身体的な探索だけで学習した世界モデルの潜在空間が、物理世界の幾何学的構造を反映した意味的構造を自発的に獲得することを示した論文。

詳しい要約

1. どんなもの?

物理的探索のみから学習する world model が、言語的 supervision なしにどのような表現を獲得するかを調べた研究。VAE-based world model を random embodied exploration で訓練すると、latent space に物理的幾何を反映する spatial semantic structure が創発することを示す。direction accuracy は 0.677±0.029(random encoder は 0.547)、position RSA は 0.192±0.047(random encoder は 0.029、6.6倍改善)。訓練が CNN inductive bias を超えた構造組織を誘導することを示唆。

2. 先行研究と比べてどこがすごい?

先行研究と比べて、randomly initialized encoder との比較で direction accuracy と position RSA の改善を示し、訓練が CNN inductive bias を超えた genuine structural organization を誘導することを主張。また 20 temporal checkpoints で prediction performance と semantic alignment が共改善(Spearman r=-0.61, p=0.004)することを示し、shared-driver account と一致すると述べる。

3. 技術・手法の肝は?

VAE-based world model を random embodied exploration で訓練。latent space の spatial semantic structure を direction accuracy と position RSA で評価。さらに double knockout として standard KL regularization(beta=0.1)を適用し、encoder を幾何構造から遠ざけ、prediction performance と semantic alignment が同時に near-chance まで崩壊することを確認。beta を 0.001 に下げると幾何アクセスが回復し、両能力が共に回復。

4. どうやって有効だと検証した?

direction accuracy と position RSA の指標で random encoder と比較。20 temporal checkpoints で prediction performance と semantic alignment の共改善を Spearman 相関で検証。double knockout 実験で beta=0.1 時に step 50,000 で両能力が near-chance に崩壊し、beta=0.001 で回復することを確認。

5. 議論はある?

物理的世界の幾何が world model 表現の organizing principle であると結論。semantically grounded embodied agents の設計への直接的な示唆があると述べる。ただし、他の要因や限界については要旨からは不明。

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。関連手法として VAE-based world model、random embodied exploration、KL regularization、CNN inductive bias が挙げられる。同分野の定番として world models、embodied AI、semantic grounding の研究が次に読むべき候補。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiayi Fang

分類: cs.LG, cs.AI

原文アブストラクト

What does a world model learn from physical exploration, without any linguistic supervision? We argue the answer is organized by a single principle: the geometric structure of the physical world. Training a VAE-based world model on random embodied exploration, we find that its latent space develops spatial semantic structure that mirrors physical geometry -- direction accuracy 0.677+-0.029 versus 0.547 for a randomly initialized encoder, and position RSA 0.192+-0.047 versus 0.029 for random encoders (6.6x improvement), showing that training induces genuine structural organization beyond CNN inductive bias. Across 20 temporal checkpoints, prediction performance and semantic alignment co-improve (Spearman r=-0.61, p=0.004), consistent with the shared-driver account. We confirm this through a double knockout: standard KL regularization (beta=0.1) forces the encoder away from geometric structure, and both prediction performance and semantic alignment collapse simultaneously to near-chance by step 50,000 -- exactly as the shared-driver account predicts. Reducing beta to 0.001 restores geometric access and recovers both capabilities together. These findings establish physical world geometry as the organizing principle of world model representations, with direct implications for the design of semantically grounded embodied agents.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI