日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

世界モデルarXiv:2512.07437

KAN-Dreamer: 世界モデルにおける関数近似器としてのKolmogorov-Arnoldネットワークのベンチマーク

KAN-Dreamer: Benchmarking Kolmogorov-Arnold Networks as Function Approximators in World Models

シェア:XThreadsFacebookLINEはてブBluesky

DreamerV3のMLPをKAN/FastKANに置き換え、視覚・潜在予測・行動学習の各サブシステムで性能を比較した。報酬・継続予測器をFastKANに置換しても性能とサンプル効率が同等であることを示した。

詳しい要約

1. どんなもの?

- DreamerV3 の一部の MLP / convolutional コンポーネントを KAN および FastKAN 層に置き換えた KAN-Dreamer を提案する予備研究 - 対象は online model-based reinforcement learning (MBRL) の World Model - 検証は DeepMind Control Suite の walker_walk タスクで実施 - 評価軸は sample efficiency、training time、asymptotic performance - JAX ベースの World Model 内で効率よく動くよう fully vectorized 実装と簡略化した grid management を用意

2. 先行研究と比べてどこがすごい?

- 先行の DreamerV3 は online MBRL で高い sample efficiency を持つ state-of-the-art 手法 - KAN は MLP の代替として parameter efficiency と interpretability に優れる可能性がある - FastKAN は Radial Basis Functions (RBFs) により KAN の計算オーバーヘッドを軽減する変種 - 本研究はこれらを World Model に統合する初期検討であり、KAN 系を DreamerV3 の構成要素として比較する点が新しい - ただし本報告は preliminary study と位置づけられている

3. 技術・手法の肝は?

- DreamerV3 の特定の MLP および convolutional コンポーネントを KAN / FastKAN 層で置換 - 調査を Visual Perception、Latent Prediction、Behavior Learning の 3 サブシステムに分割 - JAX ベース World Model 向けに tailored な fully vectorized 実装を採用 - grid management を簡略化して効率を確保 - 特に adapted FastKAN を Reward および Continue predictors の drop-in replacement として適用

4. どうやって有効だと検証した?

- DeepMind Control Suite の walker_walk で empirical evaluation を実施 - sample efficiency、training time、asymptotic performance を分析 - adapted FastKAN を Reward / Continue predictors に置換した場合、元の MLP ベース構成と同等の性能を確認 - sample efficiency と training speed の両方で parity を維持したと報告 - 検証タスクは walker_walk のみで、他のタスクやサブシステム全体の結果は要旨からは不明

5. 議論はある?

- 本報告は KAN ベース World Model の今後の発展に向けた preliminary study と明記 - FastKAN の Reward / Continue predictors への適用では MLP と同等で、明確な優位性は示されていない - KAN の parameter efficiency や interpretability が World Model でどう活きるかは要旨からは不明 - Visual Perception や Latent Prediction への置換結果の詳細は要旨からは不明 - 計算オーバーヘッドやスケーラビリティに関する議論は要旨からは不明

6. 次に読むべき論文は?

- DreamerV3(本手法のベースとなる online MBRL アルゴリズム) - Kolmogorov-Arnold Networks (KAN) の原論文 - FastKAN(RBFs を用いた KAN 変種)の論文 - DeepMind Control Suite を用いた MBRL の関連研究 - JAX ベースの World Model 実装に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chenwei Shi, Xueyu Luan

分類: cs.LG, cs.AI, cs.CV, cs.NE, cs.RO

原文アブストラクト

DreamerV3 is a state-of-the-art online model-based reinforcement learning (MBRL) algorithm known for remarkable sample efficiency. Concurrently, Kolmogorov-Arnold Networks (KANs) have emerged as a promising alternative to Multi-Layer Perceptrons (MLPs), offering superior parameter efficiency and interpretability. To mitigate KANs' computational overhead, variants like FastKAN leverage Radial Basis Functions (RBFs) to accelerate inference. In this work, we investigate integrating KAN architectures into the DreamerV3 framework. We introduce KAN-Dreamer, replacing specific MLP and convolutional components of DreamerV3 with KAN and FastKAN layers. To ensure efficiency within the JAX-based World Model, we implement a tailored, fully vectorized version with simplified grid management. We structure our investigation into three subsystems: Visual Perception, Latent Prediction, and Behavior Learning. Empirical evaluations on the DeepMind Control Suite (walker_walk) analyze sample efficiency, training time, and asymptotic performance. Experimental results demonstrate that utilizing our adapted FastKAN as a drop-in replacement for the Reward and Continue predictors yields performance on par with the original MLP-based architecture, maintaining parity in both sample efficiency and training speed. This report serves as a preliminary study for future developments in KAN-based world models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI