日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2507.12496

FOUNDER: 世界モデルに基盤モデルを接地させたオープンエンド身体性意思決定

FOUNDER: Grounding Foundation Models in World Models for Open-Ended Embodied Decision Making

シェア:XThreadsFacebookLINEはてブBluesky

基盤モデルの知識と世界モデルのダイナミクスを統合し、報酬なしでテキストや動画で指定された多様なタスクを身体性環境で解くフレームワークを提案。

詳しい要約

1. どんなもの?

- FOUNDERは、Foundation Models (FMs) と World Models (WMs) を統合するフレームワーク - 目的: 報酬なし(reward-free)でembodied環境のopen-endedタスクを解く - FMの汎化知識とWMの動的モデリング能力を組み合わせる - 学習するのはFM表現をWM状態空間にgroundingするmapping関数 - 外部観測からworld simulator内のagentの物理状態を推論 - このmappingにより、goal-conditioned policyをimagination経由でbehavior learningする - マップされたタスクをgoal stateとして扱う - 予測されたgoal stateまでのtemporal distanceを報酬信号として利用

2. 先行研究と比べてどこがすごい?

- FMsとWMsの強みを異なるレベルで補完的に統合する点が特徴 - FM: タスク汎化 - WM: 動的モデリング - 報酬なしでopen-endedタスクを解く枠組みを提示 - 複雑な観測やdomain gapがある状況で、先行手法が苦戦する中で優位 - textやvideoで指定されたタスクの深い意味論(semantics)を捉える点で優れる - 学習した報酬関数がground-truth rewardと一致することを実証的に確認 - 具体的な比較対象の手法名は要旨からは不明

3. 技術・手法の肝は?

- FM表現をWM状態空間へ写像するmapping関数を学習 - 外部観測からworld simulator内の物理状態を推論 - このmappingを介し、imagination中にgoal-conditioned policyを学習 - マップされたタスクがgoal stateとなる - 報酬設計: goal stateまでの予測temporal distanceを報酬信号として使用 - reward-free設定でopen-endedタスクを解く構成 - 詳細なネットワーク構成や学習アルゴリズムは要旨からは不明

4. どうやって有効だと検証した?

- 複数のmulti-task offline visual controlベンチマークで評価 - 優れた性能を示したと報告 - textやvideoで指定されたタスクの深いsemanticsの捕捉を検証 - 複雑な観測やdomain gapのシナリオを含む - 学習した報酬関数とground-truth rewardの一致性を実証的に検証 - 具体的なベンチマーク名・指標・ベースラインは要旨からは不明

5. 議論はある?

- 報酬関数がground-truth rewardと整合する点を議論 - 複雑観測やdomain gapでの有効性を主張 - 限界や失敗ケース、計算コスト、スケーラビリティに関する議論は要旨からは不明 - FMとWMの統合における一般性の範囲も要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている具体的な先行研究名は明示されていない - 関連手法として以下が想定される(一般名) - World Models - Foundation Models - goal-conditioned reinforcement learning - offline reinforcement learning - reward-free reinforcement learning - temporal distance / goal-conditioned reward shaping - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yucen Wang, Rui Yu, Shenghua Wan, Le Gan, De-Chuan Zhan

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Foundation Models (FMs) and World Models (WMs) offer complementary strengths in task generalization at different levels. In this work, we propose FOUNDER, a framework that integrates the generalizable knowledge embedded in FMs with the dynamic modeling capabilities of WMs to enable open-ended task solving in embodied environments in a reward-free manner. We learn a mapping function that grounds FM representations in the WM state space, effectively inferring the agent's physical states in the world simulator from external observations. This mapping enables the learning of a goal-conditioned policy through imagination during behavior learning, with the mapped task serving as the goal state. Our method leverages the predicted temporal distance to the goal state as an informative reward signal. FOUNDER demonstrates superior performance on various multi-task offline visual control benchmarks, excelling in capturing the deep-level semantics of tasks specified by text or videos, particularly in scenarios involving complex observations or domain gaps where prior methods struggle. The consistency of our learned reward function with the ground-truth reward is also empirically validated. Our project website is https://sites.google.com/view/founder-rl.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI