日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.11509

経験を振り返り教訓を磨く:身体性エージェントのためのシンプルな記憶進化

Review the Episodes, Refine the Lessons: Simple Memory Evolution for Embodied Agents

シェア:XThreadsFacebookLINEはてブBluesky

MLLMベースの身体性エージェントが自己記述のテキスト記憶を保持・洗練することで、重み更新なしに性能を大幅向上できることを示した研究。

詳しい要約

1. どんなもの?

- フロンティア MLLM を用いた embodied agent 向けの手法 SimplEvo を提案する研究 - MLLM が自らの実行経験を self-written text memory として保持し、直接制御下でどこまで改善できるかを探る - weight updates・post-trained policies・privileged information を必要としない - 2種類のメモリを扱う - coordinate-free task memory: 単一の demonstration から一度だけ書く - bounded working memory: training episodes 上でのみ構築し、各 episode 後に procedure・completion・recovery の lessons で洗練 - 両メモリは test time には固定

2. 先行研究と比べてどこがすごい?

- 先行研究は MLLM 周辺の harness engineering(post-trained policies や recursive self-improvement loops など)に注力 - それらの追加が MLLM の native capability を超えるかは未解明だった点を問題視 - SimplEvo は追加の学習や特権情報なしに、text memory のみで MLLM の能力を引き出す点が特徴 - 過去の visual frames も保存する memory と比較し、text memory のみで同等 SR をより少ない tokens で達成 - working memory が GPT-6-Astra から weaker MLLMs へそのまま転用でき、適応なしで性能改善する点も示す

3. 技術・手法の肝は?

- MLLM 自身にメモリを書かせる self-written text memory 機構 - task memory は単一 demonstration から coordinate-free に一度だけ生成 - working memory は training episodes のみで bounded に構築し、episode ごとに lessons(procedure・completion・recovery)で更新 - 重み更新・post-training・特権情報を一切使わない direct control 設定 - 厳格な train-test protocol を採用し、test 時は両メモリを固定

4. どうやって有効だと検証した?

- EBench 上で GPT-6-Astra の direct control 下の success rate (SR) を 46.7% から 81.7% へ向上 - RoboDojo leaderboard で 69.63% SR、score 75.32 を記録し首位 - visual frames も保存する memory との比較で、text memory のみでも同等 SR かつ fewer tokens - メモリ固定のまま unseen layouts や randomized scene configurations へ汎化することを確認 - GPT-6-Astra が書いた working memory を weaker MLLMs がそのまま再利用し性能改善できることを確認

5. 議論はある?

- MLLM の native capability に対する harness 追加の寄与を問う立場を提示 - text memory のみで visual frames 保存型と同等 SR を fewer tokens で達成する点の含意 - working memory の cross-model 転用可能性(weaker MLLMs への再利用) - 具体的な限界や失敗事例、メモリ設計の詳細な議論は要旨からは不明

6. 次に読むべき論文は?

- 要旨で比較対象として言及される post-trained policies や recursive self-improvement loops を用いる harness engineering 研究 - 過去の visual frames を保存する memory 手法(visual memory 系) - 評価基盤である EBench および RoboDojo leaderboard 関連の研究 - 基盤モデルである GPT-6-Astra および frontier MLLMs の embodied agent 応用研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yifei Yao, Yude Zou, Xing Gao, Guanbo Jiao, Yukai Wang, Jianming Ma, Weinan Zhang, Chunhua Shen

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Recent studies of embodied agents based on frontier multimodal large language models (MLLMs) develop harness engineering around the MLLM, such as harnesses with post-trained policies and recursive self-improvement loops. Yet whether these additions exceed the native capability of the MLLM remains unexplored. We introduce SimplEvo to explore how far an MLLM can improve under direct control when it retains its execution experience in self-written text memories. It requires no weight updates, post-trained policies, or privileged information. The MLLM writes a coordinate-free task memory once from a single demonstration. Under a strict train-test protocol, it then creates a bounded working memory on training episodes only and refines it after each episode with lessons on procedure, completion, and recovery. Both memories stay fixed at test time. On EBench, SimplEvo lifts the success rate (SR) of GPT-6-Astra under direct control from 46.7% to 81.7%, and tops the RoboDojo leaderboard with 69.63% SR and a score of 75.32. Compared with memories that also store past visual frames, SimplEvo reaches a similar SR with text memory alone while using fewer tokens. With its memories fixed, SimplEvo also generalizes to unseen layouts and randomized scene configurations. Moreover, the working memory transfers across models: written by GPT-6-Astra, it can be reused as is by weaker MLLMs and improve their performance without any adaptation of their own.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI