日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.36720

T²Mem: ロボティクスのためのテスト時メモリ学習

T$^2$Mem: Learning Test-Time Memory for Robotics

シェア:XThreadsFacebookLINEはてブBluesky

事前学習済み視覚言語行動ポリシーに、テスト時訓練で観測履歴を圧縮した高速重みとして記憶させ、記憶不要なベース方策を大きく上回る成功率を達成した手法。

詳しい要約

1. どんなもの?

T$^2$Memは、memory依存のrobotic manipulation向けに、pretrained vision-language-action policy内で履歴保持・利用能力を獲得させるframework。外部reasoning modelやmemory専用annotationを使わず、action demonstrationのみから学習する。test-time trainingで観測履歴をcompactなfast weightsへonline self-supervised更新で符号化し、full historyの再処理を避ける。observation-grounded interfaceがmemory形成用のvision-language情報を抽出し、retrieved contextをaction expertへ供給する。

2. 先行研究と比べてどこがすごい?

- memory-free base policyと比較し、16 RoboMME tasksで平均successを17.93%から56.83%へ改善。 - benchmarkで報告されたrecurrent-memory methodsを上回る。 - controlled profilingでexplicit methods比で少なくとも3xのinference speedupを示す。 - 外部reasoning modelやmemory-specific annotationを必要としない点が特徴。

3. 技術・手法の肝は?

- test-time trainingにより観測履歴をcompactなfast weightsへonline self-supervised更新で符号化。 - full historyの繰り返し処理を回避。 - observation-grounded interfaceがmemory形成のためのvision-language情報を抽出し、retrieved contextをaction expertへ供給。 - action supervisionがmemoryが保持・利用すべき内容を形成。 - alternating memory-policy learningにより最適化中各componentが固定されたcounterpartを持つ。

4. どうやって有効だと検証した?

- 16 RoboMME tasksで評価。 - memory-free base policyとの比較で平均successが17.93%から56.83%へ向上。 - benchmarkで報告されたrecurrent-memory methodsを上回ることを確認。 - controlled profilingによりexplicit methods比で少なくとも3xのinference speedupを確認。

5. 議論はある?

要旨からは不明。

6. 次に読むべき論文は?

要旨で参照・比較されているRoboMME benchmarkおよびrecurrent-memory methods。関連手法としてmemory-free vision-language-action policy、test-time training、fast weights。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yize Liu, Huang Huang, Yining Hong, Zijian Du, Zhi Cao, Li Fei-Fei, Jiajun Wu

分類: cs.RO

原文アブストラクト

Memory-dependent robotic manipulation requires policies to use information that is no longer available in the current observation. Retaining history alone is insufficient: memory must preserve information that supports future actions. One challenge is whether a memory-free foundation model can learn to retain and use historical information from action demonstrations alone, without external memory support. We introduce T$^2$Mem, a framework that develops this capability within a pretrained vision-language-action policy, without external reasoning models or memory-specific annotations. T$^2$Mem uses test-time training to encode observation history into compact fast weights through online self-supervised updates, avoiding repeated processing of the full history. An observation-grounded interface extracts vision-language information for memory formation and supplies retrieved context to the action expert. Action supervision shapes what the memory learns to retain and use, while alternating memory-policy learning gives each component a fixed counterpart during optimization. Across 16 RoboMME tasks, T$^2$Mem improves average success from 17.93% to 56.83% over the memory-free base policy and outperforms the recurrent-memory methods reported in the benchmark, while controlled profiling indicates at least 3x inference speedup over explicit methods. Project website: https://yzliu84.github.io/T2MEM-project/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI