日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2606.12499

ロボット操作のための行動効果メモリ事前学習

Action-Effect Memory Pretraining for Robot Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

視覚と行動の履歴から時間的表現を学習する事前学習フレームワークAEMを提案し、部分観測下での操作性能を向上させた。

詳しい要約

1. どんなもの?

- ロボットマニピュレーションのためのAction-Effect Memory (AEM) pretrainingフレームワーク - 視覚と行動の履歴からコンパクトな時間表現を学習 - 部分観測性下での現在の観測のみでは不十分な問題に対処 - 行動駆動型のインタラクション過程としてマニピュレーションをモデル化 - 最終視覚トークンのMambaエンコード出力を履歴表現として使用 - Diffusion PolicyとFlow Policyで評価し、性能向上を確認

2. 先行研究と比べてどこがすごい?

- 従来のロボット表現事前学習は単一フレームの視覚エンコーディングに焦点 - AEMは時間的な性質を対象とし、部分観測性下での問題を解決 - 履歴を考慮した事前学習が単一フレーム事前学習や直接フレームスタッキングを上回る - 推論レイテンシと計算コストを削減 - クリーンシーン、クラッタ・ランダムシーン、非マルコフタスクでベースラインを上回る

3. 技術・手法の肝は?

- 視覚と行動の特徴を交互に配置し、マスク付きモデリングを適用 - 不完全な履歴から欠落内容を復元し、行動条件付き状態進化を学習 - Mambaエンコード出力をコンパクトな履歴表現として使用 - 単一ベクトルの時間ボトルネックを保持し、推論を効率化 - グローバルコンテキストとしてデコードと下流制御に利用

4. どうやって有効だと検証した?

- Diffusion PolicyとFlow Policyで評価 - シミュレーションと実世界設定の両方で検証 - クリーンシーン、クラッタ・ランダムシーン、非マルコフタスクでベースラインと比較 - アブレーション研究で履歴を考慮した事前学習の優位性を確認 - 推論レイテンシと計算コストの削減を実証

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- Diffusion Policy - Flow Policy - Mamba - 単一フレーム事前学習手法 - フレームスタッキング手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yijing Zhou, Qiwei Liang, Sitong Zhuang, Jiaxi Li, Xianpeng Wang, Boyang Cai, Yunyang Mo, Renjing Xu

分類: cs.RO

原文アブストラクト

We present AEM, an Action-Effect Memory pretraining framework for robot manipulation that learns compact temporal representations from vision-action history. Unlike prior robot representation pretraining methods that mainly focus on single-frame visual encoding, AEM targets the temporal nature of manipulation, where the current observation alone is often insufficient under partial observability. AEM models manipulation as an action-driven interaction process by interleaving visual and action features and applying masked modeling to recover missing content from incomplete histories, thereby learning action-conditioned state evolution. The Mamba-encoded output of the final vision token is used as a compact history representation, serving as the global context for decoding and downstream control. This design preserves a single-vector temporal bottleneck while keeping inference efficient. We evaluate AEM with Diffusion Policy and Flow Policy. AEM consistently improves manipulation performance in both simulation and real-world settings, outperforming baselines across clean scenes, cluttered and random scenes, and non-Markovian tasks. Ablation studies further show that history-aware pretraining surpasses single-frame pretraining and direct frame stacking, while reducing inference latency and computational cost.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI