日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2510.00726

CroSTAta: ロボットマニピュレーションのためのクロス状態遷移注意トランスフォーマー

CroSTAta: Cross-State Transition Attention Transformer for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

状態遷移パターンに基づいて注意重みを調整する新しい注意機構を提案し、実演からのロボットマニピュレーション学習において、失敗と回復のパターンなど時間的構造を明示的にモデル化することで、精度が重要なタスクで標準的な注意機構やTCN、LSTMを上回る性能を達成した。

詳しい要約

1. どんなもの?

- ロボットマニピュレーションのための教師あり学習ベースの政策学習手法 - 名称は Cross-State Transition Attention Transformer (CroSTAta) - 新規の State Transition Attention (STA) 機構を中核とする Transformer ベースの政策 - デモンストレーションから学習し、訓練時に明示的に含まれない実行変動への頑健性を狙う - 失敗と回復のような時間的構造を明示的にモデル化する点を特徴とする

2. 先行研究と比べてどこがすごい?

- 標準的な attention 機構は過去状態を系列として処理するが、デモに含まれる時間的構造(失敗・回復パターン等)を明示的にモデル化しない - 提案手法は学習された状態遷移パターンに基づき attention 重みを変調する点で異なる - シミュレーション評価で標準 attention 手法を一貫して上回る - TCN や LSTM などの temporal modeling 手法も上回る - 精度が重要なタスクでは cross-attention に対して 2 倍以上の改善を達成

3. 技術・手法の肝は?

- State Transition Attention (STA) 機構を導入 - 学習された状態進化パターンに基づいて標準 attention 重みを変調する - これにより実行履歴に応じて政策の振る舞いを適応させる - 訓練時に temporal masking を併用 - 直近のタイムステップから視覚情報をランダムに除去し、履歴文脈からの時間的推論を促す - 構造化 attention と temporal masking を組み合わせる点が肝

4. どうやって有効だと検証した?

- シミュレーション環境で評価を実施 - STA が標準 attention 手法を一貫して上回ることを確認 - TCN および LSTM ネットワークなどの temporal modeling 手法との比較で優位 - 精度が重要なタスクにおいて cross-attention 比で 2 倍以上の改善を報告 - ソースコードとデータは GitHub (https://github.com/iit-DLSLab/croSTAta) で公開

5. 議論はある?

- 訓練時に明示的にカバーされない実行変動への対応が課題として背景にある - 履歴文脈の活用が頑健性向上に寄与することを示唆 - temporal masking により履歴からの時間的推論を促す設計の有効性を主張 - 実機実験や詳細なアブレーション、限界については要旨からは不明

6. 次に読むべき論文は?

- 比較対象として言及された標準 attention 手法 - cross-attention ベースの手法 - TCN (Temporal Convolutional Network) - LSTM ネットワーク - Transformer ベースの模倣学習(例: Behavior Transformer 等の同分野定番) - 詳細は要旨からは不明なため、原論文の参考文献を参照すべき

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Giovanni Minelli, Giulio Turrisi, Victor Barasuol, Claudio Semini

分類: cs.RO, cs.AI, cs.LG

原文アブストラクト

Learning robotic manipulation policies through supervised learning from demonstrations remains challenging when policies encounter execution variations not explicitly covered during training. While incorporating historical context through attention mechanisms can improve robustness, standard approaches process all past states in a sequence without explicitly modeling the temporal structure that demonstrations may include, such as failure and recovery patterns. We propose a Cross-State Transition Attention Transformer that employs a novel State Transition Attention (STA) mechanism to modulate standard attention weights based on learned state evolution patterns, enabling policies to better adapt their behavior based on execution history. Our approach combines this structured attention with temporal masking during training, where visual information is randomly removed from recent timesteps to encourage temporal reasoning from historical context. Evaluation in simulation shows that STA consistently outperforms standard attention approach and temporal modeling methods like TCN and LSTM networks, achieving more than 2x improvement over cross-attention on precision-critical tasks. The source code and data can be accessed at https://github.com/iit-DLSLab/croSTAta

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI