日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2608.01102

CAAT: 接触認識アテンションスケーリングと触覚マスキングによるデータ効率的な接触リッチ操作

CAAT: Contact-Aware Attention Scaling and Tactile Masking for Data-Efficient Contact-Rich Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

視覚と触覚を統合するTransformerベースのポリシーに、接触前後で情報の重みを切り替える接触認識アテンションスケーリングと動的触覚マスキングを導入し、デモからの学習効率と成功率を向上させた。

詳しい要約

1. どんなもの?

CAATは、接触を伴う操作タスクにおいて、視覚と触覚の観測を統合するTransformerベースのポリシーに明示的な接触事前知識を導入する軽量フレームワークである。接触前は視覚情報を強調し、接触中は触覚情報を強調するattention scalingと、非接触参照との比較による静的背景トークンの抑制を動的tactile maskingで行う。既存のTransformerベースのポリシーに統合可能で、action decoderの変更を必要としない。

2. 先行研究と比べてどこがすごい?

従来の視覚-触覚ポリシーは、トークン連結や学習可能なゲーティングに依存しており、接触に関する明示的な事前知識が欠如していた。CAATは、接触前後で視覚と触覚の重要度を動的に切り替える明示的な接触事前知識を導入し、さらに静的背景トークンを抑制することで、デモンストレーションからの効率的なクロスモーダル表現学習を可能にする点が新しい。

3. 技術・手法の肝は?

手法の核は、接触状態に応じて視覚と触覚のattentionをスケーリングする点と、現在の触覚観測と非接触参照を比較して静的背景トークンをマスクする点である。具体的には、接触前は視覚トークンに高い重みを与え、接触中は触覚トークンに高い重みを与える。また、触覚観測の変化が小さいトークンは背景とみなしてマスクする。これにより、タスク関連情報に焦点を当てた表現学習が可能になる。

4. どうやって有効だと検証した?

シミュレーションでは、ACTにCAATを統合し、直接融合やゲート融合と比較して平均成功率をそれぞれ18.0ポイント、10.0ポイント向上させた。実世界では、視覚-触覚UMIプラットフォームを用いて、ACT、Diffusion Policy、π0の3つのポリシーにCAATを適用し、平均成功率60.0%を達成し、最強のベースラインを平均21.1ポイント上回った。

5. 議論はある?

要旨からは、CAATの有効性は示されたが、限界や議論については不明である。例えば、触覚センサの種類や配置への依存性、動的マスキングの閾値設定の影響、他のタスクへの一般化可能性などは議論されていない。また、実世界実験の成功率が60%と比較的低いことから、さらなる改善の余地がある可能性が示唆されるが、詳細は不明。

6. 次に読むべき論文は?

要旨で参照されている研究は、ACT、Diffusion Policy、π0などのTransformerベースのポリシーである。また、視覚-触覚融合の一般的な手法として、token concatenationやlearnable gatingが挙げられている。次に読むべき論文としては、これらの基盤となったACT (Action Chunking with Transformers)、Diffusion Policy、π0の原著論文が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jiaming Jiang, Yuzhe Huang, Hao Liang, Pei Lin, Shengcheng Luo, Fanrong Dong, Jiaping Wu, Chenxi Xiao, Wanlin Li, Ziyuan Jiao

分類: cs.RO

原文アブストラクト

In contact-rich manipulation, visual observations primarily guide motion in free space, whereas tactile observations become particularly informative during contact. However, standard Transformer-based visuo-tactile policies typically rely on either token concatenation or learnable gating. These approaches lack explicit contact-aware priors, making it difficult to efficiently learn effective cross-modal representations from demonstrations. To address this limitation, we propose CAAT, a lightweight contact-aware framework that explicitly incorporates contact priors through attention scaling and dynamic tactile masking. Specifically, CAAT emphasizes visual information before contact and tactile information during contact. It also suppresses static background tokens by comparing the current tactile observation with a non-contact reference. CAAT can be integrated into commonly used Transformer-based policies without modifying their action decoders. In simulation, integrating CAAT with ACT improves the average success rate by 18.0 percentage points over direct visuo-tactile fusion and by 10.0 percentage points over gated fusion. In real-world experiments using a visuo-tactile UMI platform, CAAT achieves an average success rate of 60.0% across ACT, Diffusion Policy, and $\pi_0$, outperforming the strongest baseline by an average of 21.1 percentage points. These results demonstrate that explicit contact priors and dynamic tactile masking are effective in improving visuo-tactile policy learning and task performance of diverse policy architectures. https://mrjiangjm.github.io/caat/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI