日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

触覚/操作arXiv:2606.26663

触覚対応ワールドアクションモデル:非対称注意による触覚統合

Tactile-WAM: Touch-Aware World Action Model with Tactile Asymmetric Attention

シェア:XThreadsFacebookLINEはてブBluesky

接触を伴う操作タスクで、視覚と触覚を統合した世界行動モデルを提案。触覚トークンが視覚ダイナミクスを乱す問題を非対称注意機構で解決し、実ロボットで成功率を向上させた。

詳しい要約

1. どんなもの?

- 視覚的未来と行動を同時予測する World Action Models (WAMs) に tactile を統合した Tactile-WAM を提案。 - 接触リッチな manipulation では視覚だけでは slip, jamming, contact-direction changes, subtle misalignment を見逃す。 - tactile 信号は隠れた物理状態を明らかにするが、tactile データ規模が小さいため naive な tactile-token injection は視覚 dynamics を乱す (tactile pollution)。 - asymmetric attention で video queries から tactile keys を遮断しつつ、action queries には tactile アクセスを保持。 - contact-change-aware bias で action attention を touch に強化。 - 実ロボット5タスクで 49.2% 成功。

2. 先行研究と比べてどこがすごい?

- 従来 WAMs は視覚 futures のみで接触リッチ操作の隠れ物理状態を捉えられない。 - tactile を単純に token 注入すると tactile pollution で視覚 dynamics が乱れる問題を指摘。 - asymmetric attention により視覚経路を tactile から隔離し、RGB-only trajectory からの MSE 偏差を step-matched 20K checkpoint で 21.8% 削減。 - ground-truth video quality に統計的に検出可能な変化なし。 - 平均成功率を 15.6% から 32.7% に改善、VideoClean が最大 gain。

3. 技術・手法の肝は?

- asymmetric attention: video queries は tactile keys を参照不可、action queries は tactile 参照可。 - contact-change-aware bias で action attention を touch に強化。 - tactile pixel changes は contact changes を信頼性高く反映しないため、observed proxy changes が attention bias を駆動。 - future-proxy supervision で予測 tactile 表現に action-relevant contact dynamics を保持。 - 視覚経路隔離 (visual-path isolation) で tactile pollution を抑制。

4. どうやって有効だと検証した?

- ManiFeel で評価。 - visual-path isolation が RGB-only trajectory からの MSE 偏差を step-matched 20K checkpoint で 21.8% 削減。 - ground-truth video quality に統計的に検出可能な変化なし。 - full model で平均成功率 15.6% → 32.7%、VideoClean が最大 gain。 - 実ロボット5タスクで 49.2% 成功。

5. 議論はある?

- tactile pollution という現象を提起し、naive tactile-token injection の危険性を議論。 - tactile pixel changes が contact changes を信頼性高く反映しない点を指摘。 - observed proxy changes と future-proxy supervision の役割を議論。 - 視覚経路隔離が video quality を損なわずに偏差を削減することを示す。 - 詳細な限界や失敗事例は要旨からは不明。

6. 次に読むべき論文は?

- World Action Models (WAMs) の関連研究。 - tactile を統合した manipulation 研究。 - ManiFeel データセット。 - VideoClean。 - asymmetric attention や contact-change-aware bias に関連する attention 機構研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Siyu Wu, Linjing You, Junjie Zhu, Yaozu Liu, Huang Kaixiang, Chen Yonghang, Jituo Li, Changhao Zhang, Jian Liu, Zhu Hengshuo, Qi Li, Hengshuang Zhao

分類: cs.RO

原文アブストラクト

World Action Models (WAMs) jointly predict future visual observations and actions, but visual futures alone often miss slip, jamming, contact-direction changes, and subtle misalign- ment in contact-rich manipulation. Tactile signals reveal these hidden physical states, yet naive tactile-token injection can disrupt visual dynamics modeling due to the limited scale of tactile data, a phenomenon we term tactile pollution. We in- troduce Tactile-WAM, which uses asymmetric attention to block video queries from tactile keys while preserving tac- tile access for action queries. A contact-change-aware bias further strengthens action attention to touch. Because tactile pixel changes do not reliably reflect contact changes, we derive Observed proxy changes drive the attention bias, while future- proxy supervision preserves action-relevant contact dynamics in predicted tactile representations. On ManiFeel, visual-path isolation reduces deviation from the RGB-only trajectory by 21.8% in MSE at the step-matched 20K checkpoint without a statistically detectable change in ground-truth video qual- ity. The full model improves average success from 15.6% to 32.7%, with VideoClean providing the largest gain. On five real-robot tasks, Tactile-WAM achieves 49.2% success.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI