日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2602.13689

両側力事前分布による視覚と触覚の対称性を考慮した融合を用いたロボットマニピュレーション

Symmetry-Aware Fusion of Vision and Tactile Sensing via Bilateral Force Priors for Robotic Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

視覚と触覚をクロスモーダルトランスフォーマーで融合し、両側の力バランスを物理的正則化で促すことで、挿入タスクの成功率を96.59%まで向上させた研究。

詳しい要約

1. どんなもの?

視覚と触覚を融合する Cross-Modal Transformer (CMT) を提案し、ロボット挿入タスクの成功率を高める研究。wrist-camera の観測と tactile 信号を structured self-/cross-attention で統合し、さらに bilateral force balance を促す physics-informed regularization を導入する。TacSL benchmark で 96.59% の挿入成功率を達成。

2. 先行研究と比べてどこがすごい?

従来、naïve な visuo-tactile fusion は一貫した改善をもたらさないとされてきた。本研究は CMT と symmetry regularization により、naïve および gated fusion ベースラインを上回り、特権的な 'wrist + contact force' 構成 (96.09%) に匹敵する性能を現実的なセンシングで達成した点がすごい。

3. 技術・手法の肝は?

Cross-Modal Transformer (CMT) で wrist-camera 観測と tactile 信号を structured self-attention と cross-attention により融合。tactile embedding を安定化するため、人間の運動制御原理を反映した bilateral force balance を促す physics-informed regularization を導入。

4. どうやって有効だと検証した?

TacSL benchmark 上で実験。CMT with symmetry regularization が 96.59% の挿入成功率を達成し、naïve および gated fusion ベースラインを上回り、'wrist + contact force' 構成 (96.09%) に近い性能を示した。

5. 議論はある?

結果は (i) 精密な位置合わせに tactile sensing が不可欠であること、(ii) 原理に基づく multimodal fusion と physics-informed regularization が視覚と触覚の補完的な強みを引き出し、現実的なセンシングで特権的性能に近づくことを示唆。

6. 次に読むべき論文は?

要旨で参照されている TacSL benchmark、naïve fusion、gated fusion、'wrist + contact force' 構成。関連手法として Cross-Modal Transformer (CMT) や physics-informed regularization を挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Wonju Lee, Matteo Grimaldi, Tao Yu

分類: cs.RO, cs.CV

原文アブストラクト

Insertion tasks in robotic manipulation demand precise, contact-rich interactions that vision alone cannot resolve. While tactile feedback is intuitively valuable, existing studies have shown that na\"ive visuo-tactile fusion often fails to deliver consistent improvements. In this work, we propose a Cross-Modal Transformer (CMT) for visuo-tactile fusion that integrates wrist-camera observations with tactile signals through structured self- and cross-attention. To stabilize tactile embeddings, we further introduce a physics-informed regularization that encourages bilateral force balance, reflecting principles of human motor control. Experiments on the TacSL benchmark show that CMT with symmetry regularization achieves a 96.59% insertion success rate, surpassing na\"ive and gated fusion baselines and closely matching the privileged "wrist + contact force" configuration (96.09%). These results highlight two central insights: (i) tactile sensing is indispensable for precise alignment, and (ii) principled multimodal fusion, further strengthened by physics-informed regularization, unlocks complementary strengths of vision and touch, approaching privileged performance under realistic sensing.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI