日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

触覚arXiv:2611.01483

触覚予測とフィードバックで行動を精緻化する速度場ステアリング

$TF^2$-Steering: Action Refinement with Tactile Forecasts and Feedback via Velocity-Field Steering

シェア:XThreadsFacebookLINEはてブBluesky

フローマッチング型行動生成の速度場を触覚の予測・実時間フィードバックで残差修正し、視覚主体の基盤ポリシーを活かしつつ接触を要する巧緻操作の成功率を高めた手法。

詳しい要約

1. どんなもの?

- 視覚主体のロボット政策に触覚を組み込む枠組み。 - 挿入のような接触依存タスクで、予測触覚と実時間触覚フィードバックを利用。 - flow-matching の action expert の velocity field を residual steering で修正。 - tactile mixture-of-experts で触覚予測と実フィードバックを統合。 - 3段階の学習レシピを伴う。

2. 先行研究と比べてどこがすごい?

- 従来の視覚優位な政策は触覚信号を無視したり、事前学習能力を損なう場合があると実験で観察。 - 触覚データの不足や接触イベントの疎さが直接組み込みの障害。 - 本手法は視覚基盤政策の強い行動生成能力を保ちつつ触覚で修正・方向転換。 - 最強ベースライン比で simulation 平均成功率 +10.7pt、real-world 平均進捗成功率 +9.1pt。

3. 技術・手法の肝は?

- flow-matching action expert の velocity field に対する学習済み residual steering で行動を精緻化。 - tactile mixture-of-experts アーキテクチャで tactile forecasts と real-time tactile feedback を統合。 - 触覚信号が flow-matching の行動生成過程を修正し、必要時には再方向付け。 - 視覚ベース foundation policy の上に構築する3段階学習レシピ。

4. どうやって有効だと検証した?

- 6つの simulated タスクと6つの real-world manipulation タスクで実験。 - 最強評価ベースラインと比較。 - simulation 平均成功率で +10.7 percentage points。 - real-world 平均 progress success rate で +9.1 percentage points。

5. 議論はある?

- 視覚偏重の政策に触覚を直接入れると無視・性能劣化が起こることを実験で指摘。 - 触覚データ不足と接触イベントの疎さが課題として示唆。 - residual steering により基盤政策の能力を保つ設計を主張。 - 詳細な限界や失敗事例は要旨からは不明。

6. 次に読むべき論文は?

- flow-matching に基づく行動生成(flow-matching action expert 関連)。 - tactile mixture-of-experts を用いた触覚統合研究。 - vision-based foundation policy の触覚拡張。 - 接触依存の dexterous manipulation における tactile feedback 研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yiming Chen, Xiaofei Wei, Chun Gu, Wei Xiao, Peidong Liu, Li Zhang

分類: cs.RO

原文アブストラクト

Tactile sensing plays a crucial role in everyday human interaction. Consider inserting a plug into a tight socket, vision alone provides limited guidance during the final insertion stage, and we instead rely on both anticipated contact and realized tactile feedback to ajust the insertion motion. The same capability is equally important for robots, particularly in dexterous manipulation tasks. Yet many contemporary robot policies remain vision-dominant. This visual bias, compounded by limited tactile data and sparse contact events, can cause directly incorporated tactile signals to be ignored or even compromise the policy's pretrained capabilities, yielding degrading performance as observed in our experiments. We present $TF^2$-Steering, which refines actions via learned residual steering of the flow-matching action expert's velocity field, using a tactile mixture-of-experts architecture to integrate both tactile forecasts and real-time tactile feedback. Together with specific designed three stages training recipe, $TF^2$-Steering enables tactile signals to correct and, when necessary, redirect the flow-matching action-generation process, while building on the strong action-generation capacity of the vision-based foundation policy. Extensive experiments across six simulated and six real-world manipulation tasks demonstrate the effectiveness of $TF^2$-Steering. It outperforms the strongest evaluated baselines by 10.7 percentage points in average simulation success rate and 9.1 percentage points in average real-world progress success rate. Project page: https://yiming-cc.github.io/tf2-steering/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI