日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2510.14930

VT-Refine: 視触覚フィードバックによる両手組立のシミュレーション微調整学習

VT-Refine: Learning Bimanual Assembly with Visuo-Tactile Feedback via Simulation Fine-Tuning

シェア:XThreadsFacebookLINEはてブBluesky

少数の実演と高忠実度の触覚シミュレーションを組み合わせ、強化学習で両手組立ポリシーを微調整することで、接触の多い精密作業の実世界性能を向上させた研究。

詳しい要約

1. どんなもの?

- 精密で接触の多いbimanual assembly(両手組み立て)のためのvisuo-tactile policy learningフレームワーク「VT-Refine」 - 実世界のdemonstrations、高忠実度のtactile simulation、reinforcement learningを組み合わせる - 視覚と触覚を同期入力とするdiffusion policyを学習し、sim-to-realで洗練する枠組み

2. 先行研究と比べてどこがすごい?

- behavioral cloningのみでは人間のdemonstrationsのsuboptimalityと多様性不足により困難 - VT-Refineは実世界demonstrationsに加え、tactile simulationと大規模reinforcement learningで補完 - 高解像度piezoresistive tactile sensorsのnormal force信号をGPU加速simulationで並列にモデル化し、正確なsim-to-realを狙う点が特徴

3. 技術・手法の肝は?

- 少数のdemonstrationsで視覚・触覚同期入力のdiffusion policyを学習 - そのpolicyをsimulated tactile sensorsを備えたdigital twinへ転送 - 大規模reinforcement learningでrobustnessとgeneralizationを強化 - 高解像度piezoresistive tactile sensorsのnormal force信号をGPU加速simulationで並列に現実的にモデル化

4. どうやって有効だと検証した?

- 実験結果はsimulationとreal worldの両方でassembly性能が向上したと報告 - データ多様性の増加とより効果的なpolicy fine-tuningによる改善と述べる - 具体的な評価指標・比較条件は要旨からは不明

5. 議論はある?

- 実世界demonstrationsのsuboptimalityと多様性不足への対処が動機として議論 - sim-to-real転送の精度をtactile sensorのモデル化で担保する設計 - 限界や失敗事例、定量的な議論の詳細は要旨からは不明

6. 次に読むべき論文は?

- diffusion policy(behavioral cloning系の代表手法) - reinforcement learningによるsim-to-real fine-tuningの関連研究 - piezoresistive tactile sensorsとGPU加速tactile simulationの関連研究 - bimanual assemblyのcontact-rich manipulation研究(具体名は要旨からは不明)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Binghao Huang, Jie Xu, Iretiayo Akinola, Wei Yang, Balakumar Sundaralingam, Rowland O'Flaherty, Dieter Fox, Xiaolong Wang, Arsalan Mousavian, Yu-Wei Chao, Yunzhu Li

分類: cs.RO, cs.LG

原文アブストラクト

Humans excel at bimanual assembly tasks by adapting to rich tactile feedback -- a capability that remains difficult to replicate in robots through behavioral cloning alone, due to the suboptimality and limited diversity of human demonstrations. In this work, we present VT-Refine, a visuo-tactile policy learning framework that combines real-world demonstrations, high-fidelity tactile simulation, and reinforcement learning to tackle precise, contact-rich bimanual assembly. We begin by training a diffusion policy on a small set of demonstrations using synchronized visual and tactile inputs. This policy is then transferred to a simulated digital twin equipped with simulated tactile sensors and further refined via large-scale reinforcement learning to enhance robustness and generalization. To enable accurate sim-to-real transfer, we leverage high-resolution piezoresistive tactile sensors that provide normal force signals and can be realistically modeled in parallel using GPU-accelerated simulation. Experimental results show that VT-Refine improves assembly performance in both simulation and the real world by increasing data diversity and enabling more effective policy fine-tuning. Our project page is available at https://binghao-huang.github.io/vt_refine/.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI