日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2510.14117

ViTacGen: 視覚から触覚を生成するロボット押し動作

ViTacGen: Robotic Pushing with Vision-to-Touch Generation

シェア:XThreadsFacebookLINEはてブBluesky

視覚画像から触覚情報(接触深度画像)を生成し、強化学習に統合することで、実触覚センサーなしでロボットの押し動作を実現するフレームワークを提案。

詳しい要約

1. どんなもの?

- ロボットの pushing タスク向けの新フレームワーク ViTacGen を提案する研究。 - 視覚から触覚を生成する vision-to-touch generation を reinforcement learning に組み込む。 - 高解像度の実 tactile sensor への依存を排除し、visual-only なロボット系での zero-shot 展開を可能にする。 - 構成は2要素。 - 視覚画像列から contact depth image(標準化された tactile representation)を生成する encoder-decoder ネットワーク。 - 視覚と生成触覚を fusion する reinforcement learning policy(contrastive learning 併用)。

2. 先行研究と比べてどこがすごい?

- 実 tactile sensor の課題を回避する点が特徴。 - 従来は高コスト・壊れやすい・calibration や sensor 間差などの展開上の困難があった。 - vision-only の policy は満足な性能に届きにくいという問題に対処。 - 人間が視覚から触覚状態を推論する能力に着想を得て、視覚のみの系で触覚情報を疑似的に活用する。 - 具体的な先行研究名との定量比較は要旨からは不明。

3. 技術・手法の肝は?

- 中核は vision-to-touch generation network。 - encoder-decoder 構造で、視覚画像列から contact depth image を直接生成する。 - contact depth image を標準化された tactile representation として扱う。 - reinforcement learning policy が視覚データと生成触覚データを fusion。 - visual 観測と生成 tactile 観測に基づく contrastive learning を併用する。 - 実 tactile sensor を使わずに触覚的表現を得る設計が肝。

4. どうやって有効だと検証した?

- simulation と real world の両方の実験で有効性を検証。 - 優れた性能を示し、最大 86% の成功率を達成したと報告。 - 具体的なタスク設定・比較対象・指標の詳細は要旨からは不明。

5. 議論はある?

- 実 tactile sensor 不要で visual-only 系に zero-shot 展開できる点を主張。 - 限界や失敗事例、生成触覚の忠実度、sim-to-real ギャップなどの議論は要旨からは不明。 - コスト・脆弱性・calibration 問題の回避という実用上の利点が示唆される。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法として次を挙げる。 - vision-to-touch generation を用いる触覚推定研究。 - contact depth image を tactile representation とする研究。 - visual-tactile fusion と contrastive learning を用いる manipulation policy 研究。 - robotic pushing における tactile feedback 活用研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zhiyuan Wu, Yijiong Lin, Yongqiang Zhao, Xuyang Zhang, Zhuo Chen, Nathan Lepora, Shan Luo

分類: cs.RO

原文アブストラクト

Robotic pushing is a fundamental manipulation task that requires tactile feedback to capture subtle contact forces and dynamics between the end-effector and the object. However, real tactile sensors often face hardware limitations such as high costs and fragility, and deployment challenges involving calibration and variations between different sensors, while vision-only policies struggle with satisfactory performance. Inspired by humans' ability to infer tactile states from vision, we propose ViTacGen, a novel robot manipulation framework designed for visual robotic pushing with vision-to-touch generation in reinforcement learning to eliminate the reliance on high-resolution real tactile sensors, enabling effective zero-shot deployment on visual-only robotic systems. Specifically, ViTacGen consists of an encoder-decoder vision-to-touch generation network that generates contact depth images, a standardized tactile representation, directly from visual image sequence, followed by a reinforcement learning policy that fuses visual-tactile data with contrastive learning based on visual and generated tactile observations. We validate the effectiveness of our approach in both simulation and real world experiments, demonstrating its superior performance and achieving a success rate of up to 86\%.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI