日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

触覚arXiv:2506.10787

視触覚融合による把持物体の姿勢推定

In-Hand Object Pose Estimation via Visual-Tactile Fusion

シェア:XThreadsFacebookLINEはてブBluesky

手首カメラと指先の触覚センサを融合し、重み付きICPで把持物体の6D姿勢を推定する手法を提案。遮蔽時も高精度で、挿入タスクに応用した。

詳しい要約

1. どんなもの?

- ロボットハンドで把持中の物体の6D poseを推定する手法 - wrist-mounted RGB-D cameraの視覚情報とfingertipのvision-based tactile sensorsの触覚情報をfusion - 視覚遮蔽(visual occlusion)が大きい状況でも把持物体の位置・姿勢を精度良く推定することを狙う - 実世界のinsertion taskでの精密操作にも適用

2. 先行研究と比べてどこがすごい?

- 視覚のみのアプローチはvisual occlusionが大きな課題 - 本研究は触覚情報を組み合わせることで遮蔽時の推定精度を改善 - 平均誤差7.5 mm / 16.7 degreesを達成し、vision-only baselinesを最大20%上回る - 異種センサのpoint cloudsを重み付きで統合する枠組みを導入している点が特徴

3. 技術・手法の肝は?

- wrist-mounted RGB-D cameraとfingertipのvision-based tactile sensorsを併用 - weighting and sensor fusion moduleで異種センサ由来のpoint cloudsを統合 - 各modalityのpose estimationへの寄与度を制御 - 重み付きpoint clouds向けに拡張したaugmented Iterative Closest Point (ICP)で6D object poseを推定

4. どうやって有効だと検証した?

- 触覚情報の追加がpose estimation精度を有意に向上させることを実験で確認 - 特にocclusionが大きい条件で効果が大きいと報告 - 平均誤差7.5 mm / 16.7 degrees、vision-only baselines比で最大20%改善 - 実世界のinsertion taskで精密なobject manipulationが可能なことを実証

5. 議論はある?

- 触覚情報の寄与が大きく、occlusionが高い状況で特に有効であると議論 - 重み付けにより各modalityの寄与を制御できる点が利点として示唆 - 具体的な限界や失敗事例、計算コスト、センサ配置の制約などは要旨からは不明

6. 次に読むべき論文は?

- Iterative Closest Point (ICP) および weighted point cloud registration の関連研究 - vision-based tactile sensors を用いた tactile perception / tactile-informed pose estimation の研究 - visual-tactile fusion による object pose estimation の先行手法 - visual occlusion 下での in-hand object pose estimation に関するvision-onlyベースライン研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Felix Nonnengießer, Alap Kshirsagar, Boris Belousov, Jan Peters

分類: cs.RO

原文アブストラクト

Accurate in-hand pose estimation is crucial for robotic object manipulation, but visual occlusion remains a major challenge for vision-based approaches. This paper presents an approach to robotic in-hand object pose estimation, combining visual and tactile information to accurately determine the position and orientation of objects grasped by a robotic hand. We address the challenge of visual occlusion by fusing visual information from a wrist-mounted RGB-D camera with tactile information from vision-based tactile sensors mounted on the fingertips of a robotic gripper. Our approach employs a weighting and sensor fusion module to combine point clouds from heterogeneous sensor types and control each modality's contribution to the pose estimation process. We use an augmented Iterative Closest Point (ICP) algorithm adapted for weighted point clouds to estimate the 6D object pose. Our experiments show that incorporating tactile information significantly improves pose estimation accuracy, particularly when occlusion is high. Our method achieves an average pose estimation error of 7.5 mm and 16.7 degrees, outperforming vision-only baselines by up to 20%. We also demonstrate the ability of our method to perform precise object manipulation in a real-world insertion task.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI