日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

sim2realarXiv:2507.13200

近接・触覚センシングを用いた人間の実演による道具使用スキルの少数ショット転移

Few-shot transfer of tool-use skills using human demonstrations with proximity and tactile sensing

シェア:XThreadsFacebookLINEはてブBluesky

シミュレーションで接触状態を事前学習し、実世界での人間の実演で微調整することで、ロボットが多様な道具を使った表面追従タスクを少数の実演で習得できるフレームワークを提案した。

詳しい要約

1. どんなもの?

- ロボットによるtool-use(道具を用いた操作)スキルのfew-shot転移フレームワーク - マルチモーダルセンシング(proximity sensorとtactile sensor)を利用 - シミュレーションで事前学習したbase policyを、実世界のhuman demonstrationsでfine-tuningする - Franka Emika robot armでsurface-followingタスクを対象とする

2. 先行研究と比べてどこがすごい?

- tool-useはrobot-tool間とtool-environment間の2つの接触が同時に絡むため複雑 - 従来はtactile/proximity sensorを用いた学習が、実世界データの不足と大きなsim-to-real gapにより困難 - 本研究はfew-shotのhuman demonstrationsでこの課題に対処する点が特徴 - 具体的な先行研究名は要旨からは不明

3. 技術・手法の肝は?

- simulationでtool-useに共通する接触状態を捉えるbase policyをpre-training - 実世界のtarget domainで収集したhuman demonstrationsによりfine-tuningしdomain gapを橋渡し - proximity sensorとtactile sensorを組み合わせて接触状態と環境geometryの識別を強化 - 多様な物理的・幾何学的性質を持つtoolに対応

4. どうやって有効だと検証した?

- Franka Emika robot arm上でsurface-followingタスクを、多様なtoolを用いて少数のdemonstrationsで教示できることを検証 - 解析により、pre-trainedからfine-tunedへのpolicyでtool-environment接触関係の認識能力が転移されることを示唆 - proximityとtactileの組み合わせが接触状態と環境geometryの識別を高めることを確認

5. 議論はある?

- ロボットは接触関係認識の転移により新たなtool-useスキルを獲得すると分析 - proximityとtactileの併用が接触状態・環境geometryの識別に有効と示唆 - 限界や失敗事例、一般化可能性に関する詳細は要旨からは不明

6. 次に読むべき論文は?

- sim-to-real transferに関する研究 - tactile sensingを用いたmanipulation学習 - proximity sensingを用いたロボット操作 - few-shot imitation learning / human demonstrationsからの学習 - 具体的な参照論文は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Marina Y. Aoyama, Sethu Vijayakumar, Tetsuya Narita

分類: cs.RO

原文アブストラクト

Tools extend the manipulation abilities of robots, much like they do for humans. Despite human expertise in tool manipulation, teaching robots these skills faces challenges. The complexity arises from the interplay of two simultaneous points of contact: one between the robot and the tool, and another between the tool and the environment. Tactile and proximity sensors play a crucial role in identifying these complex contacts. However, learning tool manipulation using these sensors remains challenging due to limited real-world data and the large sim-to-real gap. To address this, we propose a few-shot tool-use skill transfer framework using multimodal sensing. The framework involves pre-training the base policy to capture contact states common in tool-use skills in simulation and fine-tuning it with human demonstrations collected in the real-world target domain to bridge the domain gap. We validate that this framework enables teaching surface-following tasks using tools with diverse physical and geometric properties with a small number of demonstrations on the Franka Emika robot arm. Our analysis suggests that the robot acquires new tool-use skills by transferring the ability to recognise tool-environment contact relationships from pre-trained to fine-tuned policies. Additionally, combining proximity and tactile sensors enhances the identification of contact states and environmental geometry.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI