分布に戻れ:リターン・トゥ・ディストリビューション計画によるロバスト模倣
Get Back Here: Robust Imitation by Return-to-Distribution Planning
専門家データと実環境の分布ずれに対処するため、模倣方策と「専門家分布に戻す」プランナを組み合わせたPOIRを提案し、操作タスクで初期状態やノイズに対するロバスト性を示した。
著者: Geoffrey Cideron, Baruch Tabanpour, Sebastian Curi, Sertan Girgin, Leonard Hussenot, Gabriel Dulac-Arnold, Matthieu Geist, Olivier Pietquin, Robert Dadashi
分類: cs.RO, cs.AI, cs.LG, cs.SY, eess.SY
原文アブストラクト
We consider the Imitation Learning (IL) setup where expert data are not collected on the actual deployment environment but on a different version. To address the resulting distribution shift, we combine behavior cloning (BC) with a planner that is tasked to bring the agent back to states visited by the expert whenever the agent deviates from the demonstration distribution. The resulting algorithm, POIR, can be trained offline, and leverages online interactions to efficiently fine-tune its planner to improve performance over time. We test POIR on a variety of human-generated manipulation demonstrations in a realistic robotic manipulation simulator and show robustness of the learned policy to different initial state distributions and noisy dynamics.
関連論文
- AdaTempo: 実演から共有相対テンポを学習しロボット操作を高速化模倣学習/マニピュレーション
- S2A2: 音響空間情報を用いた操作タスクのための視聴覚模倣学習模倣学習/マニピュレーション
- 見て切り替える:視覚に基づく分岐による対話型ロボットスキルプログラミング模倣学習/マニピュレーション
- 幾何制約付きリズム軌道学習によるレーザースキンケア施術の自動化模倣学習/マニピュレーション
- 環境制約下での模倣学習のためのデータ拡張模倣学習/マニピュレーション
- 多視点から見る:接触の多いタスクのための模倣学習による多視点マニピュレーションポリシー模倣学習/マニピュレーション
