日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/計画arXiv:2606.18328

回復・発見・計画:ロボットの失敗からスキルと概念を学習する

Recover, Discover, Plan: Learning Skills and Concepts from Robot Failures

シェア:XThreadsFacebookLINEはてブBluesky

ロボットが失敗から回復するだけでなく、将来の失敗を避けるための抽象的な知識を獲得する手法を提案。強化学習で回復スキルを学び、その経験から関係述語を発見して抽象計画に活用する。

詳しい要約

1. どんなもの?

ロボットが失敗から回復するだけでなく、将来の失敗を避けるための抽象知識を獲得する手法 ReSYNC を提案する論文。 - 失敗回復経験から relational predicates を段階的に発見・洗練し、抽象プランニングを支援する。 - 反応的な回復と概念学習を統合する初のアプローチと主張。 - 長期的な未見問題の解決と sim-to-real 転移を示す。

2. 先行研究と比べてどこがすごい?

従来の RL による反応的回復は失敗モードごとに個別ポリシーが必要で非効率。 - ReSYNC は失敗回復経験から抽象的な relational predicates を発見し、抽象プランニングモデルを洗練する。 - これにより訓練中の局所的回復をテスト時の大域的な失敗回避に変換できる点が新しい。 - 4つのシミュレーション領域で強力なベースラインを50%以上上回る。

3. 技術・手法の肝は?

ReSYNC は skill-learning と concept-learning の incremental dual-learning を交互に行う。 - skill-learning では RL で訓練タスクの失敗からの回復スキルを学習。 - concept-learning では新しい relational predicates を発見し、抽象プランニングモデルを洗練して回復行動を説明・一般化。 - この相互作用で抽象ライブラリを継続的に拡張・洗練する。

4. どうやって有効だと検証した?

4つのシミュレーション領域で評価し、長期的で未見の問題を解決できることを示す。 - 強力なベースラインを50%以上上回る性能を報告。 - sim-to-real 転移を実証し、実世界の non-prehensile manipulation スキルを実行。 - 抽象プランニングにより未見シナリオへ一般化することを確認。

5. 議論はある?

要旨からは不明。 - 限界や失敗事例、計算コスト、スケーラビリティに関する議論は要旨に記載なし。 - 実世界での安全性や他のタスクへの適用範囲も不明。

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。 - 関連手法として reinforcement learning (RL)、relational predicates、abstract planning、sim-to-real transfer が挙げられる。 - 同分野の定番として RL による failure recovery、relational abstraction、task and motion planning (TAMP) の文献を読むとよい。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Bowen Li, Mayank Mishra, Y. Isabel Liu, Stone Tao, Nishanth Kumar, Alexander G. Gray, Ruwan Wickramarachchi, Jonathan Francis, Sebastian Scherer, Tom Silver

分類: cs.RO

原文アブストラクト

Intelligent robots should not only recover from failures, but also acquire the abstract knowledge needed to avoid them in the future. While reinforcement learning (RL) can learn reactive recovery behaviors, training a separate policy for every distinct failure mode is highly inefficient. We introduce Recovery-Driven Synthesis of Relational Concepts (ReSYNC), the first approach that progressively discovers and refines state abstractions (relational predicates) from failure-recovery experience to support abstract planning. Unlike purely reactive methods, ReSYNC jointly learns skills and concepts through an incremental dual-learning process. In the skill-learning phase, the robot uses RL to learn to recover from failures seen in training tasks. In the concept-learning phase, the robot discovers new relational predicates and refines its abstract planning model to explain and generalize the learned recovery behaviors. This interaction enables ReSYNC to convert local recoveries seen during training into global failure avoidance at test time. Across four simulated domains, we show that ReSYNC's ability to continually expand and refine its abstraction library allows it to solve long-horizon, previously unseen problems, outperforming strong baselines by over 50%. Additionally, we demonstrate sim-to-real transfer of ReSYNC, where it performs real-world non-prehensile manipulation skills and generalizes to unseen scenarios through abstract planning. Overall, ReSYNC represents a significant step toward robots that autonomously acquire abstractions for scalable, failure-aware planning in the physical world.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI