日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

オフライン強化学習arXiv:2606.09476

目標状態ではなく目標集合:目標集合の後知恵リラベリングによる問い合わせ可能なロボット目標

Goal Sets, Not Goal States: Queryable Robot Goals through Goal-Set Hindsight Relabeling

シェア:XThreadsFacebookLINEはてブBluesky

後知恵リラベリングを拡張し、達成状態が単一の目標状態ではなくクエリで定義された目標集合を満たすようにすることで、不要な状態次元に影響されないロボット学習を実現する手法を提案した。

詳しい要約

1. どんなもの?

- オフライン強化学習におけるロボットの目標設定手法 - 従来のHindsight Relabeling (HER) を拡張したGoal-Set Hindsight Relabeling (GS-HER) を提案 - 達成状態を単一の目標状態ではなく、述語で定義された目標集合として扱う - バイナリクエリで成功を定義する変数を指定し、推論時の入力とする - オフラインGCRLアルゴリズム自体は変更不要

2. 先行研究と比べてどこがすごい?

- 従来のHERは達成した未来状態を正確な目標状態に変換するため、タスク成功が状態の一部に依存する場合に過剰な制約となる - GS-HERは述語レベルで一般化し、目標を集合として扱うことでこの問題を解決 - 全状態目標がnuisance次元でボトルネックになる場合に性能を改善 - 再トレーニングなしで複数の目標述語に応答できる再利用可能な目標インターフェースを実現

3. 技術・手法の肝は?

- 達成状態をクエリで定義された目標集合の証明として扱う - バイナリクエリが成功を定義する変数を指定し、目標述語を推論時入力とする - オフラインGCRLアルゴリズムは変更せず、リラベリングのみを変更 - 目標述語を推論時に入力できるため、一つのチェックポイントで複数の目標述語に対応

4. どうやって有効だと検証した?

- OGBenchタスクで評価 - 5つのオフライン目標条件付き学習者で実験 - 全状態目標がnuisance次元でボトルネックになる場合にGS-HERが性能を改善することを確認 - 再トレーニングなしで複数の目標述語に応答できることを検証

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- Hindsight Experience Replay (HER) - Goal-Conditioned Reinforcement Learning (GCRL) - OGBench

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Carlos Vélez García, Miguel Cazorla, Jorge Pomares

分類: cs.RO

原文アブストラクト

Hindsight relabeling usually turns achieved future states into exact goals, which can overconstrain offline robot learning when task success depends only on a subset of the state. We propose Goal-Set Hindsight Relabeling (GS-HER), a predicate-level generalization of HER in which achieved states certify query-defined goal sets rather than singleton goal states. A binary query specifies which variables define success, making the goal predicate an inference-time input while leaving the underlying offline GCRL algorithm unchanged. Across OGBench tasks and five offline goal-conditioned learners, GS-HER improves performance when full-state goals are bottlenecked by nuisance dimensions and turns hindsight relabeling into a reusable goal interface: one checkpoint can answer multiple robot goal predicates without retraining.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI