日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/長期タスクarXiv:2509.22442

バスケットボールの長期動作のためのポリシー合成学習

Learning to Ball: Composing Policies for Long-Horizon Basketball Moves

シェア:XThreadsFacebookLINEはてブBluesky

バスケットボールの長期にわたる複雑な動作を強化学習で実現するため、異なるスキルを組み合わせるポリシー統合フレームワークと、スムーズな遷移を可能にするソフトルーターを提案した。

詳しい要約

1. どんなもの?

- 多段階・long-horizon な basketball maneuvers を RL で学習するための新しい policy integration framework を提案した研究。 - 明確な goal を持つ subtask と、goal が不明瞭だが重要な transitional subtask からなる長期的タスクを対象とする。 - 学習した policy により、simulated character が ball と相互作用し、real-time user commands に従って long-horizon task を達成できると主張。 - ball trajectory references に依存しない点を特徴とする。

2. 先行研究と比べてどこがすごい?

- 既存の mixture of experts や skill chaining は、個々の policy が共通して探索する state をあまり共有しない場合や、各 phase 間の initial/terminal states が明確でない場合に苦戦する。 - 本手法は、ill-defined intermediate states を持つ多段階 long-horizon タスクにおいて、大きく異なる motor skills の composition を可能にする点が異なる。 - さらに high-level soft router を導入し、subtask 間の seamless かつ robust な transition を実現しようとする点が先行手法との違い。

3. 技術・手法の肝は?

- 新しい policy integration framework により、大きく異なる motor skills を multi-phase long-horizon タスクで合成する。 - 明確な goal を持つ subtask と、goal が不明瞭な transitional subtask を扱える構成。 - high-level soft router を導入し、subtask 間の transition を滑らかかつ robust にする。 - 詳細なアルゴリズムやネットワーク構成は要旨からは不明。

4. どうやって有効だと検証した?

- 一連の fundamental basketball skills と challenging transitions 上で framework を評価。 - 学習された policy が simulated character を制御し、ball と相互作用しながら real-time user commands で指定された long-horizon task を達成できることを示した。 - ball trajectory references を用いずに達成できることを確認。 - 定量的な評価指標や比較実験の詳細は要旨からは不明。

5. 議論はある?

- mixture of experts や skill chaining が苦手とする、共通 state の不足や ill-defined な intermediate states への対処が議論の出発点。 - transitional subtask の goal が不明瞭であることへの対処として soft router を導入している。 - 限界や失敗ケース、real-time user commands の多様性への頑健性などは要旨からは不明。

6. 次に読むべき論文は?

- mixture of experts - skill chaining - reinforcement learning による long-horizon task の skill composition に関する研究 - basketball を含む simulated character control の研究 - 要旨で具体的な参照論文は明示されていないため、上記は関連手法・分野の一般名。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Pei Xu, Zhen Wu, Ruocheng Wang, Vishnu Sarukkai, Kayvon Fatahalian, Ioannis Karamouzas, Victor Zordan, C. Karen Liu

分類: cs.GR, cs.AI, cs.LG, cs.RO

原文アブストラクト

Learning a control policy for a multi-phase, long-horizon task, such as basketball maneuvers, remains challenging for reinforcement learning approaches due to the need for seamless policy composition and transitions between skills. A long-horizon task typically consists of distinct subtasks with well-defined goals, separated by transitional subtasks with unclear goals but critical to the success of the entire task. Existing methods like the mixture of experts and skill chaining struggle with tasks where individual policies do not share significant commonly explored states or lack well-defined initial and terminal states between different phases. In this paper, we introduce a novel policy integration framework to enable the composition of drastically different motor skills in multi-phase long-horizon tasks with ill-defined intermediate states. Based on that, we further introduce a high-level soft router to enable seamless and robust transitions between the subtasks. We evaluate our framework on a set of fundamental basketball skills and challenging transitions. Policies trained by our approach can effectively control the simulated character to interact with the ball and accomplish the long-horizon task specified by real-time user commands, without relying on ball trajectory references.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI