日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

強化学習/部分観測/MPC/四足歩行arXiv:2604.08036

PriPG-RL: 部分観測システムのための特権プランナー誘導強化学習と常時実行可能なMPC

PriPG-RL: Privileged Planner-Guided Reinforcement Learning for Partially Observable Systems with Anytime-Feasible MPC

シェア:XThreadsFacebookLINEはてブBluesky

部分観測環境下で強化学習ポリシーを訓練する際、訓練時のみ利用可能な特権プランナー(近似モデルと完全状態情報を持つMPC)が学習エージェントを誘導する枠組みを提案し、シミュレーションと実機の四足ロボットで検証した。

詳しい要約

1. どんなもの?

- 部分観測環境下で強化学習(RL)ポリシーを訓練する問題を扱う。 - 訓練時のみ利用可能な特権的でいつでも実行可能なプランナーエージェントを活用する。 - 学習エージェントは真の状態の損失のある投影のみを観測する。 - フレームワークをPOMDPとして定式化し、プランナーエージェントとしてanytime-feasible MPCを導入。 - 学習エージェントにはPlanner-to-Policy Soft Actor-Critic (P2P-SAC)を提案。 - シミュレーション(NVIDIA Isaac Lab)と実機(Unitree Go2)で検証。

2. 先行研究と比べてどこがすごい?

- 先行研究と比べてどこがすごいかは要旨からは不明。 - ただし、特権的プランナーを訓練時のみ利用し、部分観測性を軽減する点が特徴的。 - サンプル効率と最終ポリシー性能の両方を改善することを目指す。 - 理論解析を伴い、シミュレーションと実機展開を実現。

3. 技術・手法の肝は?

- 部分観測マルコフ決定過程(POMDP)を定式化。 - プランナーエージェント:近似動力学モデルと特権状態情報にアクセス可能なanytime-feasible MPC。 - 学習エージェント:真の状態の損失のある投影のみを観測。 - P2P-SAC:プランナーの特権知識を蒸留し、部分観測性を軽減。 - 理論解析を提供。

4. どうやって有効だと検証した?

- シミュレーション:NVIDIA Isaac Labを使用。 - 実機:Unitree Go2四足歩行ロボットで複雑な障害物環境をナビゲート。 - 有効性を検証。

5. 議論はある?

- 議論の詳細は要旨からは不明。 - 理論解析が含まれるが、具体的な議論内容は記載されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、Model Predictive Control (MPC)、Soft Actor-Critic (SAC)、POMDP、強化学習(RL)が挙げられる。 - 同分野の定番として、部分観測下でのRLや特権学習(privileged learning)に関する論文が考えられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Mohsen Amiri, Mohsen Amiri, Ali Beikmohammadi, Sindri Magnuśson, Mehdi Hosseinzadeh

分類: cs.LG, cs.RO

原文アブストラクト

This paper addresses the problem of training a reinforcement learning (RL) policy under partial observability by exploiting a privileged, anytime-feasible planner agent available exclusively during training. We formalize this as a Partially Observable Markov Decision Process (POMDP) in which a planner agent with access to an approximate dynamical model and privileged state information guides a learning agent that observes only a lossy projection of the true state. To realize this framework, we introduce an anytime-feasible Model Predictive Control (MPC) algorithm that serves as the planner agent. For the learning agent, we propose Planner-to-Policy Soft Actor-Critic (P2P-SAC), a method that distills the planner agent's privileged knowledge to mitigate partial observability and thereby improve both sample efficiency and final policy performance. We support this framework with rigorous theoretical analysis. Finally, we validate our approach in simulation using NVIDIA Isaac Lab and successfully deploy it on a real-world Unitree Go2 quadruped navigating complex, obstacle-rich environments.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI