日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2610.33480

複数制約対応の器用把持ポリシー最適化MDPO

MDPO: Multi-constraint Dexterous Policy Optimization with Reinforcement Learning

シェア:XThreadsFacebookLINEはてブBluesky

関節限界や衝突など複数の異種制約を累積型と状態依存型に分けて定式化し、制約ごとの射影を強化学習に組み込むことで安全な器用マニピュレーションを実現した論文。

詳しい要約

1. どんなもの?

- 器用な dexterous manipulation のための安全な policy learning 手法 MDPO を提案する論文。 - 複数の制約(joint limits、unsafe finger configurations、arm collisions、unstable object interactions など)を同時に扱う。 - dexterous manipulation を cumulative cost constraints と state-wise cost constraints の両方を含む multi-constraint policy optimization 問題として定式化する。 - constrained RL の枠組みに基づき、安全制約を満たしながらタスク性能を追求する。

2. 先行研究と比べてどこがすごい?

- 既存の dexterous manipulation 向け constrained RL は主に cumulative cost constraints に焦点を当てている。 - 既存手法は dexterous policy learning 中に複数の異種制約を同時に扱うのが難しい。 - MDPO は cumulative cost constraint と state-wise cost constraint の両方を同時に扱う点が異なる。 - 複数制約下でも制約充足とタスク性能の両立を狙う点が貢献。

3. 技術・手法の肝は?

- dexterous manipulation を multi-constraint policy optimization 問題として定式化。 - cumulative cost constraints と state-wise cost constraints の両方を組み込む。 - multi-constraint projection を dexterous manipulation policy optimization に統合。 - constraint-specific policy projections により、タスク性能を最大化する中間 policy を各制約の feasible regions へ射影する。 - cumulative cost constraint と state-wise cost constraint それぞれの feasible region への射影を行う。

4. どうやって有効だと検証した?

- ReDMan 上で extensive experiments を実施。 - safe joint control、finger safety、grasping tasks を含むタスクで評価。 - baselines と比較し、MDPO が competitive task performance を維持しつつ superior constraint satisfaction を達成することを示す。 - コードは公開リンクで利用可能と記載。

5. 議論はある?

- 要旨からは不明。 - 制約間のトレードオフや projection の計算コスト、実機への汎化については要旨に記述なし。 - baselines の詳細や制約違反率の定量的比較は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている constrained RL 手法(cumulative cost constraints を扱う既存手法)。 - multi-constraint projection や state-wise cost constraints を扱う constrained RL 関連研究。 - 評価環境である ReDMan に関する論文。 - dexterous manipulation 向け safe RL の関連手法。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Ao Zhou, Zongyou Yu, Ke Wu, Tao Xu, Junqiao Zhao, Wenchao Ding, Alois Knoll, Guang Chen

分類: cs.RO

原文アブストラクト

Dexterous manipulation requires high-dimensional control policies to accomplish complex contact-rich tasks while simultaneously satisfying multiple safety requirements, such as joint limits, unsafe finger configurations, arm collisions, and unstable object interactions. Constrained reinforcement learning (RL) provides a principled framework for incorporating these requirements into dexterous manipulation policy learning. However, existing constrained RL methods for dexterous manipulation primarily focus on cumulative cost constraints and struggle to simultaneously handle multiple heterogeneous constraints during dexterous policy learning. In this work, we propose Multi-constraint Dexterous Policy Optimization (MDPO) for safe dexterous manipulation. We first formulate dexterous manipulation as a multi-constraint policy optimization problem involving both cumulative cost constraints and state-wise cost constraints. Based on this formulation, we integrate multi-constraint projection into the dexterous manipulation policy optimization process. Specifically, we employ constraint-specific policy projections to map the intermediate policy that maximizes task performance onto the feasible regions defined by the cumulative cost constraint and the state-wise cost constraint. Extensive experiments on ReDMan, including safe joint control, finger safety, and grasping tasks, demonstrate that MDPO achieves superior constraint satisfaction while maintaining competitive task performance compared with the baselines. Our code is available at this link.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI