日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

模倣学習arXiv:2507.09371

不完全なデモンストレーションからの制約付きスタイル学習:タスク最適性の下で

Constrained Style Learning from Imperfect Demonstrations under Task Optimality

シェア:XThreadsFacebookLINEはてブBluesky

ロボットのスタイル動作を不完全なデモから学ぶため、制約付きMDPとして定式化し、適応的ラグランジュ乗数でタスク性能を維持しつつスタイルを模倣する手法を提案。ANYmal-Dでエネルギー消費を14.5%削減。

詳しい要約

1. どんなもの?

- ロボットの実タスクにおいて、style-oriented な報酬関数を明示的に定義しづらい状況で、demonstration から自然な stylistic motion を獲得する learning from demonstration の研究。 - 実世界の demonstration は不完全・非現実的でタスク目的と厳密には一致しないことが多く、style と task performance の両立が課題。 - これを constrained Markov Decision Process (CMDP) として定式化し、style-imitation 目的をタスク性能の制約下で最適化する枠組みを提案。

2. 先行研究と比べてどこがすごい?

- 既存手法はタスク目的に近い expert demonstration を前提とし、不完全な demonstration では style を優先してタスク性能を損なう傾向があった。 - 提案法は style 模倣を制約付き最適化として扱い、near-optimal なタスク性能を維持しつつ選択的に demonstration を模倣する点が異なる。 - これにより不完全な demonstration 下でも style とタスク性能のバランスを取れる点が先行研究に対する利点。

3. 技術・手法の肝は?

- 問題を constrained Markov Decision Process (CMDP) として定式化。 - style-imitation の目的関数を最適化しつつ、タスク性能を near-optimal に保つ制約を課す。 - adaptively adjustable な Lagrangian multiplier を導入し、agent が demonstration を選択的に模倣できるように誘導。 - これにより stylistic nuance を捉えつつタスク性能の劣化を抑える。

4. どうやって有効だと検証した?

- 複数の robotic platform とタスクで手法を検証。 - robust なタスク性能と high-fidelity な style learning の両方を示した。 - ANYmal-D ハードウェア上で mechanical energy が 14.5% 低下し、より agile な gait pattern が得られ、実世界での利点を示した。

5. 議論はある?

- 要旨からは不明。 - 不完全な demonstration の種類や程度、制約の設定方法、Lagrangian multiplier の調整挙動などに関する議論は要旨には記載されていない。

6. 次に読むべき論文は?

- 要旨で参照・比較されている個別研究は明示されていない。 - 関連手法として learning from demonstration、constrained Markov Decision Process (CMDP)、Lagrangian multiplier を用いた制約付き強化学習、style learning / imitation learning の文献を次に読む候補として挙げる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Kehan Wen, Chenhao Li, Junzhe He, Marco Hutter

分類: cs.RO

原文アブストラクト

Learning from demonstration has proven effective in robotics for acquiring natural behaviors, such as stylistic motions and lifelike agility, particularly when explicitly defining style-oriented reward functions is challenging. Synthesizing stylistic motions for real-world tasks usually requires balancing task performance and imitation quality. Existing methods generally depend on expert demonstrations closely aligned with task objectives. However, practical demonstrations are often incomplete or unrealistic, causing current methods to boost style at the expense of task performance. To address this issue, we propose formulating the problem as a constrained Markov Decision Process (CMDP). Specifically, we optimize a style-imitation objective with constraints to maintain near-optimal task performance. We introduce an adaptively adjustable Lagrangian multiplier to guide the agent to imitate demonstrations selectively, capturing stylistic nuances without compromising task performance. We validate our approach across multiple robotic platforms and tasks, demonstrating both robust task performance and high-fidelity style learning. On ANYmal-D hardware we show a 14.5% drop in mechanical energy and a more agile gait pattern, showcasing real-world benefits.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI