多目的方策最適化のための適応的スムーズ・チェビシェフ注意機構
Adaptive Smooth Tchebycheff Attention for Multi-Objective Policy Optimization
ロボットの多目的強化学習において、非凸なパレート最適解を安定して発見するため、勾配干渉に応じて最適化の滑らかさを動的に調整する適応的スムーズ・チェビシェフ枠組みを提案した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Alejandro Murillo-Gonzalez, Mahmoud Ali, Lantao Liu
分類: cs.RO, cs.AI, cs.LG, cs.SY, eess.SY, math.OC
原文アブストラクト
Multi-objective reinforcement learning in robotic domains requires balancing complex, non-convex trade-offs between conflicting objectives. While linear scalarization methods provide stability, they are theoretically incapable of recovering solutions within non-convex regions of the Pareto front. Conversely, static non-linear scalarizations (e.g., Tchebycheff) can theoretically access these regions but often suffer from severe gradient variance and optimization instability in deep RL. In this work, we propose an Adaptive Smooth Tchebycheff framework that resolves this tension by dynamically modulating the curvature of the optimization landscape. We introduce a novel conflict-driven controller that regulates the optimization smoothness based on real-time gradient interference. This allows the agent to anneal toward precise, non-convex scalarization when objectives align, while elastically reverting to stable, smooth approximations when destructive gradient conflicts emerge. We validate our approach on a challenging robotic stealth visual search task -- a proxy for monitoring of protected/fragile ecosystems -- where an agent must balance search, exposure/interference minimization and exploration speed. Extensive ablations confirm that our conflict-aware adaptation enables the robust discovery of Pareto-optimal policies in non-convex regions inaccessible to linear baselines and unstable for static non-linear methods. Website: https://alejandromllo.github.io/research/pasta/
関連論文
- ルーティング型アンサンブルと軌跡帰属による多目的強化学習多目的強化学習
- LEMUR: 嗜好フィードバックを用いた多目的強化学習によるアライメント学習多目的強化学習
- 後知恵選好リプレイによる選好条件付き多目的強化学習の改善多目的強化学習
- 多目的連続ロボット制御のためのパレート集合学習多目的強化学習
- 多目的方策最適化の分布的アプローチ多目的強化学習
- 報酬関数の補間による多目的強化学習の最適価値関数予測多目的強化学習
