観測に基づく分散型マルチロボットナビゲーションのための安全保証付き方策学習
Learning Observation-Based Certifiable Safe Policy for Decentralized Multi-Robot Navigation
制御バリア関数と深層遷移モデルを組み合わせ、センサ観測のみから強化学習方策の行動を安全領域に補正する分散型マルチロボットナビゲーション手法を提案し、実機・シミュレーションで有効性を示した。
著者: Yuxiang Cui, Longzhong Lin, Xiaolong Huang, Dongkun Zhang, Yue Wang, Rong Xiong
分類: cs.RO
原文アブストラクト
Safety is of great importance in multi-robot navigation problems. In this paper, we propose a control barrier function (CBF) based optimizer that ensures robot safety with both high probability and flexibility, using only sensor measurement. The optimizer takes action commands from the policy network as initial values and then provides refinement to drive the potentially dangerous ones back into safe regions. With the help of a deep transition model that predicts the evolution of surrounding dynamics and the consequences of different actions, the CBF module can guide the optimization in a reasonable time horizon. We also present a novel joint training framework that improves the cooperation between the Reinforcement Learning (RL) based policy and the CBF-based optimizer both in training and inference procedures by utilizing reward feedback from the CBF module. We observe that the policy using our method can achieve a higher success rate while maintaining the safety of multiple robots in significantly fewer episodes compared with other methods. Experiments are conducted in multiple scenarios both in simulation and the real world, the results demonstrate the effectiveness of our method in maintaining the safety of multi-robot navigation. Code is available at \url{https://github.com/YuxiangCui/MARL-OCBF
関連論文
- 潜在活性編集:安全なマルチロボットナビゲーションのための学習済みポリシーの推論時改良マルチロボットナビゲーション
- ソーシャルミニゲームにおけるマルチロボットナビゲーション:定義、分類、アルゴリズムマルチロボットナビゲーション
- マルチモーダル連鎖思考スコア協調によるマルチロボット意味ナビゲーションの強化マルチロボットナビゲーション
- 未知環境におけるマルチロボット長距離ナビゲーションの学習強化手法マルチロボットナビゲーション
- 狭い廊下でのマルチロボットナビゲーションのための知覚ハルシネーション学習マルチロボットナビゲーション
- 相互速度障害物を報酬設計に組み込んだ強化学習による分散マルチロボットナビゲーションマルチロボットナビゲーション
