マルチエージェント相互作用における責任配分の学習:制御バリア関数と微分可能最適化によるアプローチ
Learning responsibility allocations for multi-agent interactions: A differentiable optimization approach with control barrier functions
制御バリア関数と微分可能最適化を用いて、エージェントが安全な相互作用のためにどれだけ制御を譲るか(責任配分)をデータから学習する手法を提案し、合成・実世界データで解釈可能な定量化を実現した。
著者: Isaac Remy, David Fridovich-Keil, Karen Leung
分類: eess.SY, cs.LG, cs.MA, cs.RO, cs.SY
原文アブストラクト
From autonomous driving to package delivery, ensuring safe yet efficient multi-agent interaction is challenging as the interaction dynamics are influenced by hard-to-model factors such as social norms and contextual cues. Understanding these influences can aid in the design and evaluation of socially-aware autonomous agents whose behaviors are aligned with human values. In this work, we seek to codify factors governing safe multi-agent interactions via the lens of responsibility, i.e., an agent's willingness to deviate from their desired control to accommodate safe interaction with others. Specifically, we propose a data-driven modeling approach based on control barrier functions and differentiable optimization that efficiently learns agents' responsibility allocation from data. We demonstrate on synthetic and real-world datasets that we can obtain an interpretable and quantitative understanding of how much agents adjust their behavior to ensure the safety of others given their current environment.
関連論文
- MaRiO: 共有観測によるマルチエージェント協調推論ベンチマークマルチエージェント
- スペクトル固定で長期マルチエージェントAIのドリフトを解消マルチエージェント
- 進化するエージェントチームマルチエージェント
- 言語エージェントと非言語エージェントの協調の探求マルチエージェント
- LLMはナッシュ均衡を超えられるか?自己対戦型マルチエージェントゲームにおける分散協調の検証マルチエージェント
- 言語モデルエージェントは標準的な行動監査では見えない集団内信頼バイアスを示すマルチエージェント
