協調型マルチエージェント自律性における信頼のためのベイズ手法
Bayesian Methods for Trust in Collaborative Multi-Agent Autonomy
敵対者に侵入されたマルチエージェント環境での追跡アルゴリズムの脆弱性を分析し、階層ベイズ更新による信頼推定フレームワークを提案した。
著者: R. Spencer Hallyburton, Miroslav Pajic
分類: cs.RO, cs.CR, cs.SY, eess.SY
原文アブストラクト
Multi-agent, collaborative sensor fusion is a vital component of a multi-national intelligence toolkit. In safety-critical and/or contested environments, adversaries may infiltrate and compromise a number of agents. We analyze state of the art multi-target tracking algorithms under this compromised agent threat model. We prove that the track existence probability test ("track score") is significantly vulnerable to even small numbers of adversaries. To add security awareness, we design a trust estimation framework using hierarchical Bayesian updating. Our framework builds beliefs of trust on tracks and agents by mapping sensor measurements to trust pseudomeasurements (PSMs) and incorporating prior trust beliefs in a Bayesian context. In case studies, our trust estimation algorithm accurately estimates the trustworthiness of tracks/agents, subject to observability limitations.
関連論文
- MaRiO: 共有観測によるマルチエージェント協調推論ベンチマークマルチエージェント
- スペクトル固定で長期マルチエージェントAIのドリフトを解消マルチエージェント
- 進化するエージェントチームマルチエージェント
- 言語エージェントと非言語エージェントの協調の探求マルチエージェント
- LLMはナッシュ均衡を超えられるか?自己対戦型マルチエージェントゲームにおける分散協調の検証マルチエージェント
- 言語モデルエージェントは標準的な行動監査では見えない集団内信頼バイアスを示すマルチエージェント
