ロボットが「ノー」と言うとき:共感倫理的不服従ベンチマーク
When Robots Say No: The Empathic Ethical Disobedience Benchmark
ロボットが安全と社会的期待のバランスを取るための標準テストベッド「EED Gym」を提案し、拒否の安全性と社会的受容性を評価する。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Dmytro Kuzmenko, Nadiya Shvai
分類: cs.RO, cs.HC
原文アブストラクト
Robots must balance compliance with safety and social expectations as blind obedience can cause harm, while over-refusal erodes trust. Existing safe reinforcement learning (RL) benchmarks emphasize physical hazards, while human-robot interaction trust studies are small-scale and hard to reproduce. We present the Empathic Ethical Disobedience (EED) Gym, a standardized testbed that jointly evaluates refusal safety and social acceptability. Agents weigh risk, affect, and trust when choosing to comply, refuse (with or without explanation), clarify, or propose safer alternatives. EED Gym provides different scenarios, multiple persona profiles, and metrics for safety, calibration, and refusals, with trust and blame models grounded in a vignette study. Using EED Gym, we find that action masking eliminates unsafe compliance, while explanatory refusals help sustain trust. Constructive styles are rated most trustworthy, empathic styles -- most empathic, and safe RL methods improve robustness but also make agents more prone to overly cautious behavior. We release code, configurations, and reference policies to enable reproducible evaluation and systematic human-robot interaction research on refusal and trust. At submission time, we include an anonymized reproducibility package with code and configs, and we commit to open-sourcing the full repository after the paper is accepted.
関連論文
- 人間とロボットの相互作用のための確率的物理デジタルツイン人間ロボットインタラクション
- ロボットのユーモアを交えた謝罪が信頼回復に与える影響の研究人間ロボットインタラクション
- 公共空間におけるRoboCafé:長期的な人間とロボットのインタラクションにおける継続性人間ロボットインタラクション
- 教師の期待とロボット学習を結ぶ結合ダイナミクス人間ロボットインタラクション
- 共形リスク制御を用いた人間とロボットのインタラクションのための安全な確率的計画人間ロボットインタラクション
- 自然言語環境に向けて:自然言語による人間と複数ロボットのシームレスなインタラクションの理解人間ロボットインタラクション
