物理推論と力におけるデュアルユースのジレンマについて
On the Dual-Use Dilemma in Physical Reasoning and Force
VLMがロボットの力強い動作を生成する際の安全対策が、有益な接触操作も抑制してしまうことを事例研究で示し、価値整合とロボット能力のトレードオフを議論した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: William Xie, Enora Rice, Nikolaus Correll
分類: cs.RO
原文アブストラクト
Humans learn how and when to apply forces in the world via a complex physiological and psychological learning process. Attempting to replicate this in vision-language models (VLMs) presents two challenges: VLMs can produce harmful behavior, which is particularly dangerous for VLM-controlled robots which interact with the world, but imposing behavioral safeguards can limit their functional and ethical extents. We conduct two case studies on safeguarding VLMs which generate forceful robotic motion, finding that safeguards reduce both harmful and helpful behavior involving contact-rich manipulation of human body parts. Then, we discuss the key implication of this result--that value alignment may impede desirable robot capabilities--for model evaluation and robot learning.
