日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

HRI/信頼arXiv:2506.21322

家族向けヘルスケアロボットが人間の記憶と矛盾する情報を提示した際のユーザー解釈と意思決定

"Who Should I Believe?": User Interpretation and Decision-Making When a Family Healthcare Robot Contradicts Human Memory

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの透明性と社交性が、記憶と矛盾する情報に直面した際のユーザーの解釈・意思決定・信頼感に与える影響をオンライン実験で調査した。

詳しい要約

1. どんなもの?

- 家庭用 healthcare robot が服薬タイミングを提案する際、ユーザの記憶と矛盾する状況を扱う研究 - Furhat robot を family healthcare assistant として用いた 2 x 2 between-subjects online study - 176 名の参加者が動画を視聴し、robot の transparency と sociability の違いが解釈・意思決定・perceived trust に与える影響を検討

2. 先行研究と比べてどこがすごい?

- 要旨からは不明(先行研究との直接比較は記述されていない) - 本研究の特徴として、robot の情報とユーザ記憶の矛盾という状況に着目 - transparency と sociability を操作し、解釈・意思決定・perceived trust を同時に検討

3. 技術・手法の肝は?

- 2 x 2 between-subjects online study を実施 - Furhat robot が family healthcare assistant として、ユーザの記憶と異なる服薬時刻を提案する動画を使用 - robot の transparency 水準と sociability 水準を操作し、参加者の解釈・意思決定・perceived trust を測定

4. どうやって有効だと検証した?

- 176 名の参加者を対象とした online study で検証 - low transparency robot ではユーザの記憶違いと解釈する傾向 - high transparency robot では partner や他の household member による情報変更など external factors に帰属する傾向 - overtrust の傾向を観察

5. 議論はある?

- transparency 機構が情報矛盾の解釈に影響することを指摘 - 家庭環境に展開する multi-user robot における system access control の複雑さと重要性を議論 - healthcare のような sensitive domains での over reliance のリスクを指摘 - 要旨からは不明(具体的な限界や今後の課題の詳細は記述されていない)

6. 次に読むべき論文は?

- 要旨で参照・比較されている研究は明示されていない - 関連手法として transparency や perceived trust を扱う HRI 研究、multi-user robot の access control 研究、healthcare robot の overtrust 研究が候補 - 具体的な論文名は要旨からは不明

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hong Wang, Natalia Calvo-Barajas, Katie Winkle, Ginevra Castellano

分類: cs.HC, cs.RO

原文アブストラクト

Advancements in robotic capabilities for providing physical assistance, psychological support, and daily health management are making the deployment of intelligent healthcare robots in home environments increasingly feasible in the near future. However, challenges arise when the information provided by these robots contradicts users' memory, raising concerns about user trust and decision-making. This paper presents a study that examines how varying a robot's level of transparency and sociability influences user interpretation, decision-making and perceived trust when faced with conflicting information from a robot. In a 2 x 2 between-subjects online study, 176 participants watched videos of a Furhat robot acting as a family healthcare assistant and suggesting a fictional user to take medication at a different time from that remembered by the user. Results indicate that robot transparency influenced users' interpretation of information discrepancies: with a low transparency robot, the most frequent assumption was that the user had not correctly remembered the time, while with the high transparency robot, participants were more likely to attribute the discrepancy to external factors, such as a partner or another household member modifying the robot's information. Additionally, participants exhibited a tendency toward overtrust, often prioritizing the robot's recommendations over the user's memory, even when suspecting system malfunctions or third-party interference. These findings highlight the impact of transparency mechanisms in robotic systems, the complexity and importance associated with system access control for multi-user robots deployed in home environments, and the potential risks of users' over reliance on robots in sensitive domains such as healthcare.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI