日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

HRI/プライバシーarXiv:2507.16124

家庭用ロボットの意思決定におけるLLMのプライバシー認識のベンチマーク

Benchmarking LLM Privacy Recognition for Social Robot Decision Making

シェア:XThreadsFacebookLINEはてブBluesky

家庭用ロボットのプライバシー関連シナリオをContextual Integrityフレームワークで作成し、人間と最先端LLMのプライバシー判断の一致度を比較評価した。

詳しい要約

1. どんなもの?

- 家庭用ロボットにおけるLLMのprivacy認識を評価するベンチマーク研究 - Contextual Integrity (CI) frameworkに基づくprivacy関連シナリオを構築 - 人間(N=450)のprivacy選好を調査し、同一シナリオを最先端LLM(N=10)に提示 - 人間とLLMの判断一致度を測定し、LLMをprivacy controllerとして使えるか検討

2. 先行研究と比べてどこがすごい?

- 従来のロボットはrule-based systemsやprobabilistic modelsでユーザーと対話 - LLM搭載ロボットのHRI可能性に着目し、privacyの観点から評価した点が新しい - 家庭内ロボットというprivate環境でのLLMのprivacy-aware度を直接検証 - 要旨からは不明:既存のprivacyベンチマークとの詳細な比較

3. 技術・手法の肝は?

- Contextual Integrity (CI) frameworkを用いてprivacy-relevant scenariosを設計 - ユーザー調査(N=450)で家庭内ロボット行動へのprivacy選好とprivacy orientationの影響を分析 - 同一シナリオ・質問をstate-of-the-art LLMs(N=10)に提示 - 追加で4つのprompting strategiesを実装し、privacy controllerとしての性能を比較

4. どうやって有効だと検証した?

- 人間(N=450)とLLM(N=10)の回答一致度(agreement)を定量評価 - 結果として人間とLLMの一致度は一般的に低いことを確認 - 4つのprompting strategiesの結果を比較し、LLMのprivacy判断能力を検証 - 評価モデルの性能を議論

5. 議論はある?

- 人間とLLMのprivacy判断の一致度が低いことの意味を議論 - LLMをprivacy controllerとして用いる可能性と限界を検討 - HRIにおけるAI privacy awarenessの含意と可能性を議論 - 要旨からは不明:具体的なprompting strategiesの内容や各モデルの詳細

6. 次に読むべき論文は?

- Contextual Integrity (CI) framework関連のprivacy研究 - LLM-powered robots / HRIにおけるprivacy研究 - LLMのprivacy awarenessやprivacy controllerに関する評価研究 - prompting strategiesによるLLMの判断制御に関する研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Dakota Sullivan, Shirley Zhang, Jennica Li, Heather Kirkorian, Bilge Mutlu, Kassem Fawaz

分類: cs.RO, cs.AI

原文アブストラクト

While robots have previously utilized rule-based systems or probabilistic models for user interaction, the rapid evolution of large language models (LLMs) presents new opportunities to develop LLM-powered robots for enhanced human-robot interaction (HRI). To fully realize these capabilities, however, robots need to collect data such as audio, fine-grained images, video, and locations. As a result, LLMs often process sensitive personal information, particularly within private environments, such as homes. Given the tension between utility and privacy risks, evaluating how current LLMs manage sensitive data is critical. Specifically, we aim to explore the extent to which out-of-the-box LLMs are privacy-aware in the context of household robots. In this work, we present a set of privacy-relevant scenarios developed using the Contextual Integrity (CI) framework. We first surveyed users' privacy preferences regarding in-home robot behaviors and then examined how their privacy orientations affected their choices of these behaviors (N = 450). We then provided the same set of scenarios and questions to state-of-the-art LLMs (N = 10) and found that the agreement between humans and LLMs was generally low. To further investigate the capabilities of LLMs as potential privacy controllers, we implemented four additional prompting strategies and compared their results. We discuss the performance of the evaluated models as well as the implications and potential of AI privacy awareness in human-robot interaction.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI