日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

LLM安全性arXiv:2610.27573

LLMが操作するとき:行動・社会・時間的影響の計測

When LLMs Manipulate: Measuring Behavioral, Social, and Temporal Effects

シェア:XThreadsFacebookLINEはてブBluesky

LLMの操作的応答に対するユーザーの行動的脆弱性を測る枠組みを提案し、権威・緊急性・社会的証明のバイアスを狙った刺激で信頼校正や従順さへの影響とその社会的・時間的波及を実験的に示した。

詳しい要約

1. どんなもの?

- LLM が生成する操作的な応答がユーザーの信頼や意思決定に与える行動的影響を定量化する研究。 - behavioral vulnerability(操作的な AI 応答へのユーザーの感受性)を測定する behavioral computing framework を提案。 - DarkPatterns-LLM benchmark を基盤に、authority・urgency・social proof に関わるバイアスを標的とする。 - 個人・社会・時間の三側面からリスクを評価する枠組みを示す。

2. 先行研究と比べてどこがすごい?

- 従来の LLM 安全性評価はモデル出力の検査が中心で、実際のユーザー行動への影響は十分に定量化されていなかった。 - 本研究は出力評価を超え、測定可能な行動的帰結へと評価範囲を拡張する点を主張。 - DarkPatterns-LLM benchmark を刺激生成の基盤として用いる点が先行研究との違い。 - 個人だけでなく社会的伝播や時間的持続まで扱う点が新規。

3. 技術・手法の肝は?

- Manipulation Gradient Descent (MGD) により制御された操作的な刺激を生成。 - 標的とするバイアスは authority、urgency、social proof。 - Multi-Stakeholder Impact Assessment Network (MSIAN) でユーザー間の影響伝播をモデル化。 - Temporal Harm Propagation Model (THPM) で行動効果の時間的持続を特徴づける。 - 120 名の参加者研究で trust calibration と compliance の変化を分析。

4. どうやって有効だと検証した?

- 120 名の参加者を対象とした研究を実施。 - 操作的なフレーミングが trust calibration と compliance に有意な変化を生じさせた(p < 0.01)。 - 効果が社会的文脈を越えて伝播することも確認。 - MSIAN と THPM を用いて個人・社会・時間の各側面から効果を評価。

5. 議論はある?

- LLM 安全性評価をモデル出力だけでなく、測定可能な行動的帰結へ拡張する必要性を指摘。 - 操作的な AI 相互作用に由来する個人・社会・時間的リスクを定量化する計算枠組みを提供。 - 具体的な限界や倫理的議論の詳細は要旨からは不明。 - サンプル規模や外的妥当性に関する議論は要旨からは不明。

6. 次に読むべき論文は?

- DarkPatterns-LLM benchmark の原論文。 - Manipulation Gradient Descent (MGD) に関連する研究。 - Multi-Stakeholder Impact Assessment Network (MSIAN) および Temporal Harm Propagation Model (THPM) の関連文献。 - LLM の persuasion・manipulation に関する既存研究(要旨では個別名称は明示されず)。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Sadia Asif, Israel Antonio Rosales Laguan, Shumaila Asif, Haris Khan, Muneeb Asif, Muhammad Zeeshan Karamat

分類: cs.AI, cs.CL, cs.CY, cs.HC, cs.LG

原文アブストラクト

Large language models (LLMs) can influence user trust and decision-making through subtle linguistic cues, yet the behavioral effects of manipulative outputs remain poorly quantified. We introduce a behavioral computing framework for measuring \textit{behavioral vulnerability}, defined as users' susceptibility to manipulative AI responses. Building on DarkPatterns-LLM benchmark, we generate controlled manipulative stimuli using Manipulation Gradient Descent (MGD), targeting biases associated with authority, urgency, and social proof. We analyze participant responses using the Multi-Stakeholder Impact Assessment Network (MSIAN) to model cross-user influence and the Temporal Harm Propagation Model (THPM) to characterize the persistence of behavioral effects over time. In a study involving 120 participants, manipulative framing produced significant changes in trust calibration and compliance ($p < 0.01$), with effects also propagating across social contexts. These findings highlight the need to extend LLM safety evaluation beyond model outputs to measurable behavioral consequences and provide a computational framework for quantifying individual, social, and temporal risks arising from manipulative AI interactions.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI