日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

人機インタラクションarXiv:2603.16537

不一致を前提とした設計:LLM搭載ロボットの支援割り当てにおけるフロントエンドガードレール

Designing for Disagreement: Front-End Guardrails for Assistance Allocation in LLM-Enabled Robots

シェア:XThreadsFacebookLINEはてブBluesky

LLM搭載ロボットが複数ユーザーへの支援順序を決める際、価値観の多様性とLLMの振る舞いのばらつきに対処するため、承認済みモードへの制約、明確な表示、異議申し立て経路を備えた手続き的パターンを提案する論文。

詳しい要約

1. どんなもの?

LLM-enabled robotsが社会的状況で希少なassistanceを配分する際のfront-end guardrailsを設計する研究。 - 多様な価値観とLLMの振る舞いの変動性に対処 - リアルタイム多人数assistance allocationのためのuser-facing guardrailsが未整備 - bounded calibration with contestabilityという手続き的front-end patternを提案 - 公共空間ロボットのvignetteで例示

2. 先行研究と比べてどこがすごい?

先行研究と比べての優位性は要旨からは不明。 - 既存のuser-facing guardrailsはreal-time multi-user assistance allocationで不十分と指摘 - silent defaultsによる暗黙の価値偏りと、wide-openなuser-configurable value settingsの負担移動を回避 - 手続き的正当性とlegibilityを重視する点が特徴的

3. 技術・手法の肝は?

bounded calibration with contestabilityという手続き的front-end pattern。 - (i) 優先順位付けをgovernance-approvedなadmissible modesのメニューに制限 - (ii) 能動モードをdeferralの時点でinteraction-relevantな用語でlegibleに保つ - (iii) グローバルルールを再交渉せずにoutcome-specificなcontest pathwayを提供 - pluralismとLLM uncertaintyをstanding conditionsとして扱う

4. どうやって有効だと検証した?

公共空間ロボットのvignetteで例示。 - 評価アジェンダを提示:legibility, procedural legitimacy, actionability - automation biasやcontest channelsの不均一なusabilityのリスクも含む - 実証的検証は要旨からは不明

5. 議論はある?

議論点として以下を挙げる。 - automation biasのリスク - contest channelsの不均一なusability - silent defaultsとwide-open value settingsの両極端の回避 - 評価アジェンダの必要性

6. 次に読むべき論文は?

要旨で参照/比較されている研究は明示されていない。 - 同分野の定番として、LLM-enabled robotsの価値調整、human-robot interactionにおけるpluralism、contestability、automation biasに関する研究が挙げられる

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Carmen Ng

分類: cs.AI, cs.HC, cs.RO

原文アブストラクト

LLM-enabled robots prioritizing scarce assistance in social settings face pluralistic values and LLM behavioral variability: reasonable people can disagree about who is helped first, while LLM-mediated interaction policies vary across prompts, contexts, and groups in ways that are difficult to anticipate or verify at contact point. Yet user-facing guardrails for real-time, multi-user assistance allocation remain under-specified. We propose bounded calibration with contestability, a procedural front-end pattern that (i) constrains prioritization to a governance-approved menu of admissible modes, (ii) keeps the active mode legible in interaction-relevant terms at the point of deferral, and (iii) provides an outcome-specific contest pathway without renegotiating the global rule. Treating pluralism and LLM uncertainty as standing conditions, the pattern avoids both silent defaults that hide implicit value skews and wide-open user-configurable "value settings" that shift burden under time pressure. We illustrate the pattern with a public-concourse robot vignette and outline an evaluation agenda centered on legibility, procedural legitimacy, and actionability, including risks of automation bias and uneven usability of contest channels.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI