SemanticScanpath: LLMを用いた視線と音声の統合による状況依存型ヒューマンロボットインタラクション
SemanticScanpath: Combining Gaze and Speech for Situated Human-Robot Interaction Using LLMs
ユーザーの視線の動き(スキャンパス)をテキストに変換して音声指示と統合し、LLMが曖昧な指示を物理的状況に基づいて正しく解釈できるようにする手法を提案。ロボット実装で有効性を検証。
著者: Elisabeth Menendez, Michael Gienger, Santiago Martínez, Carlos Balaguer, Anna Belardinelli
分類: cs.HC, cs.RO
原文アブストラクト
Large Language Models (LLMs) have substantially improved the conversational capabilities of social robots. Nevertheless, for an intuitive and fluent human-robot interaction, robots should be able to ground the conversation by relating ambiguous or underspecified spoken utterances to the current physical situation and to the intents expressed nonverbally by the user, such as through referential gaze. Here, we propose a representation that integrates speech and gaze to enable LLMs to achieve higher situated awareness and correctly resolve ambiguous requests. Our approach relies on a text-based semantic translation of the scanpath produced by the user, along with the verbal requests. It demonstrates LLMs' capabilities to reason about gaze behavior, robustly ignoring spurious glances or irrelevant objects. We validate the system across multiple tasks and two scenarios, showing its superior generality and accuracy compared to control conditions. We demonstrate an implementation on a robotic platform, closing the loop from request interpretation to execution.
関連論文
- ヒューマノイド抱擁ロボットにおける指の動きがユーザーに与える影響の研究ヒューマンロボットインタラクション
- ロボット支援頭部固定制御のための人-ロボット相互作用ワークスペースの決定ヒューマンロボットインタラクション
- 人間と相互作用する信頼できるフィジカルAIに向けてヒューマンロボットインタラクション
- HINT-Blimp:マルチモーダルな手がかりからの人間意図推定によるロボット飛行船ヒューマンロボットインタラクション
- MIRA: 身体性を備えたコンパニオン向けリアルタイム全二重ヒューマンロボットインタラクションヒューマンロボットインタラクション
- 個々の特性を考慮した支援型ヒューマンロボットインタラクションにおけるエンゲージメントと侵入性の理解ヒューマンロボットインタラクション
