視覚言語モデルによるロボット説明能力の強化:視覚入力解釈による人間-ロボットインタラクションの改善に関する予備研究
Enhancing Robot Explanation Capabilities through Vision-Language Models: a Preliminary Study by Interpreting Visual Inputs for Improved Human-Robot Interaction
ロボットの行動ログに視覚言語モデルで画像情報を加え、人間にわかりやすい自然言語の説明を生成するシステムを試作し、人間回避を伴うナビゲーション課題で精度向上を確認した。
著者: David Sobrín-Hidalgo, Miguel Ángel González-Santamarta, Ángel Manuel Guerrero-Higueras, Francisco Javier Rodríguez-Lera, Vicente Matellán-Olivera
分類: cs.RO
原文アブストラクト
This paper presents an improved system based on our prior work, designed to create explanations for autonomous robot actions during Human-Robot Interaction (HRI). Previously, we developed a system that used Large Language Models (LLMs) to interpret logs and produce natural language explanations. In this study, we expand our approach by incorporating Vision-Language Models (VLMs), enabling the system to analyze textual logs with the added context of visual input. This method allows for generating explanations that combine data from the robot's logs and the images it captures. We tested this enhanced system on a basic navigation task where the robot needs to avoid a human obstacle. The findings from this preliminary study indicate that adding visual interpretation improves our system's explanations by precisely identifying obstacles and increasing the accuracy of the explanations provided.
関連論文
- 他者への配慮を考慮した空間的人間-エージェントインタラクションモデル人間-ロボットインタラクション
- 視覚言語モデルを社会的知能の代理として活用する人間-ロボットインタラクション人間-ロボットインタラクション
- 説明可能な人間-ロボットインタラクションのための心の理論人間-ロボットインタラクション
- ロボットが「ノー」と言うとき:説明による信頼の時間的回復人間-ロボットインタラクション
- 産業メタバースにおけるリアルタイム人間-ロボットインタラクションのためのタスク指向エッジ支援クロスシステム設計人間-ロボットインタラクション
- 操作者の模倣による自律的な人間-ロボットインタラクション人間-ロボットインタラクション
