日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

English週刊ニュースレター購読
人間-ロボットインタラクションarXiv:2512.23482

説明可能な人間-ロボットインタラクションのための心の理論

Theory of Mind for Explainable Human-Robot Interaction

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの心の理論（ToM）を説明可能AI（XAI）の一種として捉え、XAIの評価枠組みで評価することを提案し、ユーザー中心の説明の重要性を論じた論文。

詳しい要約

1. どんなもの？

- HRI における Theory of Mind (ToM) を、ユーザー向けの解釈可能なバックエンドとして位置づける研究 - ロボットが人間の心的状態を推論・応答し、内部モデルをユーザー行動に適応させる - ToM を XAI の一形態とみなし、eValuation XAI (VXAI) framework とその seven desiderata で評価する提案 - 既存 HRI の ToM 研究が、説明がロボットの実際の内部推論とどの程度対応するかを評価していない gap を指摘 - ToM を XAI framework に統合し、ユーザー中心の説明へ視点を移すことを主張する position paper 的な内容

2. 先行研究と比べてどこがすごい？

- 従来の XAI 研究は AI system 自体に焦点が偏り、user-centered な説明が不足しがち - 既存の HRI における ToM 適用は、説明とロボットの実際の内部 reasoning の対応度をほとんど評価していない - 本研究は ToM を XAI として扱い、VXAI framework の seven desiderata で評価する点が新しい - 説明の妥当性をロボット内部推論との対応で捉える視点を導入する点が先行研究との差異

3. 技術・手法の肝は？

- ToM を XAI の一種とみなす概念的枠組みを提案 - eValuation XAI (VXAI) framework とその seven desiderata を用いて ToM を評価する方針 - ToM の原理を XAI 内部に埋め込み、ユーザーの informational needs と perspective を優先する設計へ転換 - 具体的なアルゴリズムや実装の詳細は要旨からは不明

4. どうやって有効だと検証した？

- 要旨からは不明 - VXAI framework と seven desiderata による評価を提案しているが、実験的検証の記述はない - 実装・ユーザー実験・ベンチマークの有無は要旨からは不明

5. 議論はある？

- 既存 ToM 研究が説明とロボットの実際の内部 reasoning の対応を評価していない gap を議論 - XAI が AI system 中心で user-centered 説明を欠く点を問題提起 - ToM 導入によりユーザーの情報ニーズと視点を優先する視点転換を主張 - 具体的な限界や反論、倫理的議論の詳細は要旨からは不明

6. 次に読むべき論文は？

- eValuation XAI (VXAI) framework およびその seven desiderata の原論文 - HRI における Theory of Mind (ToM) の既存研究 - Explainable Artificial Intelligence (XAI) の user-centered 説明に関する研究 - 要旨で個別の論文名は明示されていないため、上記分野の代表的文献を次に読む候補とする

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Marie S. Bauer, Julia Gachot, Matthias Kerzel, Cornelius Weber, Stefan Wermter

分類: cs.RO, cs.AI

原文アブストラクト

Within the context of human-robot interaction (HRI), Theory of Mind (ToM) is intended to serve as a user-friendly backend to the interface of robotic systems, enabling robots to infer and respond to human mental states. When integrated into robots, ToM allows them to adapt their internal models to users' behaviors, enhancing the interpretability and predictability of their actions. Similarly, Explainable Artificial Intelligence (XAI) aims to make AI systems transparent and interpretable, allowing humans to understand and interact with them effectively. Since ToM in HRI serves related purposes, we propose to consider ToM as a form of XAI and evaluate it through the eValuation XAI (VXAI) framework and its seven desiderata. This paper identifies a critical gap in the application of ToM within HRI, as existing methods rarely assess the extent to which explanations correspond to the robot's actual internal reasoning. To address this limitation, we propose to integrate ToM within XAI frameworks. By embedding ToM principles inside XAI, we argue for a shift in perspective, as current XAI research focuses predominantly on the AI system itself and often lacks user-centered explanations. Incorporating ToM would enable a change in focus, prioritizing the user's informational needs and perspective.

arXivで原文を読む →arXiv概要ページ

関連論文

← 論文一覧

今週よく読まれている記事

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大　最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携　2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER（GPU搭載BTOパソコン）

FRONTIER（GPU搭載BTOパソコン）の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI
双腕モバイルマニピュレーターOpenShellの実機とお披露目フライヤー

双腕モバイルマニピュレーター OpenShell

人と働くために、顔がある。

OpenShellの特徴・実機を見る →