日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

人ロボット相互作用arXiv:2609.07394

社会的直感と機械推論:複数モダリティからの人とロボットの相互作用予測

Social Intuition vs. Machine Reasoning: Anticipating Human-Robot Interaction from multiple modalities

シェア:XThreadsFacebookLINEはてブBluesky

サービスロボットの視点から人が相互作用する意図を予測するタスクで、人間の直感と機械学習モデル(ポーズベースモデルや視覚言語モデル)の性能を比較し、人間が特にフルビデオ入力で優れることを示した。

詳しい要約

1. どんなもの?

本研究は、サービスロボットの視点から、人がロボットと対話する意図を持つかどうかを予測するタスクを扱う。人間のアノテータと、pose-basedモデルおよびVision-Language Models (VLMs)の性能を比較し、人間の社会的直観が機械の推論に勝ることを示す。HUI360データセットの100トラックのパイロットサブセット(ポジティブ25、ネガティブ75)でベンチマークを実施した。

2. 先行研究と比べてどこがすごい?

先行研究では、機械学習モデルによる対話意図予測が主に試みられてきたが、人間の性能との直接比較は限られていた。本研究は、同じ入力条件(pose-onlyまたはフルビデオ)で人間とモデルを比較し、特にフルビデオ入力で人間が大幅に優れることを示した点が新しい。また、VLMのサイズと性能の相関がないことを発見した点も先行研究と異なる。

3. 技術・手法の肝は?

手法の肝は、人間のアノテータと機械モデルを同一の入力条件下で比較する実験設計にある。pose-only入力では、人間は軽量なpose-basedモデルをわずかに上回る(F1-Scoreで+0.08)。フルビデオ入力では、人間はVLMを大きく上回る(+0.2)。VLMは異なるサイズと入力条件で比較され、最良の結果はモデルサイズと相関しないことが示された。

4. どうやって有効だと検証した?

HUI360データセットの固定パイロットサブセット(100トラック)を用いて、人間のアノテータとモデルのF1-Scoreを比較した。pose-only入力では人間が+0.08、フルビデオ入力では+0.2の差で優れた。VLMのサイズと入力条件の比較も行い、最良の結果がモデルサイズと相関しないことを確認した。

5. 議論はある?

要旨からは、人間の社会的直観が機械の推論能力を上回るという結果が示唆されるが、その理由の詳細(例えば、人間が利用する手がかりの種類)は不明である。また、パイロットサブセットが小規模であるため、一般化には限界がある可能性がある。さらに、VLMの推論能力が十分でないという議論があるが、具体的な限界は要旨からは不明。

6. 次に読むべき論文は?

要旨で参照されているHUI360データセットに関する論文、および比較対象となったVision-Language Models(例:CLIP, LLaVAなど)の論文が挙げられる。また、人間の社会的知覚に関する研究(例:Theory of Mind)も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Raphael Lorenzo-Louis, Bertrand Luvison, Serena Ivaldi

分類: cs.CV

原文アブストラクト

Anticipating whether a person will interact from one's own perspective is a highly intuitive task for humans, that relies on a combination of cues. We investigate how humans perform at predicting a person's intention to interact from a service robot's point of view, using pose-only or full video input, then benchmark different lightweight pose-based models and state-of-the-art vision-language models. We conducted our benchmark on the HUI360 dataset on a fixed pilot subset of 100 test tracks (25 positive, 75 negative). We found that with pose-only input, human annotators outperform lightweight trained pose models but not by large margins (+0.08 in F1-Score). But when given full egocentric video with a target bounding box, human annotators perform substantially better and largely outperform the Vision-Language Models (+0.2 in F1-Score). We also compared VLMs of different size and under different input conditions, and found that the best results do not correlate with model size. Our result confirms that predicting interactions is a challenging task for social robots and that reasoning-capable models are necessary but their actual reasoning capabilities alone do not suffice to match the social intuition of humans.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI