日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

HOI認識arXiv:2609.35955

HEIR: 機能的役割を伴う人-実体インタラクションの学習

HEIR: Learning Human-Entity Interactions with Functional Roles

シェア:XThreadsFacebookLINEはてブBluesky

人と物体・人・自己のインタラクションを「誰がどの役割で何をするか」という完全な参加者-役割集合として捉える画像ベンチマークHEIRと、共有実体識別子を用いて役割条件付き証拠を統合し集合予測するCoRISPを提案。

詳しい要約

1. どんなもの?

- 画像ベンチマーク HEIR を提案。 - Human-Entity Interactions with Functional Roles の略。 - object/interpersonal/self-directed の interaction を対象。 - 18,730 images、6 roles、105 actions、437 nouns を含む。 - shared entities、role changes、repeated fillers を含む。 - 51.6% が複数 actor、62.1% が複数 action。 - 手法 CoRISP を提案。 - Compositional Role-aware Interaction Set Prediction。 - 完全な participant-role set を予測。

2. 先行研究と比べてどこがすごい?

- 標準 HOI metrics は個別 link を採点し、完全な event composition を過小評価。 - HEIR は relation AP に加え complete-set AP と structural evaluation を導入。 - 16 baselines で relation と complete-event の ranking が乖離。 - action weights を揃えても乖離。 - CoRISP は repeated-role events と shared-participant images で評価システム中首位。 - それぞれ 2.87、3.82 Set mAP ポイント上回る。

3. 技術・手法の肝は?

- CoRISP は shared entity identities を利用。 - role-conditioned evidence を統合。 - normalized participant-role sets を予測。 - Cardinality potential と role-multiplicity potential を導入。 - event size と role composition を通じて assignment を結合。 - exact per-event normalization を行う。

4. どうやって有効だと検証した?

- HEIR 上で 16 baselines と比較。 - relation と complete-event の ranking 乖離を確認。 - CoRISP が repeated-role events で 2.87 Set mAP ポイント優位。 - shared-participant images で 3.82 Set mAP ポイント優位。 - V-COCO 上で評価。 - two-slot actions で role AP 73.72/76.23。 - complete-set AP 61.06/68.59。 - Scenarios 1/2 の結果。

5. 議論はある?

- 個別 relation と event composition を併せて学習・評価する価値が示唆。 - 標準 HOI metrics では完全な event composition を測れない点を指摘。 - 要旨からは不明。 - 具体的な限界や失敗事例の議論。 - 計算コストやスケーラビリティの議論。

6. 次に読むべき論文は?

- HEIR と比較された 16 baselines の詳細。 - V-COCO 上の既存手法。 - HOI 関連の標準手法。 - Human-Object Interaction detection。 - Scene Graph Generation。 - Compositional Action Recognition。 - 要旨で参照/比較されている個別研究名は明示されていない。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Di Wen, Wenhao Guo, Yuedong Tan, Yun Huang, Minheng Wu, Zhihang Chen, Haiwen Sun, Fei Teng, Zhiyuan Gao, Yufeng Zhang, Yuanhao Luo, Jingqi Zhang, Yufan Chen, Junwei Zheng, Ruiping Liu, Jiale Wei, Kailun Yang, Kunyu Peng

分類: cs.CV

原文アブストラクト

Understanding human-entity interactions requires recovering each person-action event's participants, roles, and shared identities. This structure can support embodied agents by clarifying who acts on which entities and how, informing anticipation and coordination in shared environments. Standard HOI metrics score individual links, leaving complete event composition undermeasured. We introduce HEIR (Human-Entity Interactions with Functional Roles), an image benchmark for complete grounded participant-role sets across object, interpersonal, and self-directed interactions. It contains 18,730 images, six roles, 105 actions, and 437 nouns, with shared entities, role changes, and repeated fillers; 51.6% of images contain multiple actors and 62.1% contain multiple actions. HEIR pairs relation AP with complete-set AP and structural evaluation. We also introduce CoRISP (Compositional Role-aware Interaction Set Prediction), which uses shared entity identities to combine role-conditioned evidence and predict normalized participant-role sets. Cardinality and role-multiplicity potentials couple assignments through event size and role composition, with exact per-event normalization. Across 16 baselines, relation and complete-event rankings diverge even after aligning action weights. CoRISP leads the evaluated systems on repeated-role events and shared-participant images in HEIR by 2.87 and 3.82 Set mAP points, respectively. On V-COCO, CoRISP achieves 73.72/76.23 role AP and 61.06/68.59 complete-set AP on two-slot actions under Scenarios 1/2. These results show the value of learning and evaluating event composition alongside individual relations. The code and dataset are publicly available at https://github.com/Kratos-Wen/HEIR.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI