日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

行動認識arXiv:2507.00756

グラフ畳み込みネットワークによるオープンワールド人間行動セグメンテーション

Towards Open-World Human Action Segmentation Using Graph Convolutional Networks

シェア:XThreadsFacebookLINEはてブBluesky

未知の行動を検出・セグメンテーションするオープンワールド行動セグメンテーションの枠組みを提案し、EPGCNやMixup訓練、時間クラスタリング損失で既存手法を大きく上回る性能を達成した。

詳しい要約

1. どんなもの?

- 日常活動理解のための human-object interaction segmentation を対象に、未知の行動が出現する open-world 設定へ拡張する問題を扱う研究。 - open-world action segmentation 問題を正式に定義し、unseen actions を検出・セグメント化する構造化フレームワークを提案。 - 応用先として assistive robotics、healthcare、autonomous systems を想定。

2. 先行研究と比べてどこがすごい?

- 既存の learning-based 手法は closed-world action segmentation では高い性能を示すが、novel actions が現れる open-world シナリオへの汎化が困難。 - 人間活動の多様性ゆえ全行動カテゴリの訓練データ収集は非現実的で、手動アノテーションなしに out-of-distribution actions を検出・セグメント化する必要がある点を動機とする。 - 提案法は state-of-the-art action segmentation models に対し複数の open-set 評価指標で改善を示す。

3. 技術・手法の肝は?

- Enhanced Pyramid Graph Convolutional Network (EPGCN) と、頑健な時空間特徴 upsampling のための新規 decoder module。 - Mixup-based training により out-of-distribution データを合成し、手動アノテーションへの依存を排除。 - 新規 Temporal Clustering loss により in-distribution actions をまとめ、out-of-distribution samples を遠ざける。

4. どうやって有効だと検証した?

- Bimanual Actions と 2 Hands and Object (H2O) の2つの challenging な human-object interaction recognition datasets で評価。 - 複数の open-set 評価指標で state-of-the-art action segmentation models を上回り、open-set segmentation (F1@50) で 16.9%、out-of-distribution detection (AUROC) で 34.6% の相対改善。 - 各提案要素の影響を調べる in-depth ablation study を実施し、最適構成を特定。

5. 議論はある?

- 提案フレームワークの各コンポーネントの寄与を ablation study で分析し、open-world action segmentation に最適な構成を同定。 - 具体的な限界や失敗事例、計算コスト等の議論は要旨からは不明。

6. 次に読むべき論文は?

- 比較対象として言及される state-of-the-art action segmentation models 全般。 - 関連手法として Enhanced Pyramid Graph Convolutional Network (EPGCN)、Mixup-based training、Temporal Clustering loss の基礎となる手法群。 - 評価に用いられた Bimanual Actions dataset および 2 Hands and Object (H2O) dataset に関連する研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Hao Xing, Kai Zhe Boey, Gordon Cheng

分類: cs.CV, cs.RO

原文アブストラクト

Human-object interaction segmentation is a fundamental task of daily activity understanding, which plays a crucial role in applications such as assistive robotics, healthcare, and autonomous systems. Most existing learning-based methods excel in closed-world action segmentation, they struggle to generalize to open-world scenarios where novel actions emerge. Collecting exhaustive action categories for training is impractical due to the dynamic diversity of human activities, necessitating models that detect and segment out-of-distribution actions without manual annotation. To address this issue, we formally define the open-world action segmentation problem and propose a structured framework for detecting and segmenting unseen actions. Our framework introduces three key innovations: 1) an Enhanced Pyramid Graph Convolutional Network (EPGCN) with a novel decoder module for robust spatiotemporal feature upsampling. 2) Mixup-based training to synthesize out-of-distribution data, eliminating reliance on manual annotations. 3) A novel Temporal Clustering loss that groups in-distribution actions while distancing out-of-distribution samples. We evaluate our framework on two challenging human-object interaction recognition datasets: Bimanual Actions and 2 Hands and Object (H2O) datasets. Experimental results demonstrate significant improvements over state-of-the-art action segmentation models across multiple open-set evaluation metrics, achieving 16.9% and 34.6% relative gains in open-set segmentation (F1@50) and out-of-distribution detection performances (AUROC), respectively. Additionally, we conduct an in-depth ablation study to assess the impact of each proposed component, identifying the optimal framework configuration for open-world action segmentation.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI