日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

手のポーズ予測arXiv:2605.07642

EggHand: 自己中心視点の手のポーズ予測のためのマルチモーダル基盤モデル

EggHand: A Multimodal Foundation Model for Egocentric Hand Pose Forecasting

シェア:XThreadsFacebookLINEはてブBluesky

自己中心視点のビデオから将来の3D手のポーズ系列を予測する基盤モデルを提案し、VLAモデルの行動デコーダと自己中心ビデオテキストエンコーダを統合して、動き・文脈・意図を共同推論する。EgoExo4Dデータセットで最先端の精度を達成し、言語プロンプトによる制御可能な予測も可能にした。

詳しい要約

1. どんなもの?

- 一人称視点(egocentric)の動画から将来の3D手姿勢系列を予測するタスクを扱う。 - 意図理解やAR/VR支援、human-robot interactionへの応用を目指す。 - EggHandという基盤モデルベースのフレームワークを提案。 - マルチモーダルな意味推論と動きのモデリングを統合する。 - 身体姿勢や外部トラッキングに依存しない。

2. 先行研究と比べてどこがすごい?

- 従来の汎用視覚エンコーダはego-motionによる視点変化に弱い。 - EggHandは一人称動画とテキストから視点を考慮した文脈情報を学習する。 - VLAモデルのaction decoderを活用し、手の動きの時間的構造を捉える。 - 身体姿勢や外部トラッキングを使わずに、動き・文脈・高レベル意図を統合推論できる。 - EgoExo4Dで予測精度の新たなstate of the artを達成。

3. 技術・手法の肝は?

- Vision-Language-Action(VLA)モデルのaction decoderを組み込む。 - 一人称動画とテキストのエンコーダを組み合わせる。 - 大規模一人称動画から視点を考慮した文脈情報を学習。 - 動き・文脈・高レベル意図を統合的に推論する。 - 言語ベースのタスクプロンプトによる制御可能な予測を可能にする。

4. どうやって有効だと検証した?

- EgoExo4Dデータセットで実験。 - 予測精度で新たなstate of the artを達成。 - 激しいego-motion下でもロバスト性を維持。 - 言語ベースのタスクプロンプトによる制御可能な予測を実証。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- EgoExo4D - Vision-Language-Action(VLA)モデル - 一人称動画とテキストのエンコーダ - 一般的なhand pose forecastingの研究

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jaeyoung Choi, Hyeondong Kim, Yujin Kim, Daehee Park

分類: cs.CV

原文アブストラクト

Forecasting future 3D hand pose sequences from egocentric video is essential for understanding human intention and enabling embodied applications such as AR/VR assistance and human-robot interaction. However, this task remains a highly challenging problem because egocentric hand motion is driven by complex human intent, exhibits highly dexterous articulations, and is observed under drastic viewpoint shifts induced by ego-motion. In this work, we introduce EggHand, a foundation-model-based framework for egocentric hand pose forecasting that unifies multimodal semantic reasoning with dynamic motion modeling. Our approach couples an action decoder from a Vision-Language-Action (VLA) model, which captures the structured temporal dynamics of hand motion, with an egocentric video-text encoder that provides viewpoint-aware contextual information learned from large-scale first-person video. Together, these components overcome the brittleness of generic visual encoders under ego-motion and enable joint reasoning over motion, context, and high-level intent-without relying on body pose or external tracking. Experiments on the EgoExo4D dataset show that EggHand sets a new state of the art in forecasting accuracy, remains robust under severe ego-motion, and further enables controllable prediction via language-based task prompts. Project page: https://jyoun9.github.io/EggHand

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI