日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ジェスチャー生成arXiv:2507.04522

空間に根ざしたジェスチャー生成:言語・動作・空間の統合

Grounded Gesture Generation: Language, Motion, and Space

シェア:XThreadsFacebookLINEはてブBluesky

空間的な文脈を考慮した指示的ジェスチャー生成のためのマルチモーダルデータセットとフレームワークを提案し、物理シミュレータと連携して状況に応じた評価を可能にした。

詳しい要約

1. どんなもの?

- 空間的に接地した文脈依存ジェスチャー生成(grounded gesture generation)のためのマルチモーダルデータセットとフレームワークの提案 - 2つの資源を統合 - 空間的に接地した指示的ジェスチャー(referential gestures)の合成データセット - VRベースの二者対話データセット MM-Conv - 合計7.7時間超の同期された motion・speech・3D scene 情報を提供 - データは HumanML3D 形式に標準化 - physics-based simulator と接続し、合成データ生成と situated evaluation を可能にする - プロジェクトページ: https://groundedgestures.github.io/

2. 先行研究と比べてどこがすごい?

- 従来の motion generation は locomotion や object interaction などの記述的動作生成に特化 - 一方の co-speech gesture synthesis は発話意味論に整合した孤立したジェスチャー生成に特化 - 両系統とも motion と environmental grounding を別々に扱い、embodied・communicative agents への進展を制限 - 本研究は gesture modeling と spatial grounding を橋渡しし、situated gesture generation と grounded multimodal interaction の基盤を築く点が新しい - 空間的に接地した文脈依存ジェスチャー生成という未開拓問題に取り組む

3. 技術・手法の肝は?

- 空間的に接地した指示的ジェスチャーの合成データセットを構築 - VRベースで二者対話を収録した MM-Conv データセットを構築 - 両者を統合し、motion・speech・3D scene を同期した7.7時間超のデータを提供 - データを HumanML3D 形式に標準化 - physics-based simulator に接続するフレームワークを構築 - 合成データ生成を可能にする - situated evaluation を可能にする - 詳細なモデルアーキテクチャや学習手法は要旨からは不明

4. どうやって有効だと検証した?

- 要旨からは不明 - データセット規模(7.7時間超、motion・speech・3D scene の同期)と HumanML3D 形式への標準化、physics-based simulator 接続による situated evaluation の枠組みが述べられているのみ - 定量的な評価実験やベースライン比較の結果は要旨に記載なし

5. 議論はある?

- 要旨からは不明 - 既存研究が motion と environmental grounding を分離して扱ってきた点を課題として指摘 - embodied・communicative agents に向けた situated gesture generation と grounded multimodal interaction の基盤確立を主張 - 限界や今後の課題についての具体的議論は要旨に記載なし

6. 次に読むべき論文は?

- HumanML3D(データ形式の標準化先として参照) - co-speech gesture synthesis の関連研究(具体名は要旨に記載なし) - descriptive motion generation(locomotion・object interaction)の関連研究(具体名は要旨に記載なし) - MM-Conv(本研究のVR対話データセット) - physics-based simulator を用いた situated evaluation の関連研究(具体名は要旨に記載なし)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Anna Deichler, Jim O'Regan, Teo Guichoux, David Johansson, Jonas Beskow

分類: cs.CV, cs.AI, cs.RO

原文アブストラクト

Human motion generation has advanced rapidly in recent years, yet the critical problem of creating spatially grounded, context-aware gestures has been largely overlooked. Existing models typically specialize either in descriptive motion generation, such as locomotion and object interaction, or in isolated co-speech gesture synthesis aligned with utterance semantics. However, both lines of work often treat motion and environmental grounding separately, limiting advances toward embodied, communicative agents. To address this gap, our work introduces a multimodal dataset and framework for grounded gesture generation, combining two key resources: (1) a synthetic dataset of spatially grounded referential gestures, and (2) MM-Conv, a VR-based dataset capturing two-party dialogues. Together, they provide over 7.7 hours of synchronized motion, speech, and 3D scene information, standardized in the HumanML3D format. Our framework further connects to a physics-based simulator, enabling synthetic data generation and situated evaluation. By bridging gesture modeling and spatial grounding, our contribution establishes a foundation for advancing research in situated gesture generation and grounded multimodal interaction. Project page: https://groundedgestures.github.io/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI