乳児からヒューマノイドへのモーションリターゲティングによる一人称感覚運動経験のシミュレーション
Simulating Infant First-Person Sensorimotor Experience via Motion Retargeting from Babies to Humanoids
単一のビデオから乳児の3D姿勢を復元し、物理・仮想ヒューマノイドへモーションを転写して、固有受容感覚・触覚・視覚などのマルチモーダル感覚運動データを生成する枠組みを提案した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Francisco M. López, Hoshinori Kanazawa, Ondrej Fiala, Yakov Balashov, Valentin Marcel, Lukas Rustler, Miles Lenz, Dongmin Kim, Yasuo Kuniyoshi, Jochen Triesch, Matej Hoffmann
分類: q-bio.NC, cs.RO
原文アブストラクト
Motion retargeting from humans to human-like artificial agents is becoming increasingly important as humanoid robots grow more capable. However, most existing approaches focus only on reproducing kinematics and ignore the rich sensorimotor experience associated with human movement. In this work, we present a framework for simulating the multimodal sensorimotor experiences of infants using physical and virtual humanoids. From a single video, our method reconstructs the infant's body configuration by extracting its skeletal structure and estimating the full 3D pose from each frame. Then we map the reconstructed motion onto several developmental platforms: the physical iCub robot and the virtual simulators pyCub, EMFANT and MIMo. Replaying the retargeted motions on these embodiments produces simulated multisensory streams including proprioception (joints and muscles), touch, and vision. For the best-matching embodiment, the retargeting achieves sub-centimeter accuracy and enables a rich multimodal analysis of infant development as well as enhanced automated annotation of behaviors. This framework provides a unique window into the infant's sensorimotor experience, offering new tools for robotics, developmental science, and early detection of neurodevelopmental disorders. The code is available at https://github.com/ctu-vras/motion-retargeting/.
関連論文
- 学習された点群対応によるヒューマノイドの統合モーションリターゲティングモーションリターゲティング
- 接触を狙う: 動的モーションリターゲティングのための接触暗黙的多重シューティングモーションリターゲティング
- ReActor: 物理を考慮したモーションリターゲティングのための強化学習モーションリターゲティング
- AdaMorph: 身体性適応型Transformerによる統合モーションリターゲティングモーションリターゲティング
- 人体事前知識を活用したモーションリターゲティングのためのデータペアリング再定義モーションリターゲティング
