日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

ロボットダンス生成arXiv:2403.15569

音楽からダンスへの翻訳:シーケンスモデルによる振付生成

Music to Dance as Language Translation using Sequence Models

シェア:XThreadsFacebookLINEはてブBluesky

音楽を入力として対応するダンス姿勢列を生成するタスクを翻訳問題として定式化し、TransformerとMambaの2種類のモデルでロボットアームの振付を学習・生成する手法MDLTを提案した。

著者: André Correia, Luís A. Alexandre

分類: cs.SD, cs.RO, eess.AS

原文アブストラクト

Synthesising appropriate choreographies from music remains an open problem. We introduce MDLT, a novel approach that frames the choreography generation problem as a translation task. Our method leverages an existing data set to learn to translate sequences of audio into corresponding dance poses. We present two variants of MDLT: one utilising the Transformer architecture and the other employing the Mamba architecture. We train our method on AIST++ and PhantomDance data sets to teach a robotic arm to dance, but our method can be applied to a full humanoid robot. Evaluation metrics, including Average Joint Error and Fr\'echet Inception Distance, consistently demonstrate that, when given a piece of music, MDLT excels at producing realistic and high-quality choreography. The code can be found at github.com/meowatthemoon/MDLT.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI