Music-to-Dance Generation via Atomic Movements
📄 Music-to-Dance Generation via Atomic Movements 标签:#音乐生成 #扩散模型 #多模态模型 #音频理解 #Transformer 7.4/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.4/10 | 前50% | 文档类型:方法研究 | 评分置信度:高 | #音乐生成 | #扩散模型 | #多模态模型 #音频理解 | arxiv 👥 作者与机构 第一作者:Xinhao Cai(北京大学王选计算机技术研究所) 通讯作者:Yang Liu(北京大学) 作者列表:Xinhao Cai(北京大学王选计算机技术研究所)、Yixuan Sun(北京大学王选计算机技术研究所)、Minghang Zheng(北京大学电子学与计算机科学技术学院)、Qingchao Chen(北京大学)、Xin Jin(国家健康数据科学研究院)、Song-chun Zhu(北京大学通用人工智能国家重点实验室、北京通用人工智能研究院)、Yang Liu(北京大学智能科学与技术学院) 💡 毒舌点评 论文敏锐地抓住了现有音乐驱动舞蹈生成方法在结构建模上的缺失,提出的“原子动作”概念及相应的两阶段生成框架具有清晰的工程洞察,其通过将舞蹈解耦为符号化规划与连续化执行,确实提升了生成舞蹈的结构一致性和可控性。然而,其核心贡献——“原子动作”的发现流程高度依赖外部模型(TMR编码器、Gemini、GPT)与特定超参数选择,可复现性与泛化性存疑。更关键的是,所有验证仅在AIST++这一较小且单一风格的基准上进行,缺乏跨数据集泛化与真实场景(如编辑、交互)的验证,使得其宣称的“结构化”优势的实际价值与普适性大打折扣。 📌 核心摘要 本文旨在解决音乐驱动舞蹈生成中,现有端到端方法将舞蹈视为连续信号而忽略其组合性质,导致生成舞蹈结构不连贯、难以编辑控制的问题。作者提出了一种基于“原子动作”的结构感知生成框架。方法核心包含两部分:1)原子动作发现流水线,通过自适应分割、基于运动特征的聚类以及引入大语言模型进行语义重聚类,从连续舞蹈数据中提取出语义可解释、可重复且包含变化的基本运动单元。2)两阶段生成框架,第一阶段使用离散扩散模型规划原子动作序列(类型、时长、时序),第二阶段使用带有过渡损失的连续扩散模型完成舞蹈,实现动作的重新生成与平滑过渡。与现有的Bailando、EDGE、Lodge等方法相比,本文的核心创新在于引入了显式的结构化中间表示(原子动作),并将生成过程解耦为规划和执行,以模拟人类编舞过程。实验结果表明,该方法在FID(运动保真度)、多样性、节拍对齐分数(BAS)和检索准确率(RR)上均取得最优或接近最优的结果,特别是RR指标(26.6%)远超其他基线,验证了其在结构一致性上的优势。该工作的实际意义在于提高了生成舞蹈的可控性、可解释性和编辑性。主要局限性在于实验仅在AIST++数据集(约5.2小时)上进行,数据规模有限,且评估对舞蹈艺术性的考量不足。 ...