音乐生成

📄 PianoKontext: Expressive Performance Rendering from Deadpan Context #音乐生成 #流匹配 #扩散模型 9.1/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 0.9/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 9.1/10 | 前50% | #音乐生成 | #流匹配 | #扩散模型 | arxiv 👥 作者与机构 Dmitrii Gavrilev （机构未在提供的原文中明确提及） 💡 毒舌点评 这篇论文的出发点很巧，把“如何让钢琴弹得有感情”这个玄学问题，转化成了“如何把死气沉沉的MIDI合成音频变得好听”这个工程问题。思路清晰，像用DTW在潜在空间对齐数据这招，算是个实用的小trick。但是，作者你这实验做得也太“精打细算”了吧？就一个MAESTRO子集、一张RTX 4090卡，就想定义“表现力演奏”的未来？连个人类主观听感测试都舍不得做，就敢在结论里谈“音乐性”？这跟用泡面调料包评测米其林餐厅有啥区别。最后那个“缺乏理想 articulation”的自我批评倒是挺诚实，但光承认问题不解决，顶会审稿人可不会买账。 📌 核心摘要 本文提出了PianoKontext，一个用于表现力钢琴演奏渲染（EPR）的潜在流匹配模型。其核心思想是将问题建模为以合成的死板音频为条件，在潜在空间中生成变长、富有表现力的钢琴音频。关键方法包括：1）利用动态时间规整（DTW）在预训练的Music2Latent模型的潜在空间中，对齐MIDI分数合成的死板音频与真实表现力音频，构建训练数据对；2）采用借鉴自FLUX Kontext的DiT架构，通过拼接条件序列和噪声化的目标序列，并使用2D旋转位置编码（RoPE）进行联合自注意力建模，以学习两者间的依赖关系。实验表明，与无监督基线CFG Bridge相比，PianoKontext在音频质量（FAD/KAD）和内容保真度（Pitch DTW、对齐精确率/召回率）上均有提升。 🔗 开源详情 代码仓库：github.com/realfolkcode/pianokontext 提供代码，有助于复现方法。未提供模型权重或完整数据集。 🏗️ 方法概述和架构 PianoKontext的方法可分为数据准备和模型架构两大部分，整体流程如图1所示。 ...

📄 Can LLMs understand LilyPond? A benchmark for symbolic music generation and understanding #音乐生成 #音乐理解 #基准测试 #大语言模型 7/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 7/10 | 前50% | #音乐生成 | #音乐理解 | #基准测试 #大语言模型 | arxiv 👥 作者与机构 Matteo Spanio, Mohammad Torabi, Andrea Poltronieri, Antonio Rodà。 主要机构：Centro di Sonologia Computazionale, University of Padova, Italy；Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain。 ...

📄 Entropy as a Structural Prior: How a Log-Barrier on DiT Belief Space Drives Musical Diversity and Development #音乐生成 #生成模型 #扩散模型 4.2/10 | 创新 1.5/2 | 严谨 0.5/1.5 | 实验 0.3/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.2/0.5 | 工程 0.2/1.5 📝 4.2/10 | 后50% | #音乐生成 | #生成模型 | #扩散模型 | arxiv 👥 作者与机构 未提及 💡 毒舌点评 这篇论文的核心想法，即“用熵来调节梯度权重”，本身并非石破天惊。它的全部价值在于一个“意外”的实验结果：在监督微调扩散模型做音乐时，这种理应提升稳定性的加权反而提升了多样性。这确实有点意思，但作者似乎被这个“意外”冲昏了头脑，忘记了科研的基本功。整篇论文就是一份实验备忘录，连个正式的实验报告都算不上。没有数学公式定义方法，没有量化指标评估结果，没有与任何基线对比，没有消融实验证明不是玄学。作者用“在线课程学习”来包装，但连课程的“学习曲线”都没画出来。对于一篇投稿论文来说，这种完成度几乎是不可接受的。它提出了一个可以深入研究的问题，但自身远未准备好回答这个问题。 📌 核心摘要 本文针对监督扩散模型微调中置信度可能放大错误的传统观点，提出一种反直觉的解决方案。作者引入名为“Eisbach log-barrier”的无参数权重，该权重基于扩散变换器（DiT）输出空间能量分布的熵计算：高熵（高不确定性）抑制梯度，低熵（高确定性）保留梯度。将该权重应用于在MusicCaps数据集上对Stable Audio 3 Medium模型进行LoRA微调时，作者观察到与预期相反的现象：该方法不仅未导致模式崩溃，反而生成了主题发展更强、声学区分更清晰、纹理更多样的音乐。作者解释其机制在于，在监督扩散训练中梯度方向固定于真实数据，置信度仅缩放步长；时间维度熵的加权压平了平淡样本，保留了高对比度样本。这导致了一个纯粹从单次前向传播中涌现的、自指涉的在线数据课程。论文分析了噪声级别动态，并提出了可验证的预测。 ...

📄 Exploring LLMs for South Asian Music Understanding and Generation #音乐理解 #音乐生成 #低资源 #大语言模型 7.7/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 1.1/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.7/10 | 前50% | #音乐生成 | #音乐理解 | #低资源 #大语言模型 | arxiv 👥 作者与机构 Faria Binte Kader, Mohtasim Hadi Rafi, Shah Wasif Sazzad, Santu Karmaker University of Central Florida, Auburn University ...

📄 Foley-Omni: A Unified Multimodal Generation Model from Task-Level Audio Synthesis to Complete Video Soundtrack Generation #音频生成 #语音合成 #音乐生成 #多模态模型 #课程学习 #扩散模型 7/10 | 创新 1.6/2 | 严谨 1.3/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 0.3/1.5 | 复现 0.3/0.5 | 工程 0/1.5 ✅ 7/10 | 前25% | #音频生成 | #课程学习 | #语音合成 #音乐生成 | arxiv 👥 作者与机构 作者：Ye Tao, Lupeng Liu, Xuenan Xu, Jiasun Feng, Jiarui Wang, Ying Qin, Shuiyang Mao, Wei Liu, Shuai Wang 机构：南京大学智能科学与技术学院，Video Rebirth，上海交通大学，北京交通大学，上海人工智能实验室 ...

📄 SegTune: Structured and Fine-Grained Control for Song Generation #音乐生成 #生成模型 #多模态模型 #数据增强 #参数高效微调 8.5/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 8.5/10 | 前25% | #音乐生成 | #数据增强 | #生成模型 #多模态模型 | arxiv 👥 作者与机构 Yuejiao Wang, Zihao Ji, Pengfei Cai, Xu Li, Haorui Zheng, Zewen Song, Zhongliang Liu, Chen Zhang, Pengfei Wan。机构为Kling Team, Kuaishou Technology；University of Science and Technology of China；Peking University。论文在Kuaishou Technology的Kling Team实习期间完成。 ...

📄 SketchSong: Hierarchical Song Generation with Sketch Planning and Fine-Grained Multi-Track Modeling #音乐生成 #音频生成 #多模态模型 #数据增强 #低资源 8.6/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 🔥 8.6/10 | 前25% | #音乐生成 | #数据增强 | #音频生成 #多模态模型 | arxiv 👥 作者与机构 论文作者：Xiaoyue Duan, Nanxing Hu, Yutang Feng, Xudong Yan, Jiatao Chen, Jinchao Zhang, Jie Zhou 机构：腾讯微信AI模式识别中心 (Pattern Recognition Center, WeChat AI, Tencent Inc.) 通讯作者：Jinchao Zhang (†Work done during an internship at WeChat AI, Tencent Inc. ‡Corresponding author) 💡 毒舌点评 这篇工作在概念层面抓住了当前歌曲生成模型的两个痛点：宏观结构规划不足和伴奏部分建模粗糙。提出的“草图规划”和“四轨建模”思路直接、清晰，且能互补。实验设计比较扎实，消融研究有力地支撑了各自组件的贡献。然而，方法的工程实现存在明显的“补丁”感，尤其是第二阶段多轨道模型却沿用第一阶段（或基线）为混合信号训练的伴奏解码器，这就像声称做了精细分轨烹饪，最后却用同一个大锅炒在一起，严重削弱了“细粒度”声称的冲击力。论文在局限性部分诚实地指出了这一点，但这也使得其作为一项完整工作的贡献打了折扣。与经过充分后训练（如DPO、对齐优化）的开源系统相比，本系统在部分主观指标上仍有差距，这进一步说明了其“潜力”与“现状”的差距。总体而言，这是一篇扎实的系统性工作，但缺乏一个令人惊艳的、完全自洽的闭环。 ...

📄 JenBridge: Adaptive Long-Form Video Soundtracking across Scene Transitions #音乐生成 #多模态模型 #大语言模型 #基准测试 7.3/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.3/10 | 前25% | #音乐生成 | #多模态模型 | #大语言模型 #基准测试 | arxiv 👥 作者与机构 作者：Jiashuo Yu, Yao Yao, Boyu Chen, Alex Wang 机构：Jen Music AI 💡 毒舌点评 这篇论文试图解决一个实际且重要的问题——长视频的连贯配乐，并提出了一个模块化的框架。其核心创意“LLM导演自适应过渡”确实新颖且吸引眼球，构建新基准的贡献也值得肯定。然而，论文在将这一创意落实为坚实技术贡献时，暴露出明显的短板。首先，对核心的LLM Agent决策能力的评估过于粗糙，缺乏对其鲁棒性和失败案例的深入剖析，仅凭几个精心挑选的定性案例和整体分数提升，难以证明其在复杂现实场景下的有效性。其次，作为技术核心的“生成式过渡模型”，其具体实现细节（如何将ControlNet用于音乐修补、‘无训练适配’的具体含义）语焉不详，这直接影响了方法的可复现性和技术深度。再者，完全忽略视频中已存在的音频信息（如对话），使得这个号称“端到端”的框架在面对真实世界复杂内容时显得天真和不完整。最后，对视频分割这一起始步骤的潜在影响缺乏任何敏感性分析，这是一个不可忽视的系统漏洞。总的来说，论文提出了一个有趣的系统框架，但未能充分证明其核心组件的鲁棒性和全面性，技术细节的缺失也削弱了其严谨性。 📌 核心摘要 针对长视频配乐中场景切换时音乐连贯性差的挑战，本文提出了JenBridge框架。该框架采用模块化设计，首先将长视频分割为语义片段，然后为每个片段独立生成音乐，最后通过一个自适应过渡机制将音乐片段连接成连贯的长片段。其核心创新点在于设计了一种新颖的自适应过渡机制：该机制包含一个提供四种过渡风格（突变、静音、淡入淡出、生成式过渡）的“工具包”，并独特地利用一个大语言模型（LLM）作为“导演”，根据前后片段的视觉和音乐上下文智能选择最合适的过渡方式。此外，为评估该任务，论文提出了首个专门的长视频配乐基准测试集（LVS Benchmark），包含精心策划的数据和新的评估范式。实验证明，JenBridge在客观指标和主观评估上均显著优于现有方法，尤其在“过渡自然度”和“制作复杂度”上优势明显。 ...

📄 UniVocal: Unified Speech-Singing Code-Switching Synthesis #语音合成 #语音生成 #音频生成 #音乐生成 #自监督学习 #课程学习 #数据增强 8.9/10 | 创新 1.8/2 | 严谨 1.4/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 0/1.5 🔥 8.9/10 | 前25% | #语音合成 | #自监督学习 | #语音生成 #音频生成 | arxiv 👥 作者与机构 作者: Yufei Shi, Qian Chen, Wen Wang, Xiangang Li, Zhen-Hua Ling, Yang Ai 机构: Tongyi Fun Team, Alibaba Group; Independent Researcher ...

📄 AnchorSteer: Self-Discovered Concept Injection for Structure-Preserving Music Editing #扩散模型 #自监督学习 #音乐生成 🔥 8.6/10 | 前50% | #音乐生成 | #自监督学习 | #扩散模型 | arxiv 学术质量 5.3/7 | 影响力 1.6/2 | 可复现性 1.7/2 | 置信度 高 👥 作者与机构 作者: Chih-Heng Chang, Keng-Seng Ho, Chih-Yu Tsai, Kuan-Lin Chen, Yi-Hsuan Yang, Jian-Jiun Ding 机构: National Taiwan University 📌 核心摘要 本文针对基于扩散模型的音乐编辑任务中存在的“语义编辑能力”与“结构保真度”之间的根本性矛盾，提出了AnchorSteer框架。该框架通过显式解耦并协同两种机制来解决此矛盾：1) 结构锚定：利用预训练的MuseControlLite适配器，注入显式的旋律、节奏等结构条件，严格约束生成过程的时间对齐和结构骨架。2) 语义引导：提出一种自监督方法，从预训练扩散模型的内部隐藏状态空间（h-space）中，无需人工标注数据，自动发现并学习可解释的“概念向量”（如“钢琴音色”或“爵士风格”）。这些概念向量被封装成即插即用的注入模块，在推理时与结构锚定器协同工作，向模型隐藏层提供额外的语义驱动力。论文还设计了两种注入变体：非条件注入（静态向量，更利于结构保真）和条件注入（基于当前隐藏状态的轻量网络，在强锚定下实现更鲁棒的语义迁移）。在ZoME-Bench数据集上的实验表明，AnchorSteer（尤其是条件注入变体）在语义编辑强度（GAP分数）上显著优于所有基线，同时保持了与强结构锚定方法相当或可接受的结构保真度。主观试听测试也证实其在目标属性匹配度上表现最佳。 🔗 开源详情 代码：https://github.com/hengtsune1024/AnchorSteer 模型权重：论文中未提及具体的模型权重链接。论文指出其骨干模型为预训练的Stable Audio Open (SAO)，但未提供该模型权重的直接下载链接。 数据集：使用了ZoME-Bench数据集进行评估，但论文中未提供该数据集的具体下载链接。 Demo：论文中未提及在线演示链接。 复现材料：论文中未提及独立的复现材料包（如完整的训练配置、检查点等）。论文在“Implementation details”（5.4节）中提供了详细的实验设置，包括优化器、学习率、训练轮数等超参数。 论文中引用的开源项目： Stable Audio Open (SAO)：论文中未提供链接。 Hugging Face Diffusers库：论文中未提供链接。 MuseControlLite：论文中未提供其官方实现的链接。 LAION-CLAP（用于CLAP评估）：论文中提及了具体的模型检查点music_audioset_epoch_15_esc_90.14.pt，但未提供下载链接。 DDPM-Friendly：论文中未提供链接。 SDEdit：论文中未提供链接。 MusicMagus：论文中未提供链接。 🏗️ 方法概述和架构 AnchorSteer框架的核心架构是“结构锚定”与“语义引导”的协同，如论文图1和图4所示。其整体编辑流程（图4）分为两个并行路径处理源音频：一条路径进行结构特征提取（如通过CQT提取旋律、通过节拍检测提取节奏），形成条件序列 \(C_{struct}\)，并输入到MuseControlLite适配器；另一条路径则通过预优化的概念注入模块 \(f_l^*\)。两条路径的输出共同作用于预训练扩散模型（SAO） 的隐藏层，引导去噪过程。 ...