扩散模型

📄 Break-the-Beat! Controllable MIDI-to-Drum audio synthesis #音乐生成 #扩散模型 #预训练 #音频生成 #模型评估 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #预训练 #音频生成 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Shuyang Cui (Sony Group Corporation) 通讯作者：未说明（论文中未明确标注） 作者列表：Shuyang Cui¹, Zhi Zhong¹, Qiyu Wu¹, Zachary Novack¹*, Woosung Choi², Keisuke Toyama¹, Kin Wai Cheuk², Junghyun Koo², Yukara Ikemiya², Christian Simon¹, Chihiro Nagashima¹, Shusuke Takahashi¹ (1: Sony Group Corporation, 2: Sony AI) 💡 毒舌点评 这篇论文技术方案完备，从数据构建、模型设计到实验评估都做得非常扎实，成功填补了“MIDI-to-Drum”这一特定任务的研究空白，对于音乐制作工具开发具有明确的导向性。然而，其主要创新集中在对现有框架的适配和针对性设计上，在生成模型基础架构层面的突破性略显不足，且缺乏与更多元、更强的基线模型在相似音乐生成任务上的横向比较，说服力可再增强。 ...

📄 Bridging the Measurement–Simulation Gap in Room Acoustics with Real2sim Diffusion #声源定位 #扩散模型 #麦克风阵列 #信号处理 🔥 8.5/10 | 前25% | #声源定位 | #扩散模型 | #麦克风阵列 #信号处理 学术质量 6.2/7 | 选题价值 1.6/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Jean-Daniel Pascal Prieto（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France；Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France） 通讯作者：未说明 作者列表：Jean-Daniel Pascal Prieto（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France；Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France）、Antoine Deleforge（Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France）、Cédric Foy（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France）、Marceau Tonelli（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France） 💡 毒舌点评 这篇论文的亮点在于巧妙地用生成式扩散模型（薛定谔桥）来解决一个物理建模中的“脏数据”问题（测量失配），这种思路在声学领域较为新颖，且实验上成功地在真实测量数据上实现了较高的声像源定位召回率，是迈向实用化的重要一步。但其短板在于，整个框架高度依赖于对特定测量设备（扬声器、麦克风阵列）响应的精确模拟和训练，这可能限制其泛化能力；另外，真实数据上评估用的“正确”标准（如1米、20度阈值）相对粗糙，无法精细量化定位精度的提升。 ...

📄 Cardiobridge-DM: Bridging Cross-Cohort Heart Sound Synthesis via Rhythm-Aware Semi-Supervised Diffusion #音频生成 #扩散模型 #数据增强 #生物声学 #医疗AI ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #数据增强 #生物声学 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Chenyang Xu（西安电子科技大学网络工程学院） 通讯作者：Hao Wang（西安电子科技大学网络工程学院） 作者列表：Chenyang Xu（西安电子科技大学网络工程学院）、Siming Li（西安电子科技大学通信工程学院）、Hao Wang（西安电子科技大学网络工程学院） 💡 毒舌点评 亮点是其半监督Classifier-Free Guidance (CFG) 策略的设计，通过结构化的模态缺失（对弱标注数据强制丢弃ECG），巧妙地迫使模型学习从文本到心律的跨模态映射，这超越了简单的数据拼接。短板在于，作为一个强调“首个”框架和“可扩展”解决方案的工作，其复现信息极度匮乏，未提供任何代码或模型权重，这严重削弱了其作为“开源解决方案”的实用价值，也让论文中的性能声称难以被独立验证。 📌 核心摘要 要解决什么问题：医疗AI（特别是心脏听诊AI）面临数据碎片化挑战：大型数据集（如PhysioNet 2016）标注简单，小型数据集（如PhysioNet 2022）标注详细但样本量小。需要一种方法桥接这两类数据，生成高质量、可控的心音（PCG）信号以增强模型泛化能力。 方法核心是什么：提出CardioBridge-DM，一个两阶段半监督扩散框架。第一阶段使用VQ-VAE学习跨队列的通用声学表征。第二阶段训练条件扩散模型，其核心创新是节奏感知的半监督Classifier-Free Guidance (CFG)：对有ECG的丰富标注数据进行标准随机丢弃；对无ECG的弱标注数据，强制丢弃ECG模态，迫使模型仅从文本诊断中推断心律。 与已有方法相比新在哪里：首次设计用于跨队列（异构标注）心音合成的扩散框架。提出了半监督CFG机制，将条件生成从单纯的数据融合提升为一种跨模态生理推理能力，使模型能在缺失ECG时仅凭文本生成符合节律的心音。 主要实验结果如何：在FAD（生成质量）上达到4.3，远优于最强基线AudioLDM的9.8。提出了新的CCT（跨队列迁移性）指标，得分为0.82。消融实验证明，移除通用声学表征（第一阶段）和半监督CFG都会显著降低性能。感知图灵测试中，训练听众对合成音频的混淆率达到47.8%（接近50%的理想随机水平），MOS为4.2±0.4（与真实音频4.6±0.3可比）。具体结果见下表。 方法 FAD ↓ IS ↑ CLAP ↑ CCT ↑ StyleGAN2-V (adapted) 14.2±0.9 2.1±0.2 0.41±0.04 0.45±0.05 DiffWave (adapted) 11.2±0.6 2.3±0.2 0.48±0.03 0.51±0.04 AudioLDM (adapted) 9.8±0.5 2.6±0.1 0.52±0.03 0.58±0.06 CardioBridge-DM (Ours) 4.3±0.3 3.7±0.2 0.74±0.02 0.82±0.03 ...

📄 Conditional Diffusion Models for Mental Health-Preserving Voice Conversion #语音转换 #扩散模型 #语音匿名化 #语音生物标志物 #零样本 🔥 8.0/10 | 前25% | #语音转换 | #扩散模型 | #语音匿名化 #语音生物标志物 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Siddharth Kalyanasundaram（科罗拉多大学博尔德分校认知科学与计算机科学研究所） 通讯作者：未说明（从邮箱格式和惯例推断，Theodora Chaspari可能为通讯作者，但论文未明确标注） 作者列表：Siddharth Kalyanasundaram（科罗拉多大学博尔德分校认知科学与计算机科学研究所）、Theodora Chaspari（科罗拉多大学博尔德分校认知科学与计算机科学研究所） 💡 毒舌点评 这篇论文巧妙地将扩散模型用于一个“政治正确”但技术挑战十足的场景——在给抑郁症语音“变声”脱敏的同时，还要保住其病情线索，想法和落点都值得称赞。但遗憾的是，模型的训练“粮草”太少（仅28小时语音），导致其在通用语音质量（自然度、可懂度）上略逊于“吃得多”的基线，显得“巧妇难为无米之炊”。 📌 核心摘要 解决的问题：语音是心理健康（如抑郁症）的重要生物标志物，但包含说话人身份等敏感信息，阻碍了数据共享与研究复现。需要在匿名化语音的同时，保留对心理健康研究至关重要的副语言信息。 方法核心：提出一种基于条件扩散模型（DM）的语音转换（VC）框架。首先，将语音解耦为内容（w2v）、音高（f0）、说话人身份（s）和抑郁（d）四个嵌入表示。然后，以目标说话人嵌入（s’）和抑郁嵌入（d）作为条件，指导扩散模型的反向去噪过程，生成既改变身份又保留抑郁线索的新语音。 与已有方法的新意：首次将扩散模型应用于明确保留抑郁线索的语音转换任务。现有VC方法（如基于VAE、GAN的模型）在匿名化时会严重退化副语言信息（如情绪、抑郁线索），而本文通过将抑郁嵌入作为扩散过程的显式条件，实现了对关键生物标志物的保护。 主要实验结果：在未见说话人的零样本设置下，所提模型（DM-23M， DM-67M）与SOTA基线（Vevo-Voice， QuickVC）在语音可懂度（WER/CER）和说话人相似度（SECS）上表现相当。核心优势在于抑郁信息保留：所提模型转换后语音的抑郁严重程度（PHQ-8）预测平均绝对误差（MAE）显著低于基线（DM-23M：5.025 vs. Vevo-Voice：5.478, QuickVC：5.804），且预测分数分布与原始语音更接近（KL散度约0.06 vs. 24+）。 模型 WER ↓ CER ↓ SECS ↑ PHQ-8 MAE ↓ nMOS ↑ sMOS ↑ 原始语音 0.046 0.025 0.872 4.522 4.17 3.85 Vevo-Voice 0.078 0.043 0.850 5.478 4.14 3.74 QuickVC 0.059 0.046 0.731 5.804 4.04 3.59 DM-23M (本文) 0.082 0.047 0.804 5.025 3.97 3.71 DM-67M (本文) 0.068 0.041 0.829 5.055 4.03 3.78 实际意义：为心理健康研究提供了一种潜在的隐私保护工具，可以在保护参与者隐私的前提下，促进脱敏语音数据的共享与分析，有助于推动该领域的研究复现和跨机构合作。 主要局限性：训练数据规模较小（仅28小时），限制了模型生成语音的自然度和可懂度；仅针对抑郁症进行评估，未验证对其他副语言信息（如情绪、认知状态）的保留能力；隐私-效用权衡（EER指标）显示匿名化程度还有提升空间。 🏗️ 模型架构 论文提出的模型架构遵循“源-滤波器”分解框架，并采用扩散模型进行条件生成。整体流程如图1所示。 ...

📄 Continuous-Token Diffusion for Speaker-Referenced TTS in Multimodal LLMs #语音合成 #多模态模型 #扩散模型 #自回归模型 🔥 8.0/10 | 前10% | #语音合成 | #扩散模型 | #多模态模型 #自回归模型 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 -0.3 | 置信度 高 👥 作者与机构 第一作者：Xinlu He（Worcester Polytechnic Institute， Amazon AGI） 通讯作者：未说明 作者列表：Xinlu He*（Worcester Polytechnic Institute， Amazon AGI）， Swayambhu Nath Ray（Amazon AGI）， Harish Mallidi（Amazon AGI）， Jia-Hong Huang（Amazon AGI）， Ashwin Bellur（Amazon AGI）， Chander Chandak（Amazon AGI）， M. Maruf（Amazon AGI）， Venkatesh Ravichandran（Amazon AGI） 💡 毒舌点评 亮点在于其高效的双头架构设计和两阶段训练策略，成功将连续token扩散“塞进”了自回归框架并取得了SOTA的自回归TTS结果，参数效率极高。短板则是开源精神的缺失，在声称“仅用于研究”的同时，却未提供任何模型、代码或数据，让“复现”成了镜花水月。 ...

📄 D3PIA: A Discrete Denoising Diffusion Model for Piano Accompaniment Generation from Lead Sheet #音乐生成 #扩散模型 #邻域注意力 #钢琴伴奏 #符号音乐生成 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #邻域注意力 #钢琴伴奏 学术质量 7.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Eunjin Choi（KAIST， Graduate School of Culture Technology） 通讯作者：未说明（论文未明确指定通讯作者） 作者列表：Eunjin Choi（KAIST， Graduate School of Culture Technology）、Hounsu Kim（KAIST， Graduate School of Culture Technology）、Hayeon Bang（KAIST， Graduate School of Culture Technology）、Taegyun Kwon（KAIST， Graduate School of Culture Technology）、Juhan Nam（KAIST， Graduate School of Culture Technology） 💡 毒舌点评 亮点：巧妙地将离散扩散模型应用于钢琴伴奏生成，结合邻域注意力高效捕捉局部和弦-旋律对齐，在仅2.2M参数下实现了远超基线的和弦保真度与推理速度。短板：彻底放弃了力度（velocity）建模，虽简化了问题但也限制了音乐表现力，且对长程结构与风格多样性的探索不足。 ...

📄 DGSDNet: Dual-Graph Spectral Diffusion Network for Incomplete Multimodal Emotion Recognition in Conversations #语音情感识别 #扩散模型 #图神经网络 #多模态模型 #缺失模态补全 🔥 8.0/10 | 前25% | #语音情感识别 | #扩散模型 | #图神经网络 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Mingjian Yang（电子科技大学，智能协同计算实验室） 通讯作者：Wen Yin（电子科技大学，智能协同计算实验室） 作者列表：Mingjian Yang（电子科技大学，智能协同计算实验室）、Yong Wang（电子科技大学，智能协同计算实验室）、Peng Liu（电子科技大学，智能协同计算实验室）、Wen Yin†（电子科技大学，智能协同计算实验室） 💡 毒舌点评 亮点： 精准抓住了现有方法在“保持对话图谱结构”与“对齐特征分布”之间的核心矛盾，并通过将扩散过程严格约束在谱空间（特征值扩散）来优雅地同时解决这两个问题，设计思路清晰且有理论依据。 短板： 门控谱分类（GSC）模块中的熵加权机制更像是一种启发式的不确定性融合，对于“说话人连续性”和“情感方差”等关键对话动态的显式建模略显不足，可能限制了其在更复杂交互场景下的性能天花板。 📌 核心摘要 要解决的问题： 现实对话场景中，模态（文本、音频、视觉）缺失导致多模态情感识别性能严重下降。现有基于图或扩散的方法存在“语义不连续”（破坏图结构或改变特征分布）和“静态融合”（固定权重无法适应动态变化）两大挑战。 方法核心： 提出DGSDNet框架，包含双谱扩散（DSD）模块和门控谱分类（GSC）模块。DSD将对话图谱（说话人图和时序图）分解为拓扑不变的特征向量和可扩散的特征值，并在特征值空间施加扩散过程以恢复缺失模态，从而同时保持图结构并生成分布对齐的特征。GSC模块基于节点特征的熵进行自适应门控，动态融合双图谱信息。 与已有方法相比新在哪里： 区别于直接在特征空间或邻接矩阵上扩散的方法，本工作首次将扩散过程严格限制在图谱的谱空间（对角特征值矩阵）上进行，理论上避免了扩散过程破坏图的局部拓扑。同时，提出了基于重建不确定性的动态门控融合机制，替代了传统的静态加权。 主要实验结果： 在IEMOCAP和CMU-MOSI两个基准数据集上，当模态缺失率从0.0到0.7变化时，DGSDNet的平均加权F1分数（WAF1）分别达到77.60% 和 79.7%，超过了所有对比的SOTA方法（如GCNet， SDR-GNN， DiCMoR）。消融实验证实了说话人图、时序图、双谱扩散和门控分类模块的有效性，移除DSD模块性能下降最显著。 实际意义： 提升了多模态对话系统在传感器故障、隐私限制等真实复杂环境下的情感理解鲁棒性，对智能客服、人机交互、心理健康监测等应用有潜在价值。 主要局限性： 1) 未处理异步多模态序列和更开放域的对话场景。2) 门控融合模块对对话动态的建模相对简单。3) 仅在两种标准数据集上验证，泛化性有待进一步考察。 🏗️ 模型架构 DGSDNet的架构（如图2所示）分为三个主要阶段： ...

📄 Diff-vs: Efficient Audio-Aware Diffusion U-Net for Vocals Separation #语音分离 #扩散模型 #U-Net #数据增强 #音频生成 ✅ 7.5/10 | 前25% | #语音分离 | #扩散模型 | #U-Net #数据增强 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Yun-Ning (Amy) Hung (Moises, USA) 通讯作者：未说明 作者列表：Yun-Ning (Amy) Hung (Moises, USA), Richard Vogl (Moises, USA), Filip Korzeniowski (Moises, USA), Igor Pereira (Moises, USA) 💡 毒舌点评 亮点：论文巧妙地将针对图像生成优化的EDM框架“移植”到音频分离，并通过带分离和双路径RoFormer等音乐领域知识进行“魔改”，成功将扩散模型的推理步数压至个位数，在生成式方法中实现了SOTA性能。短板：虽然在自家构建的生成式对比阵营中鹤立鸡群，但一旦面对经过大规模数据洗礼的判别式“怪兽”（如BS-RoFormer），在客观指标上依然力有不逮，生成式范式在音乐分离上的“逆天改命”之路仍需努力。 📌 核心摘要 问题：当前基于生成式扩散模型的音乐源分离方法，在标准客观指标（如SDR）上通常落后于判别式方法，且推理步数多、模型庞大，限制了其实用性。 方法：本文提出Diff-VS，一个基于Elucidated Diffusion Model (EDM)框架的高效音频感知扩散U-Net模型，专门用于人声分离。模型输入为经过特殊归一化的复数频谱图，并采用带分离和双路径RoFormer块改进的U-Net架构。 创新：首次将EDM框架应用于人声分离，实现了少于10步的高效推理；提出针对音乐信号特性的架构改进（如用双路径RoFormer替换像素自注意力）；实验证明生成式方法能达到与判别式方法竞争力的客观指标和更优的感知质量。 实验结果：在MUSDB18-HQ数据集上，仅需7步推理的Diff-VS达到了10.12 dB的cSDR，超越了所有已对比的生成式模型（最高为SGMSE的8.63 dB），并接近SCNet-L (10.86 dB) 等顶尖判别式模型。在基于MERT嵌入的感知质量评估中，Diff-VS (MSE=0.083) 优于SCNet-L (0.096) 和SGMSE (0.089)。 实际意义：该工作证明了经过精心设计的生成式模型，可以在保持分离质量（特别是感知质量）的同时，大幅提升推理效率，为生成式方法在音频分离领域的实际应用提供了可能。 主要局限性：在使用更多数据（MoisesDB）训练的最强判别式模型（如BS-RoFormer-12L）面前，客观性能仍有明显差距；模型目前仅针对人声分离，未验证其在多乐器分离任务上的能力；缺乏对生成多样性的讨论和评估。 🏗️ 模型架构 Diff-VS的整体架构基于EDM框架下的改进型DDPM++ U-Net。 ...

📄 Diffemotalk: Audio-Driven Facial Animation with Fine-Grained Emotion Control via Diffusion Models #语音情感识别 #扩散模型 #对比学习 #跨模态 ✅ 7.5/10 | 前25% | #语音情感识别 | #扩散模型 | #对比学习 #跨模态 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Kexin Gao (中国海洋大学计算机科学与技术学院) 通讯作者：Xinjie Wang (中国海洋大学计算机科学与技术学院， 邮箱：wangxinjie@ouc.edu.cn) 作者列表：Kexin Gao (中国海洋大学计算机科学与技术学院), Yuyu Zhu (中国海洋大学计算机科学与技术学院), Jian Liu (中国海洋大学计算机科学与技术学院), Xinjie Wang* (中国海洋大学计算机科学与技术学院), Xiaogang Jin (浙江大学CAD&CG国家重点实验室), Jie Nie (中国海洋大学计算机科学与技术学院) 💡 毒舌点评 亮点：在情感表征上，摒弃了传统的离散标签，转而使用连续的VA值和文本描述进行层次化对比学习，这一设计巧妙地缓解了细粒度情感标注数据稀缺的问题。短板：尽管号称“细粒度情感控制”，但实验主要基于离散情绪类别的MEAD/RAVDESS数据集，对情感粒度的提升主要体现在强度和类间区分上，对更微妙、混合情感的生成能力验证不足，跨数据集的泛化能力也仅在一个小型数据集上得到初步验证。 📌 核心摘要 要解决的问题：现有音频驱动的3D说话头部生成技术虽然在唇形同步方面表现良好，但在生成生动、可控且情感细腻的面部动画方面存在瓶颈，具体表现为情感解耦粒度粗糙、生成稳定性差以及难以建模细微的情感差异。 方法核心：提出DiffEmoTalk框架，其核心是三个专门编码器：唇动编码器、韵律编码器和情感感知语音编码器（EASE），用于从语音中解耦不同粒度的特征。EASE通过层次化多级对比学习（HMLC），利用连续的效价-唤醒值（VA）和文本描述进行优化。解耦后的特征通过一个“情感引导的多特征AU预测器”融合，并以面部动作单元（AU）作为中间监督，最终输入一个基于Transformer的扩散模型解码器生成FLAME参数动画。 创新点：与已有方法相比，新在：(1) 提出EASE模块，通过对比学习从语音中提取更丰富、更具区分度的情感表征；(2) 引入AU作为中间监督和桥接模态的桥梁，改善了跨模态融合的稳定性与可解释性；(3) 将扩散模型与细粒度情感解耦相结合，实现了在情感准确性与生成多样性之间的更好平衡。 主要实验结果：在MEAD和RAVDESS数据集上，DiffEmoTalk在情感准确度（MEE）和情感强度误差（EIE）上取得了最佳成绩（例如，在MEAD上，MEE为0.00936，低于MEDTalk的0.01215）。唇音同步（MLE）略逊于MEDTalk（0.00695 vs 0.00657），但优于EmoTalk和DiffPoseTalk。在用户研究中，其在情感准确性和生动性评分上也领先。关键消融实验证明了三编码器解耦、AU监督和EASE模块的必要性。 实际意义：该工作推动了更具表现力和可控性的数字人生成技术，在虚拟助手、数字人交互、远程协作和内容创作等领域有应用潜力。 主要局限性：情感控制目前高度依赖语音内容，未能整合文本、视觉等上下文线索来处理“相同话语不同情感”的情况。此外，模型在跨数据集泛化能力上的验证较为有限。 🏗️ 模型架构 DiffEmoTalk的整体框架（见图1）是一个多阶段的生成系统，目标是将输入语音转换为3D面部动画（FLAME参数）。其架构可分为三个主要阶段：特征解耦与提取、AU预测与融合、以及扩散模型生成。 ...

📄 Diffusion Timbre Transfer via Mutual Information Guided Inpainting #音乐生成 #音频生成 #扩散模型 #零样本 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #音频生成 #零样本 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Ching Ho Lee（Queen Mary University of London） 通讯作者：未说明 作者列表：Ching Ho Lee（Queen Mary University of London）、Javier Nistal（Sony Computer Science Laboratories, Paris, France）、Stefan Lattner（Sony Computer Science Laboratories, Paris, France）、Marco Pasini（Queen Mary University of London；Sony Computer Science Laboratories, Paris, France）、George Fazekas（Queen Mary University of London） 💡 毒舌点评 亮点：该方法巧妙地将“免训练”和“推理时控制”结合，通过互信息分析“外科手术式”地定位音色通道，再用扩散模型的采样特性来“手术”，在保持旋律节奏和改变音色之间找到了一个精巧的平衡点。短板：这种基于统计的通道解缠在实际复杂音频上可能不够完美（论文中k值仍需调优），且极度依赖底层编码器M2L2和扩散模型DaR的特定性质，方法的普适性和鲁棒性有待更广泛验证。 ...