扩散模型

📄 AudioGen-Omni: A Unified Multimodal Diffusion Transformer for Video-Synchronized Audio, Speech, and Song Generation #音频生成 #语音合成 #多模态模型 #扩散模型 #统一音频模型 ✅ 7.5/10 | 前25% | #音频生成 | #多模态模型 | #语音合成 #扩散模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Le Wang（中国矿业大学，徐州） 通讯作者：未说明（论文中未明确标注通讯作者） 作者列表：Le Wang（中国矿业大学）、Jun Wang（快手科技，Kling AI）、Chunyu Qiang（快手科技，Kling AI）、Feng Deng（快手科技，Kling AI）、Chen Zhang（快手科技，Kling AI）、Kun Gai（快手科技，Kling AI） 💡 毒舌点评 亮点：这篇论文的野心很大，试图用一个统一的“全家桶”模型解决视频到音频、语音、歌曲的生成，并且通过全面的实验确实做到了在多个任务上刷榜，证明了其架构设计的有效性。 短板：然而，论文对视频输入的强依赖像一根“拐杖”，限制了其在无视频场景下的应用，而号称的“统一”框架在代码和模型完全黑箱的情况下，其宣称的优越性和可复现性都要打上一个问号。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：未提及公开预训练模型权重。 数据集：论文提及了使用的多个数据集名称及大致规模，但未说明这些数据集是否由作者整理发布，或提供具体的下载/访问方式。部分数据集（如VGGSound, AudioCaps）是公开的，但作者处理后的版本未公开。 Demo：提供了在线演示页面链接：https://ciyou2.github.io/AudioGen-Omni/ 。 复现材料：给出了模型总参数、层数、优化器、学习率、批次大小、GPU型号和训练时长等关键训练细节。但缺乏具体的网络层配置（如隐藏维度、注意力头数）、数据增强方法、评估脚本等，复现材料不充分。 论文中引用的开源项目：论文明确引用了并依赖以下开源模型或工具：F5-TTS [14], ConvNeXt-V2 [10], Synchformer [15], ViT-bigG (MetaCLIP) [31], T5-Base [30], Kling-Foley [32], VQ-CTAP [33], Qwen-Omni [27], Whisper [28], FunASR [29], FLUX [12], SD3 [11]。 📌 核心摘要 解决的问题：现有视频到音频（包括音效、语音、音乐）的生成方法大多任务特定、模型碎片化，且跨模态（如唇音同步）对齐效果不佳，限制了通用性和生成质量。 方法核心：提出AudioGen-Omni，一个基于多模态扩散变换器（MM-DiT）的统一框架。其核心是引入了“歌词-转录编码器”，将音素/字素映射为帧级稠密表示；并设计了“相位对齐各向异性位置注入（PAAPI）”，在注意力机制中对视频、音频、转录文本等有时序结构的模态选择性地应用旋转位置编码，以实现精细的跨模态同步。 创新点：a) 首个能同时处理音频、语音、歌曲生成的统一多模态条件生成框架；b) 提出了无需音素时长监督的歌词转录编码模块；c) PAAPI机制增强了细粒度的时序对齐。与先前工作不同，它解冻了所有模态并采用掩码输入策略，增强了灵活性。 主要实验结果：在VGGSound音频生成测试集上，其FD指标（PaSST 58.77, PANNs 6.29）优于MMAudio等基线（见表1）。在LRS3/LRS2语音生成测试中，其UTMOS（3.982/3.842）和DNSMOS（3.782/3.767）得分甚至超过真实语音，WER也大幅降低（17.56%/17.75%）（见表2）。在说话人相似度（SECS）评估中，其GE2E和VoxSim分数均高于其他方法（见表3）。模型能在1.91秒内生成8秒音频。 实际意义：为多媒体内容创作提供了一个高效、高质量的统一音频生成工具，有望简化视频后期制作流程，增强虚拟人物、游戏、社交媒体的音频沉浸感。 主要局限性：模型依赖视频输入，当无视觉信息时应用受限；论文未开源代码和模型，限制了社区复现和二次开发；虽能生成歌曲，但对复杂音乐结构的控制能力未深入展示。 🏗️ 模型架构 AudioGen-Omni是一个端到端的多模态扩散变换器，旨在根据可选的视频和文本输入，生成同步的音频、语音或歌曲。 ...

📄 Automatic Music Mixing Using a Generative Model of Effect Embeddings #音乐生成 #扩散模型 #领域适应 #音乐信息检索 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #领域适应 #音乐信息检索 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Eloi Moliner（Aalto大学，DICE声学实验室） 通讯作者：未说明 作者列表：Eloi Moliner（Aalto大学，DICE声学实验室）、Marco A. Mart´ınez-Ram´ırez（Sony AI）、Junghyun Koo（Sony AI）、Wei-Hsiang Liao（Sony AI）、Kin Wai Cheuk（Sony AI）、Joan Serr`a（Sony AI）、Vesa V¨alim¨aki（Aalto大学，DICE声学实验室）、Yuki Mitsufuji（Sony AI， Sony Group Corporation） 💡 毒舌点评 MEGAMI的核心亮点在于巧妙地将扩散模型应用于效应嵌入空间，解决了自动混音中“一对多”的根本难题，同时其领域适应策略为利用海量无配对湿录音数据提供了优雅的解决方案，架构设计完整且有深度。然而，论文的评估严重依赖内部数据集，缺乏在大型公开基准上的可复现比较，且其“接近人类水平”的结论在部分主观测试结果中略显主观，实际泛化能力与可落地性仍有疑问。 🔗 开源详情 代码：提供代码仓库链接：https://github.com/SonyResearch/MEGAMI。论文提及“Further details will be provided in the code repository”。 模型权重：论文中未提及公开模型权重。 数据集：论文使用了多个内部数据集（Internal-Small, Internal-Large, Evaluation Benchmark）和公开数据集（Public, Public-Dry）。内部数据集未提及公开，公开数据集来源（如MoisesDB, MedleyDB）是公开可获取的。 Demo：提供在线演示链接：https://sonyresearch.github.io/MEGAMI/。 复现材料：论文提供了一些实现细节（如模型参数量、损失函数类型、采样率、片段长度），但缺乏训练超参数（学习率、batch size等）的完整说明。完整复现严重依赖于无法公开的内部数据集。 论文中引用的开源项目： CLAP：使用了公开预训练的音乐数据CLAP编码器 [11]。 FxEncoder++：使用了该效应特征提取模型 [12]。 公开数据集：MoisesDB [17], MedleyDB [18], OpenSinger [19], IDMT-SMT Drums/Bass/Guitar [20, 21, 22], GuitarSet [23], Aalto anechoic orchestra [24], ReverbFx [26], ASH [27], Arni [28]。 扩散模型框架：基于EDM [14]、Score SDE [15]、Flow Matching [30]等公开工作。 📌 核心摘要 这篇论文旨在解决自动音乐混音中的核心挑战：专业混音本质上是主观的，同一组干录音存在多种同样有效的混音方案，而现有的确定性回归方法无法捕捉这种多样性。论文提出了MEGAMI（Multitrack Embedding Generative Auto MIxing），一个生成式框架，它使用条件扩散模型在效应嵌入空间中建模给定干音轨的专业混音的条件分布。其核心方法是将混音决策（由效应嵌入表示）与音乐内容分离，并设计了一个排列等变的Transformer架构以处理任意数量和顺序的音轨。与已有方法相比，MEGAMI的创新在于：（1）首次将生成模型（扩散模型）用于自动混音；（2）提出了一种效应嵌入因式分解；（3）通过领域适应策略，使模型能利用大量仅有湿录音的公开数据集进行训练。实验表明，在客观分布性指标（KAD）上，MEGAMI优于所有基线；主观听力测试显示其性能接近人类混音师，在部分曲目上甚至超越了人类参考混音。这项工作为自动音乐生成开辟了新方向，其框架可用于合成混音数据集。主要局限性在于评估数据集大部分为内部数据，且模型性能依赖于CLAP和FxEncoder++等预训练嵌入模型的质量。 ...

📄 Bayesian Signal Separation Via Plug-and-Play Diffusion-Within-Gibbs Sampling #语音分离 #扩散模型 #信号处理 #生物声学 ✅ 7.5/10 | 前25% | #语音分离 | #扩散模型 | #信号处理 #生物声学 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Yi Zhang（魏茨曼科学研究所，数学与计算机科学系） 通讯作者：Rui Guo（魏茨曼科学研究所，数学与计算机科学系； 邮箱：rui.guo@weizmann.ac.il） 作者列表：Yi Zhang（魏茨曼科学研究所，数学与计算机科学系）、Rui Guo（魏茨曼科学研究所，数学与计算机科学系）、Yonina C. Eldar（魏茨曼科学研究所，数学与计算机科学系） 💡 毒舌点评 亮点：将即插即用扩散模型与吉布斯采样的框架结合得极为优雅，不仅提供了严格的理论收敛证明，还实现了不同源信号先验模型的独立训练与自由组合，设计上富有巧思且模块化程度高。 短板：理论证明高度依赖“完美扩散模型”这一理想化假设，而实际中扩散模型的训练误差、离散化误差等会直接影响算法性能，论文对此稳健性分析不足；此外，实验仅在一个特定且数据量可能有限的生物医学场景（心搏提取）上验证，未能充分展示其在更主流、更复杂的音频/语音分离任务上的泛化能力。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开任何预训练的扩散模型权重。 数据集：训练所用的“impedance dataset [21]”是引用的公开数据集，但论文未说明是否提供了处理后的具体数据包或下载链接。运动数据是程序生成的，但未公开生成脚本。 Demo：未提供在线演示。 复现材料：论文给出了算法伪代码（Algorithm 2）和部分超参数（α=15, T=1, σ(t_v)=σ_v），但缺少关键的训练细节（如网络结构、优化器、学习率、训练步数）和完整的超参数配置（如迭代次数N的具体值、扩散模型的离散化步数）。这些缺失使得完全复现实验结果非常困难。 论文中引用的开源项目：引用了WaveNet [22]的架构作为灵感，但未明确说明是否使用了其开源实现。 📌 核心摘要 本文针对从噪声混合中恢复多个独立源信号的贝叶斯分离问题，提出了一种名为“扩散-内-吉布斯采样（DiG）”的后验采样算法。其核心是将吉布斯采样与即插即用（Plug-and-Play）扩散先验相结合：算法交替地对每个源信号进行更新，更新其条件分布时，通过模拟对应源信号的扩散模型的反向过程的一部分来实现。与现有大多数基于扩散模型的分离方法相比，该方法的新颖之处在于：1）模块化设计，允许预先独立训练每个源信号的扩散模型，然后灵活组合，无需为新的分离任务重新训练整个模型；2）在扩散模型完美训练的理想假设下，能够证明算法收敛到真实的后验分布。实验在从含有强运动伪影的混合信号中提取心搏的任务上进行，结果表明，所提DiG算法在均方误差（MSE）指标上全面优于传统方法（EMD, VMD）以及现有的先进扩散后验采样方法（MSDM, DPnP）。例如，在信号干扰比为-40.1 dB、信噪比为13.2 dB的极端情况下，DiG的MSE为0.57，而次优的DPnP为0.98，优势明显。该工作为信号分离问题提供了一种灵活、理论上可证明的新范式，其实际意义在于降低了扩散模型在分离任务中的应用门槛。主要局限是理论保证依赖于强理想化假设，且实验场景相对特定。 ...

📄 Beyond Face Swapping: A Diffusion-Based Digital Human Benchmark for Multimodal Deepfake Detection #音频深度伪造检测 #多模态模型 #基准测试 #扩散模型 #数据集 🔥 8.1/10 | 前25% | #音频深度伪造检测 | #多模态模型 | #基准测试 #扩散模型 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：未说明（论文标注Jiaxin Liu†和Jia Wang†贡献相等，未明确谁为第一） 通讯作者：Saihui Hou⋆， Zhaofeng He⋆ 作者列表：Jiaxin Liu（北京邮电大学，BUPT）、Jia Wang（北京师范大学，BNU）、Saihui Hou（未说明具体机构，可能来自BUPT或BNU）、Min Ren（滴滴出行，Didi Chuxing）、Huijia Wu（滴滴出行，Didi Chuxing）、Long Ma（未说明）、Renwang Pei（未说明）、Zhaofeng He（未说明具体机构，可能来自BUPT或BNU） 💡 毒舌点评 亮点在于构建了第一个专门为评估“扩散模型驱动的数字人”伪造而设计的大规模多模态数据集（DigiFakeAV），数据生成流程严谨，有效暴露了现有检测器的脆弱性，为领域提供了急需的试金石。短板则是提出的检测方法DigiShield虽然有效，但更像一个验证多模态融合有效性的“基线”而非一个具有颠覆性的新架构，且其在DigiFakeAV上80.1%的AUC也说明“道高一尺，魔高一丈”，真正的安全挑战远未解决。 🔗 开源详情 代码：论文中提及项目主页 https://hubeiwuhanliu.github.io/DigiFakeAV.github.io/，但未明确是否提供代码仓库链接。 模型权重：未提及是否公开DigiShield或其他模型的权重。 数据集：通过项目主页 https://hubeiwuhanliu.github.io/DigiFakeAV.github.io/ 提供获取信息，表明将开源。 Demo：未提及在线演示。 复现材料：给出了部分实现细节（如预处理、骨干网络ResNet-50、采样30帧、数据增强），但缺乏关键训练超参数（优化器、学习率等），复现材料不完整。 论文中引用的开源项目：引用了多个作为数据生成和对比的方法/模型，如Sonic [8], Hallo [5], EchoMimic [4], CosyVoice 2 [16], 以及基线检测器如Meso4 [19], Xception [2]等。 📌 核心摘要 要解决什么问题：现有深度伪造检测数据集和技术主要针对过时的面交换方法，无法有效评估和应对由扩散模型生成的、具有高度真实性和多模态一致性的新一代数字人伪造，导致现有检测器性能在现实威胁面前大幅下降。 ...

📄 Bone-Conduction Guided Multimodal Speech Enhancement with Conditional Diffusion Models #语音增强 #扩散模型 #骨传导 #多模态模型 ✅ 7.5/10 | 前25% | #语音增强 | #扩散模型 | #骨传导 #多模态模型 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sina Khanagha（汉堡大学信号处理组） 通讯作者：未说明 作者列表：Sina Khanagha（汉堡大学信号处理组）、Bunlong Lay（汉堡大学信号处理组）、Timo Gerkmann（汉堡大学信号处理组） 💡 毒舌点评 本文的亮点在于将扩散模型这一强大的生成范式引入骨传导引导的多模态语音增强任务，并通过设计精巧的条件注入策略（IC/DC），在极低信噪比下实现了显著的性能飞跃（例如在-10dB SNR下POLQA提升超过1分）。然而，其核心短板在于扩散模型固有的多步迭代采样带来的推理速度瓶颈（论文仅简要提及需要数十步，未量化延迟），这使其在助听器、实时通信等需要低延迟的应用场景中面临严峻挑战，论文对此缺乏深入探讨和解决方案。 🔗 开源详情 代码：提供了GitHub代码仓库链接：https://github.com/sp-uhh/bcdm 模型权重：论文中未提及是否公开预训练模型权重。 数据集：使用了公开数据集ABCS（用于骨传导与空气传导语音）和CHiME3（用于噪声）。论文未说明其是否有独家数据。 Demo：论文中未提及在线演示。 复现材料：提供了详尽的训练细节（数据集划分、预处理、优化器、学习率、Batch Size、EMA设置）、模型架构描述（包括IC/DC两种策略的细节）以及关键超参数（如σ范围、扩散步数）。未提供详细的训练脚本或配置文件。 论文中引用的开源项目：依赖NCSN++作为主干网络，并引用了其代码。条件编码器部分参考了BigGAN的残差块。 📌 核心摘要 问题：传统单通道语音增强模型在极端噪声环境（低信噪比）下性能严重下降。虽然骨传导信号（通过颅骨振动采集）对声学噪声免疫，但其带宽有限、清晰度差，如何有效融合这两种互补模态是一个挑战。 方法核心：提出了骨传导条件扩散模型（BCDM），一个基于复数域条件扩散模型的多模态语音增强框架。模型将干净语音作为生成目标，以带噪的空气传导语音为条件引导扩散过程，并创新性地引入骨传导信号作为额外条件。论文比较了两种将骨传导信号注入主网络的条件化策略：输入拼接（IC） 和 解码器条件化（DC）。 创新点：首次将条件扩散模型框架应用于骨传导引导的语音增强；提出了IC和DC两种有效的跨模态条件注入方法；在广泛的声学条件（SNR从-10dB到15dB）下进行了全面实验验证。 实验结果：在ABCS+CHiME3数据集上，所有BCDM变体在所有SNR条件下均优于基线模型（包括单模态扩散模型SGMSE+和多种多模态预测模型）。例如，在极具挑战性的-10dB SNR下，BCDM-DC-L的POLQA分数为2.37±0.45，而最强基线BiNet为2.35±0.40，SGMSE+仅为1.30±0.35。关键对比数据见下表。 模型 SNR=-10dB POLQA SNR=-10dB PESQ SNR=-10dB ESTOI SNR=5dB POLQA SNR=15dB POLQA Noisy Mixture 1.09 1.08 0.21 1.55 2.42 SGMSE+ 1.30 1.15 0.36 2.83 3.55 BiNet 2.35 1.80 0.63 2.62 2.78 BCDM-IC-S 2.36 1.86 0.75 3.00 3.53 BCDM-DC-L 2.44 2.02 0.76 3.20 3.70 实际意义：为助听器、可穿戴通信设备等在极端嘈杂环境下（如工厂、战场）保持清晰语音通信提供了新的技术路径，证明了多模态生成模型的潜力。 ...

📄 Break-the-Beat! Controllable MIDI-to-Drum audio synthesis #音乐生成 #扩散模型 #预训练 #音频生成 #模型评估 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #预训练 #音频生成 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Shuyang Cui (Sony Group Corporation) 通讯作者：未说明（论文中未明确标注） 作者列表：Shuyang Cui¹, Zhi Zhong¹, Qiyu Wu¹, Zachary Novack¹*, Woosung Choi², Keisuke Toyama¹, Kin Wai Cheuk², Junghyun Koo², Yukara Ikemiya², Christian Simon¹, Chihiro Nagashima¹, Shusuke Takahashi¹ (1: Sony Group Corporation, 2: Sony AI) 💡 毒舌点评 这篇论文技术方案完备，从数据构建、模型设计到实验评估都做得非常扎实，成功填补了“MIDI-to-Drum”这一特定任务的研究空白，对于音乐制作工具开发具有明确的导向性。然而，其主要创新集中在对现有框架的适配和针对性设计上，在生成模型基础架构层面的突破性略显不足，且缺乏与更多元、更强的基线模型在相似音乐生成任务上的横向比较，说服力可再增强。 ...

📄 Bridging the Measurement–Simulation Gap in Room Acoustics with Real2sim Diffusion #声源定位 #扩散模型 #麦克风阵列 #信号处理 🔥 8.5/10 | 前25% | #声源定位 | #扩散模型 | #麦克风阵列 #信号处理 学术质量 6.2/7 | 选题价值 1.6/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Jean-Daniel Pascal Prieto（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France；Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France） 通讯作者：未说明 作者列表：Jean-Daniel Pascal Prieto（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France；Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France）、Antoine Deleforge（Inria, IRMA, Université de Strasbourg, CNRS UMR 7501, Strasbourg, France）、Cédric Foy（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France）、Marceau Tonelli（UMRAE, Cerema, Univ. Gustave Eiffel, Strasbourg, France） 💡 毒舌点评 这篇论文的亮点在于巧妙地用生成式扩散模型（薛定谔桥）来解决一个物理建模中的“脏数据”问题（测量失配），这种思路在声学领域较为新颖，且实验上成功地在真实测量数据上实现了较高的声像源定位召回率，是迈向实用化的重要一步。但其短板在于，整个框架高度依赖于对特定测量设备（扬声器、麦克风阵列）响应的精确模拟和训练，这可能限制其泛化能力；另外，真实数据上评估用的“正确”标准（如1米、20度阈值）相对粗糙，无法精细量化定位精度的提升。 ...

📄 Cardiobridge-DM: Bridging Cross-Cohort Heart Sound Synthesis via Rhythm-Aware Semi-Supervised Diffusion #音频生成 #扩散模型 #数据增强 #生物声学 #医疗AI ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #数据增强 #生物声学 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Chenyang Xu（西安电子科技大学网络工程学院） 通讯作者：Hao Wang（西安电子科技大学网络工程学院） 作者列表：Chenyang Xu（西安电子科技大学网络工程学院）、Siming Li（西安电子科技大学通信工程学院）、Hao Wang（西安电子科技大学网络工程学院） 💡 毒舌点评 亮点是其半监督Classifier-Free Guidance (CFG) 策略的设计，通过结构化的模态缺失（对弱标注数据强制丢弃ECG），巧妙地迫使模型学习从文本到心律的跨模态映射，这超越了简单的数据拼接。短板在于，作为一个强调“首个”框架和“可扩展”解决方案的工作，其复现信息极度匮乏，未提供任何代码或模型权重，这严重削弱了其作为“开源解决方案”的实用价值，也让论文中的性能声称难以被独立验证。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：实验使用了公开的PhysioNet 2016和2022数据集，但论文未说明如何获取或处理后的具体数据形式。 Demo：未提供在线演示。 复现材料：给出了部分训练细节（优化器、学习率、批量大小）、模型总参数量（110M）和超参数敏感性分析图。但关键的网络架构参数、完整训练配置、数据预处理代码等均未说明。 引用的开源项目：论文引用了Wav2Vec 2.0 [21] 和 一种心音���割网络 [23]，但未说明是否完全依赖其代码。 总结：论文中未提及开源计划。核心复现信息缺失。 📌 核心摘要 要解决什么问题：医疗AI（特别是心脏听诊AI）面临数据碎片化挑战：大型数据集（如PhysioNet 2016）标注简单，小型数据集（如PhysioNet 2022）标注详细但样本量小。需要一种方法桥接这两类数据，生成高质量、可控的心音（PCG）信号以增强模型泛化能力。 方法核心是什么：提出CardioBridge-DM，一个两阶段半监督扩散框架。第一阶段使用VQ-VAE学习跨队列的通用声学表征。第二阶段训练条件扩散模型，其核心创新是节奏感知的半监督Classifier-Free Guidance (CFG)：对有ECG的丰富标注数据进行标准随机丢弃；对无ECG的弱标注数据，强制丢弃ECG模态，迫使模型仅从文本诊断中推断心律。 与已有方法相比新在哪里：首次设计用于跨队列（异构标注）心音合成的扩散框架。提出了半监督CFG机制，将条件生成从单纯的数据融合提升为一种跨模态生理推理能力，使模型能在缺失ECG时仅凭文本生成符合节律的心音。 主要实验结果如何：在FAD（生成质量）上达到4.3，远优于最强基线AudioLDM的9.8。提出了新的CCT（跨队列迁移性）指标，得分为0.82。消融实验证明，移除通用声学表征（第一阶段）和半监督CFG都会显著降低性能。感知图灵测试中，训练听众对合成音频的混淆率达到47.8%（接近50%的理想随机水平），MOS为4.2±0.4（与真实音频4.6±0.3可比）。具体结果见下表。 方法 FAD ↓ IS ↑ CLAP ↑ CCT ↑ StyleGAN2-V (adapted) 14.2±0.9 2.1±0.2 0.41±0.04 0.45±0.05 DiffWave (adapted) 11.2±0.6 2.3±0.2 0.48±0.03 0.51±0.04 AudioLDM (adapted) 9.8±0.5 2.6±0.1 0.52±0.03 0.58±0.06 CardioBridge-DM (Ours) 4.3±0.3 3.7±0.2 0.74±0.02 0.82±0.03 ...

📄 Conditional Diffusion Models for Mental Health-Preserving Voice Conversion #语音转换 #扩散模型 #语音匿名化 #语音生物标志物 #零样本 🔥 8.0/10 | 前25% | #语音转换 | #扩散模型 | #语音匿名化 #语音生物标志物 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Siddharth Kalyanasundaram（科罗拉多大学博尔德分校认知科学与计算机科学研究所） 通讯作者：未说明（从邮箱格式和惯例推断，Theodora Chaspari可能为通讯作者，但论文未明确标注） 作者列表：Siddharth Kalyanasundaram（科罗拉多大学博尔德分校认知科学与计算机科学研究所）、Theodora Chaspari（科罗拉多大学博尔德分校认知科学与计算机科学研究所） 💡 毒舌点评 这篇论文巧妙地将扩散模型用于一个“政治正确”但技术挑战十足的场景——在给抑郁症语音“变声”脱敏的同时，还要保住其病情线索，想法和落点都值得称赞。但遗憾的是，模型的训练“粮草”太少（仅28小时语音），导致其在通用语音质量（自然度、可懂度）上略逊于“吃得多”的基线，显得“巧妇难为无米之炊”。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：使用了E-DAIC-WOZ数据集，这是一个公开但需要申请获取的数据集（论文未提供获取方式）。 Demo：提供在线演示链接：https://sidks.github.io/icassp26_vcdemo/。 复现材料：给出了模型规模（23M/67M）、优化器（AdamW）、学习率（5e-5）、训练轮数（446）、批大小（32）、训练硬件（单A100）和时长（72小时）等关键信息。 论文中引用的开源项目/工具：引用了XLS-R (Wav2Vec 2.0)、VQ-VAE、YAAPT、OpenSMILE（eGeMAPS特征）、Whisper、StyleEncoder、Vevo-Voice、QuickVC等相关模型或工具，但未指明本文是否直接依赖这些项目的开源代码。 整体开源情况：论文中未提及完整的开源计划。 📌 核心摘要 解决的问题：语音是心理健康（如抑郁症）的重要生物标志物，但包含说话人身份等敏感信息，阻碍了数据共享与研究复现。需要在匿名化语音的同时，保留对心理健康研究至关重要的副语言信息。 方法核心：提出一种基于条件扩散模型（DM）的语音转换（VC）框架。首先，将语音解耦为内容（w2v）、音高（f0）、说话人身份（s）和抑郁（d）四个嵌入表示。然后，以目标说话人嵌入（s’）和抑郁嵌入（d）作为条件，指导扩散模型的反向去噪过程，生成既改变身份又保留抑郁线索的新语音。 与已有方法的新意：首次将扩散模型应用于明确保留抑郁线索的语音转换任务。现有VC方法（如基于VAE、GAN的模型）在匿名化时会严重退化副语言信息（如情绪、抑郁线索），而本文通过将抑郁嵌入作为扩散过程的显式条件，实现了对关键生物标志物的保护。 主要实验结果：在未见说话人的零样本设置下，所提模型（DM-23M， DM-67M）与SOTA基线（Vevo-Voice， QuickVC）在语音可懂度（WER/CER）和说话人相似度（SECS）上表现相当。核心优势在于抑郁信息保留：所提模型转换后语音的抑郁严重程度（PHQ-8）预测平均绝对误差（MAE）显著低于基线（DM-23M：5.025 vs. Vevo-Voice：5.478, QuickVC：5.804），且预测分数分布与原始语音更接近（KL散度约0.06 vs. 24+）。 模型 WER ↓ CER ↓ SECS ↑ PHQ-8 MAE ↓ nMOS ↑ sMOS ↑ 原始语音 0.046 0.025 0.872 4.522 4.17 3.85 Vevo-Voice 0.078 0.043 0.850 5.478 4.14 3.74 QuickVC 0.059 0.046 0.731 5.804 4.04 3.59 DM-23M (本文) 0.082 0.047 0.804 5.025 3.97 3.71 DM-67M (本文) 0.068 0.041 0.829 5.055 4.03 3.78 实际意义：为心理健康研究提供了一种潜在的隐私保护工具，可以在保护参与者隐私的前提下，促进脱敏语音数据的共享与分析，有助于推动该领域的研究复现和跨机构合作。 主要局限性：训练数据规模较小（仅28小时），限制了模型生成语音的自然度和可懂度；仅针对抑郁症进行评估，未验证对其他副语言信息（如情绪、认知状态）的保留能力；隐私-效用权衡（EER指标）显示匿名化程度还有提升空间。 🏗️ 模型架构 论文提出的模型架构遵循“源-滤波器”分解框架，并采用扩散模型进行条件生成。整体流程如图1所示。 ...

📄 Continuous-Token Diffusion for Speaker-Referenced TTS in Multimodal LLMs #语音合成 #多模态模型 #扩散模型 #自回归模型 🔥 8.0/10 | 前10% | #语音合成 | #扩散模型 | #多模态模型 #自回归模型 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 -0.3 | 置信度 高 👥 作者与机构 第一作者：Xinlu He（Worcester Polytechnic Institute， Amazon AGI） 通讯作者：未说明 作者列表：Xinlu He*（Worcester Polytechnic Institute， Amazon AGI）， Swayambhu Nath Ray（Amazon AGI）， Harish Mallidi（Amazon AGI）， Jia-Hong Huang（Amazon AGI）， Ashwin Bellur（Amazon AGI）， Chander Chandak（Amazon AGI）， M. Maruf（Amazon AGI）， Venkatesh Ravichandran（Amazon AGI） 💡 毒舌点评 亮点在于其高效的双头架构设计和两阶段训练策略，成功将连续token扩散“塞进”了自回归框架并取得了SOTA的自回归TTS结果，参数效率极高。短板则是开源精神的缺失，在声称“仅用于研究”的同时，却未提供任何模型、代码或数据，让“复现”成了镜花水月。 ...