扩散模型

📄 Generalizability of Predictive and Generative Speech Enhancement Models to Pathological Speakers #语音增强 #迁移学习 #扩散模型 #鲁棒性 #数据集 ✅ 7.0/10 | 前50% | #语音增强 | #迁移学习 | #扩散模型 #鲁棒性 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Mingchi Hou（Idiap Research Institute, Switzerland; École Polytechnique Fédérale de Lausanne, Switzerland） 通讯作者：未说明 作者列表：Mingchi Hou（Idiap Research Institute, Switzerland; École Polytechnique Fédérale de Lausanne, Switzerland）、Ante Jukić（NVIDIA, USA）、Ina Kodrasi（Idiap Research Institute, Switzerland） 💡 毒舌点评 这篇论文填补了SOTA语音增强模型在病理语音上性能评估的关键空白，是领域内一个��实且必要的“体检报告”。但其短板在于结论的深度略显不足——在发现“病理语音特性导致性能下降”和“迁移微调优于其他方案”这些相对符合直觉的结论后，未能进一步挖掘病理类型的异质性或提出更针对性的适配机制，更像是一份扎实的基准测试报告而非一篇有深度的方法论文。 ...

📄 Generating Moving 3d Soundscapes with Latent Diffusion Models #空间音频 #扩散模型 #音频生成 #数据增强 #多通道 ✅ 7.5/10 | 前25% | #空间音频 | #扩散模型 | #音频生成 #数据增强 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Christian Templin (Stevens Institute of Technology, Hoboken, NJ, USA) 通讯作者：未说明 作者列表：Christian Templin（Stevens Institute of Technology）、Yanda Zhu（Hunan Normal University, Changsha, China）、Hao Wang（Stevens Institute of Technology） 💡 毒舌点评 亮点：首次将潜在扩散模型用于生成带动态声源轨迹控制的一阶Ambisonics音频，并构建了首个大规模带标注的动态空间音频数据集，填补了明确的空白。短板：虽然引入了参数化模型以提高空间精度，但对“动态”这一核心特性的评估主要停留在起止点的角度误差上，对声源在运动过程中轨迹的平滑度、连续性以及听感上的真实性缺乏更细致的量化分析和主观评估。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：未提及公开预训练模型权重。 数据集：论文明确表示将发布新构建的包含超过100万样本的数据集（训练/验证/测试划分），可通过项目网站获取（https://intellisys.haow.us/spatial-audio-project/）。 Demo：提供了在线演示网站（同上链接）。 复现材料：论文给出了较详细的训练数据构建方法、模型架构描述、损失函数公式和主要超参数（学习率、批大小、优化器、训练步数等），但未提供具体的训练代码、环境配置或最终检查点。 论文中���用的开源项目：Descript Audio Codec (DAC) [11]、T5编码器 [12]、CLAP模型 [13]、AuraLoss [14]、VGGish [15]。 📌 核心摘要 问题：现有文本到音频生成模型大多局限于单声道或立体声，无法生成完整的三维空间音频。少数能生成一阶Ambisonics（FOA）音频的模型仅支持静态声源，无法处理用户指定的动态声源轨迹，且缺乏相关训练数据集。 方法核心：提出SonicMotion框架，这是一个端到端的潜在扩散模型，专为生成FOA音频设计。其核心创新在于引入了两种条件化方式：1）描述式模型，仅使用文本提示；2）参数式模型，额外使用一个“状态矩阵”作为条件，该矩阵显式编码了声源在时间上的方位角和仰角轨迹。 新意：这是首个能够生成带有用户可控运动轨迹的FOA音频的潜在扩散模型。同时，为解决数据匮乏问题，作者构建了一个超过100万对模拟的FOA-文本数据对的新数据集，包含静态和动态声源及详细运动元数据。 主要结果：实验表明，SonicMotion在语义对齐（CLAP分数）和感知质量（FD， FAD）上与领先的文本到音频模型（如AudioLDM 2）相当。在空间精度上，参数式模型（SM-P）显著优于描述式模型（SM-D），其方位角误差降至13.17°，仰角误差降至4.01°，空间总角度误差降至14.32°，相比SM-D有约51%的整体性能提升。自编码器的重建保真度极高，空间角度误差仅为3.72°。 实际意义：为VR/AR、电影和音乐制作提供了自动化创建沉浸式动态声景的新工具，有望降低专业空间音频内容的制作门槛和成本。 主要局限性：模型基于模拟数据训练和评估，其在真实录音或复杂声学场景下的泛化能力有待验证。评估指标主要关注声源起止点的定位精度，对整个运动轨迹的保真度评估不足。此外，仅支持一阶Ambisonics，更高阶的空间分辨率有待探索。 🏗️ 模型架构 SonicMotion是一个端到端的框架，整体流程分为数据准备、自编码器训练和扩散模型生成三个主要阶段。 ...

📄 Generative Audio Extension and Morphing #音频生成 #扩散模型 #数据集 #音频编辑 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #数据集 #音频编辑 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：未说明（论文注明Prem Seetharaman⋆, Oriol Nieto⋆为同等贡献） 通讯作者：未说明 作者列表：Prem Seetharaman（Adobe Research, San Francisco, CA, USA）、Oriol Nieto（Adobe Research, San Francisco, CA, USA）、Justin Salamon���Adobe Research, San Francisco, CA, USA） 💡 毒舌点评 论文的亮点在于将技术问题（音频生成）与特定用户群体（音效设计师）的需求紧密结合，并针对性地设计了“噪声底数据集”来解决生成静态声音时的幻觉问题，展现了工程上的巧思。短板则在于，它本质上是将音频修复/填充任务包装成了一个“生成”任务，且缺乏与当前最先进文本到音频模型（如AudioLDM 2, VampNet等）在通用生成能力上的直接对比，其技术壁垒和普适性有待商榷。 🔗 开源详情 代码：论文中未提及任何代码仓库链接。 模型权重：未提及公开模型权重。 数据集：主训练数据集（110万样本）为专有和许可数据混合，未公开。噪声底数据集是论文中合成的新数据集，也未提及公开。 Demo：论文提供了一个伴站网站（https://sites.google.com/view/genextendblend/home），可能包含音频示例，但未明确说明是在线可交互的Demo。 复现材料：给出了部分训练细节（优化器、学习率、batch size、训练步数、硬件型号），但缺乏完整的配置文件、预训练模型或详细的代码实现，不足以进行完全复现。 论文中引用的开源项目：引用了以下开源项目作为技术组件：语音分离模型[26]（MDX-GAN，代码已共享）、音频编解码器DAC[29]、文本嵌入模型Mixtral[32]、音频嵌入模型CLAP[36]。 总结：论文中未提及任何开源计划。其复现性高度依赖作者未共享的专有数据、合成数据集和内部代码实现。 📌 核心摘要 要解决什么问题：音效设计师在创作中常需要将现有音频片段进行扩展（向前或向后）或在两个不同音频间进行无缝变形（morphing），传统方法耗时且易产生伪影。 方法核心是什么：使用基于扩散Transformer（DiT）的模型，在音频的潜在空间进行操作。核心是提出了一种音频提示指导（Audio Prompt Guidance, APG） 技术，通过在扩散过程中对已知（被掩码的）音频潜在表示和未知（噪声）部分应用一种变体的分类器自由引导（CFG），使生成结果更好地贴合原始音频提示。此外，为了克服在生成持续/静态声音（如环境音）时模型易产生无关噪声的“幻觉”问题，提出了使用合成的噪声底数据集（Noise Floor Dataset） 对模型进行微调。 与已有方法相比新在哪里：1) 提出APG，首次将CFG变体直接应用于音频模态本身以增强生成音频与输入提示的保真度。2) 设计了专门针对音效设计师需求（处理48kHz立体声、特效/环境声）的端到端扩展/变形框架。3) 创新性地构建大规模合成数据集（1.3M小时）并用于微调，以缓解特定数据分布导致的生成幻觉问题。 主要实验结果如何： 客观质量（FAD↓）：生成变形（GenMorph）的FAD为0.432，与原始音频（0.426）几乎持平，显著优于白噪声（1.358）和卷积噪声匹配（0.599）等基线。 方法 FAD ↓ GenExtend 0.520 GenMorph 0.432 Convolutional Noise Matching 0.599 White Noise 1.358 Noise Floor 0.586 Original Audio (上界) 0.426 - 主观测试（MOS 1-5分）：15名参与者（含专业人士）对音频扩展结果的平滑度、一致性和质量平均评分为3.5，3.8，3.5。中位数评分均为4分（对应“相当无缝”、“相当相关”、“良好”）。 - APG消融：指导强度γ从0增加到5时，FAD持续改善；在γ=5时，变形任务的FAD略有上升，故选定γ=5。 实际意义是什么：为音效设计师提供了一个高效、高质量的音频片段扩展与变形工具，有望减少重复性手动操作，提升创作效率。其提出的APG和数据集微调策略也可能对其他条件音频生成任务有参考价值。 主要局限性是什么：1) 应用范围限定在音效和环境声，明确排除了语音和音乐。2) 未与当前最强的通用音频生成模型（如基于大规模网络文本-音频对训练的模型）进行对比，其生成质量的天花板尚不明确。3) 训练数据（110万样本）和噪声底数据集（合成）的具体内容和质量未详细公开，可复现性依赖于作者未共享的资源。 🏗️ 模型架构 模型整体架构是一个在音频潜在空间进行操作的扩散流程，主要包含编码器、扩散Transformer（DiT）、解码器以及核心的APG和掩码机制。 ...

📄 GLA-GRAD++: An Improved Griffin-Lim Guided Diffusion Model for Speech Synthesis #语音合成 #扩散模型 #领域适应 ✅ 7.5/10 | 前25% | #语音合成 | #扩散模型 | #领域适应 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Teysir Baoueb（LTCI, T´el´ecom Paris, Institut polytechnique de Paris, France） 通讯作者：未说明 作者列表：Teysir Baoueb（LTCI, T´el´ecom Paris, Institut polytechnique de Paris, France）、Xiaoyu Bie（同上）、Mathieu Fontaine（同上）、Ga¨el Richard（同上） 💡 毒舌点评 这篇论文的亮点在于将经典的信号处理算法（Griffin-Lim）与前沿的生成模型（扩散模型）结合得干净利落，通过一个“简单但关键”的修改（在预测y0项上进行一次性校正）同时解决了速度和鲁棒性两个痛点，在out-of-domain测试集上的提升相当亮眼。短板在于实验对比的基线不够丰富（未与同期的一些快速扩散声码器如FreGrad、SWave等直接对比），且未开源代码和模型权重，对于宣称“零样本”的方法，其实用价值评估需要等待社区验证。 🔗 开源详情 代码：论文未提供代码仓库链接。仅提供了演示页面：https://gla-grad-plus-plus.github.io/。 模型权重：未提及公开模型权重。 数据集：使用的是公开标准数据集（LJSpeech, VCTK），论文未提及额外私有数据集。 Demo：提供了在线演示页面：https://gla-grad-plus-plus.github.io/。 复现材料：给出了核心算法描述和关键实验参数（如GLA迭代次数、梅尔谱参数、扩散步数），但训练超参数（学习率、优化器等）、阶段切换的具体实现代码细节未提供。 论文中引用的开源项目：提到了WaveGrad [5]、HiFi-GAN [27]等作为基线或参考，但未明确列出本工作所依赖的开源代码库。 开源计划：论文中未明确提及未来开源计划。 📌 核心摘要 本文旨在解决基于扩散模型的声码器在条件梅尔频谱图与训练分布不匹配时性能下降且计算成本高的问题。其核心方法GLA-Grad++通过在扩散反向过程的早期，将神经网络预测的“干净语音”（预测y0）替换为从条件梅尔频谱图中通过一次Griffin-Lim算法（GLA）恢复的音频信号（˜x），来引导生成过程。与先前工作GLA-Grad（在多个扩散步骤中重复应用GLA）相比，本方法仅在扩散开始前应用一次GLA，显著加速了生成。实验表明，GLA-Grad++在感知语音质量（PESQ）和短时客观可懂度（STOI）上持续优于WaveGrad和GLA-Grad基线，尤其在未见过的说话人（VCTK数据集）场景下优势明显。例如，在VCTK上，GLA-Grad++的PESQ得分（3.772）相比WaveGrad（3.453）提升了约9.2%。该工作的实际意义在于为扩散声码器提供了一种无需重新训练、即插即用的增强方案，能有效提升合成语音在跨领域场景下的稳定性和质量。其主要局限性是方法性能（尤其是阶段切换点）对单个音频文件可能存在依赖性，论文建议未来可自适应选择最佳切换点。 ...

📄 GMS-CAVP: Improving Audio-Video Correspondence with Multi-Scale Constrative and Generative Pretraining #音视频 #对比学习 #扩散模型 #音频生成 #多尺度模型 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #音视频 #对比学习 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：未说明（论文作者列表为“Shentong Mo1,2,3, Zehua Chen3, Jun Zhu3”，未明确标注第一作者） 通讯作者：未说明 作者列表：Shentong Mo（卡内基梅隆大学，MBZUAI，清华大学），Zehua Chen（清华大学），Jun Zhu（清华大学） 💡 毒舌点评 亮点在于将多尺度对比学习和多尺度扩散生成统一在一个框架内，为音视频预训练提供了新范式，实验结果在多个指标上刷新了SOTA；短板是论文对于模型具体架构细节（如扩散模型中噪声预测网络的具体设计）、训练硬件和完整超参数列表描述不足，且未提及开源计划，这使得严格的复现存在挑战。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：使用了公开数据集VGGSound、AudioSet和Panda70M，但未说明是否提供了特定的预处理脚本。 Demo：未提及在线演示。 复现材料：给出了部分训练细节（优化器、学习率、批次大小、训练轮数），并参考了Diff-Foley的扩散设置。但模型架构的具体实现细节、完整的超参数列表和训练日志/检查点未提供。 论文中引用的开源项目：引用并基于Diff-Foley [6]的生成器设置；使用Adam优化器。 开源计划：论文中未提及开源计划。 📌 核心摘要 本文旨在解决现有对比音视频预训练方法在捕捉细粒度、多层次跨模态对应关系以及直接支持生成任务方面的不足。方法核心是提出GMS-CAVP框架，它统一了多尺度视频-音频对齐（MSA）的对比学习目标与多尺度空间-时间扩散（MSD）的生成预训练目标。与之前仅使用单尺度全局对比学习的方法相比，GMS-CAVP能捕获从细到粗的时空依赖关系，并直接建模模态间的转换映射。主要实验结果表明，在VGGSound等数据集上，GMS-CAVP在视频到音频生成任务（KLD: 1.63, FAD: 0.75, Align Acc: 95.87）和检索任务（如视频到音频R@1: 28.90）上均大幅超越了现有方法。其实际意义是为音视频理解与生成提供了更强大、统一的预训练基础。主要局限性可能包括模型复杂度增加带来的计算开销，以及对扩散模型采样速度的潜在影响（论文未深入讨论）。 ...

📄 Improving Automatic Speech Recognition by Mitigating Distortions Introduced by Speech Enhancement Under Drone Noise #语音识别 #语音增强 #扩散模型 #鲁棒性 #无人机 ✅ 6.5/10 | 前25% | #语音识别 | #语音增强 #扩散模型 | #语音增强 #扩散模型 学术质量 4.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Ryusei Miura（东京科学大学 系统与控制工程系） 通讯作者：未说明 作者列表：Ryusei Miura（东京科学大学 系统与控制工程系），Takahiro Osaki（东京科学大学 系统与控制工程系），Benjamin Yen（东京科学大学 系统与控制工程系），Takeshi Ashizawa（东京科学大学 系统与控制工程系），Kazuhiro Nakadai（东京科学大学 系统与控制工程系） 💡 毒舌点评 亮点：论文针对“语音增强会扭曲语音”这个经典矛盾，提出了“动态融合增强中间结果”+“用噪声特征校正特征”的双模块轻量化解决方案，思路清晰且工程化味道浓。短板：在-10 dB信噪比下，所提系统性能雪崩式下降（CER平均92.4%），甚至远不如直接用ASR（81.6%），这暴露出方法在极端噪声下的脆弱性，也让其宣称的“鲁棒性”打了不少折扣。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用了公开的LibriSpeech语音集和三个无人机噪声数据集（Bebop, Mambo, MK-Quadro），论文中给出了引用。 Demo：未提供在线演示。 复现材料：论文提供了较为详细的实现细节（如模型维度、超参数、训练流程），但缺少完整的配置代码和预处理脚本。 论文中引用的开源项目：ESPnet工具包[24]。 总体情况：论文中未提及开源计划。 📌 核心摘要 解决的问题：在无人机噪声环境下，使用语音增强（SE）作为预处理会引入失真或信息丢失，导致后续自动语音识别（ASR）模型因声学失配而性能下降。 ...

📄 InstructAudio: Unified Speech and Music Generation with Natural Language Instruction #语音合成 #音乐生成 #扩散模型 #多任务学习 #统一音频模型 ✅ 7.5/10 | 前25% | #语音合成 | #扩散模型 | #音乐生成 #多任务学习 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Chunyu Qiang（天津大学，快手科技） 通讯作者：Longbiao Wang（天津大学） 作者列表：Chunyu Qiang（天津大学，快手科技），Kang Yin（快手科技），Xiaopeng Wang（快手科技），Yuzhe Liang（快手科技），Jiahui Zhao（天津大学），Ruibo Fu（中国科学院自动化研究所），Tianrui Wang（天津大学），Cheng Gong（天津大学），Chen Zhang（快手科技），Longbiao Wang†（天津大学），Jianwu Dang（天津大学） 💡 毒舌点评 这篇论文的最大亮点在于其“野心”——试图用一个统一的框架和自然语言指令，同时搞定语音合成（TTS）和音乐生成（TTM）这两个本就差异显著的任务，这在思路上确实领先。但短板也很明显：论文在展示音乐生成对比结果时，坦诚其5-20秒的生成长度可能对长时序模型不公平，这种实验设计的局限性削弱了结论的说服力；更关键的是，论文几乎未提供任何可复现的开源信息，这对于一个宣称“统一框架”的工作而言，是个不小的遗憾。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：论文中未提及公开的模型权重下载地址。 数据集：论文中使用了自收集的50K小时语音和20K小时音乐数据，但未提及是否会公开数据集或获取方式。 Demo：提供了在线音频示例演示页面：https://qiangchunyu.github.io/InstructAudio/ 复现材料：论文给出了模型参数量（1.34B）、主要架构层数、优化器、初始学习率和GPU数量，但缺少学习率调度策略、训练步数/轮数、梯度裁剪等关键训练细节，复现材料不充分。 论文中引用的开源项目：引用了多个开源模型（如CosyVoice2, ACE-Step, DiffRhythm+）和工具（如Resemblyzer, emotion2vec, Qwen2.5），但未提及是否在代码或模型中集成了其他特定开源项目。 总结：论文中未提及开源计划（如代码、模型、数据的开源时间表）。 📌 核心摘要 问题：现有的文本转语音（TTS）和文本转音乐（TTM）系统在基于指令（自然语言描述）的控制方面存在显著局限。TTS模型通常依赖参考音频控制音色，属性控制能力有限；TTM模型则依赖专业标注，且两类任务长期独立开发，难以统一建模。 方法核心：提出InstructAudio，一个基于多模态扩散Transformer（MM-DiT）和条件流匹配的统一框架。它采用标准化的“指令-音素”输入格式，通过联合和单一扩散Transformer层，处理无噪的梅尔VAE潜在表示，从而在统一模型中实现语音和音乐的生成与控制。 新意：这是首个通过自然语言指令统一控制语音和音乐生成的框架。它消除了对参考音频的依赖，能通过文本指令控制音色（性别、年龄）、副语言（情感、风格、口音）和音乐（类型、乐器、节奏、氛围）等多种属性，并支持双说话人对话生成。 主要实验结果： TTS任务：在Seed-TTS基准的WER指标上，InstructAudio在可控条件下达到了最佳的英文（1.52%）和中文（1.35%）错误率（见表1）。在指令控制任务上，其分类控制准确率（如性别100%、年龄86.67%、对话90%）和说话人/情感相似度均优于强基线CosyVoice2，且在LSD、MCD等失真指标上更优（见表2）。 TTM任务：在SongEval音乐评估基准的所有指标（连贯性、音乐性等）上均取得最佳分数。在分类控制准确率上，于歌手性别（98.89%）、年龄（97.22%）和氛围（95.00%）控制上表现突出（见表3）。 综合对比：论文通过图1可视化比较，声称在多项指标上实现了TTS和TTM能力的全面领先。 实际意义：为内容创作（如生成带有特定情感和风格的旁白或背景音乐）、交互式媒体、娱乐等领域提供了一种更通用、交互更自然的音频内容生成工具，降低了专业音频制作的门槛。 主要局限性：1) 统一输入格式（纯文本指令）导致了“一对多”的映射歧义，可能牺牲了生成音频的自然度和质量（NMOS分数低于使用参考音频的基线）；2) 为了联合建模，将音乐生成长度限制在5-20秒，限制了其在长时音乐生成场景的应用，并且对基线模型的评估可能不公平；3) 论文未提供开源代码、模型或数据，可复现性低。 InstructAudio整体架构示意图（图2）。 ...

📄 Instrument Generation Through Distributional Flow Matching and Test-Time Search #音乐生成 #流匹配 #扩散模型 #测试时搜索 ✅ 7.0/10 | 前25% | #音乐生成 | #流匹配 | #扩散模型 #测试时搜索 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Qihui Yang（University of California, San Diego） 通讯作者：未说明 作者列表：Qihui Yang（University of California, San Diego）、Randal Leistikow（Smule Labs）、Yongyi Zang（Smule Labs） 💡 毒舌点评 亮点在于，论文巧妙地将“承认不确定性”引入流匹配框架，让模型不再“固执己见”，并通过测试时搜索将计算力转化为音色一致性的提升，这在概念上很优雅。短板是实验仅在相对“干净”且规模有限的NSynth数据集上进行，对于真实世界中更复杂、噪声更多或音色更微妙的乐器场景，其泛化能力和实际效用仍有待验证，且开源代码的缺失让这一新颖方法停留在了“可读但不可复用”的阶段。 🔗 开源详情 代码：论文中未提及代码链接。项目主页（https://flowsynth.github.io/）可能包含演示或资料，但未明确提供训练/推理代码仓库。 模型权重：未提及是否公开预训练模型权重。 数据集：使用公开的NSynth数据集，但论文未说明是否提供预处理后的数据或具体处理脚本。 Demo：项目主页可能包含音频演示，但论文中未明确提及在线交互式Demo。 复现材料：提供了部分训练超参数（优化器、学习率、步数、批次大小）和推理设置（求解器、步数），但缺少模型完整配置、环境依赖、完整评估脚本等信息。复现材料有限。 论文中引用的开源项目：引用了并可能基于以下开源工作：DiffRhythm的VAE，CLAP编码器，DiT架构。这些是构建FlowSynth的基础组件。 📌 核心摘要 问题：现有基于音符级模型的虚拟乐器生成方法，在生成不同音高和力度的音符时，难以保持一致的音色（timbre），限制了其在专业音乐制作中的应用。 ...

📄 KSDIFF: Keyframe-Augmented Speech-Aware Dual-Path Diffusion for Facial Animation #音频生成 #扩散模型 #跨模态 #关键帧检测 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #跨模态 #关键帧检测 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Tianle Lyu†, Junchuan Zhao†（论文中标注†表示同等贡献） 通讯作者：Ye Wang⋆（新加坡国立大学计算学院， wangye@comp.nus.edu.sg） 作者列表：Tianle Lyu（新加坡国立大学计算学院）、Junchuan Zhao（新加坡国立大学计算学院）、Ye Wang（新加坡国立大学计算学院） 💡 毒舌点评 亮点在于将语音特征显式解耦为表情和头部姿势两个独立路径进行建模，这一设计思路抓住了面部动作驱动的核心差异，实验也证实了其有效性；但短板在于对“关键帧”的选择和建模仍依赖于启发式规则（基于真值帧间变化的阈值），其自回归预测模块的鲁棒性和泛化边界未得到充分探讨。 🔗 开源详情 代码：论文提供了项目主页链接（https://kincin.github.io/KSDiff/），但论文中未明确提及代码仓库链接。 模型权重：未提及公开的模型权重。 数据集：训练所用HDTF和VoxCeleb是公开数据集，但论文未说明其具体预处理后的版本获取方式。 Demo：未提及。 复现材料：论文提供了较为详细的训练超参数（学习率、batch size、迭代次数、优化器等）、网络结构参数（维度、层数、头数）和硬件配置（4×RTX A5000，16小时）。但未提供代码、配置文件或检查点。 论文中引用的开源项目：明确引用了Wav2Vec（语音特征提取）、DECA（3D面部模型）、Whisper（文本转录）、DiffSpeaker（生成框架基础）、MR-STFT损失等开源工作或工具。 📌 核心摘要 问题：现有音频驱动面部动画方法通常将语音特征视为一个整体，忽略了其对表情（高频变化）和头部姿势（低频变化）的差异化驱动作用，同时未能有效建模运动中的关键动态帧。 方法：提出KSDiff框架，核心包括：(1) 双路径语音编码器（DPSE），利用多尺度扩张卷积和Prosody信息，将语音特征解耦为表情相关和头部姿势相关两个分支；(2) 关键帧建立学习（KEL）模块，通过自回归Transformer预测运动最剧烈的帧；(3) 基于DiffSpeaker的双路径扩散生成器，分别合成表情和头部姿势系数。 创新：主要创新在于明确提出并实现了语音特征的“解耦”处理，以及引入了数据驱动的、具有物理意义的关键帧预测模块，将两者协同融入扩散生成流程。 实验：在HDTF和VoxCeleb数据集上，KSDiff在多项指标上优于或媲美SOTA方法。例如，在HDTF测试集上，其LVE（唇部顶点误差）降至4.835×10⁻⁵ mm，LSE-C（同步置信度）提升至0.708，头部姿势Diversity（多样性）达0.318，Beat Align（节奏对齐）达0.354（表1）。消融研究（表3）证明，移除语音特征分离、双路径扩散、关键帧或韵律模块均会导致性能下降。 意义：该工作推动了音频驱动面部动画向更精细化、物理一致性的方向发展，为虚拟人生成提供了更逼真的运动控制方案。 局限性：关键帧提取依赖于真值运动序列的后处理，其在线预测性能上限受限；对极端或非常规的面部表情与头部运动组合的生成能力未做深入探讨。 🏗️ 模型架构 KSDiff的整体架构如图2所示。系统接收原始音频 a1:N 和转录文本 x1:L 作为输入。 ...

📄 LAFUFU: Latent Acoustic Features For Ultra-Fast Utterance Restoration #语音增强 #扩散模型 #实时处理 #潜在空间 🔥 8.0/10 | 前25% | #语音增强 | #扩散模型 | #实时处理 #潜在空间 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Łazarz Radosław Wosik（论文作者列表首位，但未明确标注为第一作者） 通讯作者：论文中未明确标注 作者列表：Łazarz Radosław Wosik (Samsung R&D Institute Poland), Mateusz Pudo (Samsung R&D Institute Poland), Urszula Krywalska (Samsung R&D Institute Poland), Adam Cie´slak (Samsung R&D Institute Poland), († AGH University of Krak´ow) — 论文开头列出作者姓名及主要所属机构为Samsung R&D Institute Poland，其中一位作者带有†标记，表示其同时隶属于AGH University of Krak´ow。 💡 毒舌点评 亮点在于它非常务实且有效：通过将扩散过程搬到一个更小、更高效的潜在空间里，直接戳破了生成式语音恢复“效果好但算力吃不消”的泡沫，实现了显著的加速（RTF降低约40%）而不牺牲质量。短板是其创新本质是“缝合”了图像领域的Latent Diffusion思想和语音领域的SGMSE+模型，属于应用创新而非理论突破，且双模型架构无形中增加了部署时的内存管理复杂度。 ...