语音增强

📄 On the Use of Dereverberation for Acoustic Feedback Cancellation #语音增强 #信号处理基础 ✅ 6.7/10 | 前50% | #语音增强 | #信号处理基础 | arxiv 学术质量 4.8/7 | 影响力 1/2 | 可复现性 0.9/2 | 置信度 高 👥 作者与机构 本文作者为 Basil Liekens、Arnout Roebben、Toon van Waterschoot 和 Marc Moonen。他们均隶属于比利时鲁汶大学（KU Leuven）的 ESAT 实验室。其中 Basil Liekens 和 Arnout Roebben 被标注为同等贡献。研究得到了鲁汶大学研究委员会项目 C14-21-0075 以及比利时佛兰德斯研究基金会（FWO）的博士后奖学金 11PDH24N 的资助。 📌 核心摘要 本文提出了一种将声学反馈消除（AFC）问题重新诠释为去混响（DR）问题的理论框架。核心论点是，在“闭环延迟足够长”和“闭环传递函数可合理近似为FIR滤波器”这两个温和条件下，麦克风信号中的反馈分量可以被视为源信号晚期混响的一部分。因此，现有的去混响算法（如WPE）可以直接用于联合执行去混响与反馈消除任务。论文通过理论推导和仿真实验证明了该视角的可行性，并展示了所提方案在干扰抑制、信号质量和语音可懂度指标上优于传统的连续自适应滤波器（CAF）基线。 🔗 开源详情 代码：论文指出代码已在引用文献 [11] 中提供（“with code made available in [11]”），表明作者公开了实现。但论文本身未直接给出代码仓库链接。 模型权重：论文中未提及模型权重。 数据集：论文中提及使用了以下数据集，但未提供具体获取链接或开源协议信息： ...

📄 Benchmarking AI for low-resource contexts: Thinking beyond leaderboards #语音识别 #语音合成 #语音增强 #计算机视觉 #低资源 📝 5.1/10 | 后50% | #语音识别 | #语音合成 | #语音增强 #计算机视觉 | arxiv 学术质量 4.5/7 | 影响力 0.3/2 | 可复现性 0.3/2 👥 作者与机构 Aakash Pant, Kavya Shah, Apoorv Agnihotri, Sneha Nikam, Prasaanth Balraj, Nakul Jain. ( 表示同等贡献). 机构：Wadhwani AI Global. 日期：2026年5月. 💡 毒舌点评 这篇论文像一份写给捐赠机构和政策制定者的“高级产品说明书”。其核心诉求（别只看排行榜，要看实际部署）在AI领域确实是个老生常谈但至关重要的痛点，尤其是在医疗、农业等低资源场景。优点是逻辑清晰、目标明确，且贴心地附上了“基准卡”这种傻瓜式工具，试图弥合技术社区与非技术决策者之间的鸿沟。然而，它的弱点也异常明显：这是一份纯粹的“倡议书”或“愿景文档”。全文没有提出任何新颖的算法、模型或实验方法，而是对现有基准（FLEURS, HELM, ImageNet-C等）进行了一次梳理和重新包装。它的“创新”更多体现在视角和倡导上，而非技术贡献。对于寻求具体技术突破的读者（如NeurIPS/ICML的典型审稿人）来说，这可能显得“干货不足”。论文最大的硬伤是缺乏任何形式的实证验证：它提出的框架是否有效？基准卡在实际采购中是否真的能帮助决策？读者无从知晓。它更像是一个设计精良的提案，而非一篇完整的科研论文。 📌 核心摘要 本文是一篇系统性白皮书，旨在批判当前AI基准测试（以排行榜为代表）在评估面向低资源环境（如网络不稳、设备低端、多语言代码转换）部署的系统时的不足。作者指出，现有评估通常孤立地测试模型性能，而忽略了由数据捕获、预处理、工作流和运行条件构成的完整系统。论文提出了一种新的评估范式：1）将“部署系统”而非“孤立模型”作为评估的基本单元；2）采用三层评估框架（组件层、工作流层、运行条件层）分别报告性能；3）为语音、对话/RAG、视觉三类应用定义包含压力测试和核心指标的标准化“基准卡”。最终目标是提供一个对部署上下文敏感、可操作的标准化报告框架，以真正支持低资源环境下的AI系统选型与部署决策。 🔗 开源详情 代码：论文中未提及任何新开发的代码或框架实现。 模型权重：论文中未提及任何模型权重。 数据集：论文未提供新数据集。文中提及了多个现有基准数据集用于说明，具体如下： FLEURS: 用于多语言语音任务评估。链接：https://doi.org/10.1109/SLT54892.2023.10023141 Speech Robust Bench: 用于ASR鲁棒性评估。链接：https://openreview.net/forum?id=D0LuQNZfEl HELM / HELM Instruct: 用于大语言模型综合评估。链接：https://crfm.stanford.edu/helm/ 和 https://crfm.stanford.edu/helm/instruct/latest/ RAGAs: 用于RAG管道评估。链接：https://doi.org/10.18653/v1/2024.eacl-demo.16 CRAG: 用于检索增强生成评估。链接：https://github.com/facebookresearch/CRAG ImageNet-C / ImageNet-P: 用于图像鲁棒性（损坏和扰动）评估。链接：https://doi.org/10.48550/arXiv.1903.12261 WILDS: 用于野外分布偏移评估。链接：https://doi.org/10.48550/arXiv.2012.07421 COCO-C, PASCAL-C, Cityscapes-C: 用于目标检测/分割的鲁棒性评估，具体链接未在论文中提供，参考文献[14]。 其他提及的本地多语言测试集、领域特定评估集等，均未提供统一获取链接。 Demo：论文中未提及。 复现材料：论文中未提及。 🏗️ 方法概述和架构 本文的方法论核心是提出一个用于设计和评估低资源AI部署系统的框架，而非具体的算法实现。该框架的核心架构包括以下几个关键组成部分： ...

📄 Rethinking Continual Learning for Speech and Audio: A Representation-Centric Taxonomy and Open Problems #持续学习 #自监督学习 #语音识别 #语音增强 #音频事件检测 #声纹识别 #多模态模型 #参数高效微调 #正则化微调 #数据增强 ✅ 7.5/10 | 前50% | #语音识别 | #自监督学习 | #持续学习 #语音增强 | arxiv 学术质量 4.8/7 | 影响力 1.5/2 | 可复现性 1.2/2 | 置信度 中 👥 作者与机构 论文作者为：Yang Xiao, Siyi Wang, Eun-Jung Holden, Ting Dang。 未在论文中明确提及作者所属的具体机构。 💡 毒舌点评 这篇文章就像一篇精心整理的“会议纪要”，而不是一篇能发在顶会的“研究提案”。它准确地指出了“房间里的大象”——现代语音基础模型下CL问题的表征纠缠本质，并为此绘制了一张详尽的“地图”（分类法）。然而，地图画得再好，也只是静态的。审稿人最想看到的是你如何沿着地图勘探、挖掘宝藏（验证你的分类和观点），但作者只是把工具（现有方法）摆出来，说“这些工具在这些地方用起来会遇到困难”。全文充满了“应该”和“未来方向”，却缺少了“我做了什么”和“我证明了什么”。将LALM的训练流程强行塞入CL框架进行解读，立意巧妙，但更像是一个有趣的观察而非深刻的贡献，且论述缺乏形式化的支撑。总而言之，这是一篇合格的、有用的“问题导向型”综述，但其理论贡献的深度（分类法的形式化定义与验证）和实验上的空洞，使其离顶会标准尚有距离。 📌 核心摘要 本文针对语音基础模型时代持续学习（CL）面临的挑战，提出了一种以表征演化为中心的新视角和分类法。作者指出，现代语音基础模型学习的是高度纠缠的连续共享表征，因此CL的核心挑战在于保持和演化这种表征的几何结构，而非传统的任务知识保留。文章据此将语音CL场景划分为几何保持、几何扩展、几何对齐和几何特化四类，并进一步分析了现有缓解策略（回放、正则化、架构隔离）在应对纠缠表征时的局限性。同时，文章将大型语言音频模型（LALMs）的多阶段后训练流程解读为一种隐式的多模态持续学习管线，并映射到上述分类中。最后，文章提出了隐私敏感的持续预训练和缺失模态适应等开放问题。本文为语音CL研究提供了新的问题框架和方向，但作为一篇综述和理论探讨文章，缺乏实验验证，其提出的分类法的深度和实用性有待进一步检验。 🔗 开源详情 代码：论文中明确提到一个GitHub列表用于获取所有参考文献（https://github.com/yangxiao1202/RethinkingCL-speech）。该列表很可能包含了文中引用的相关项目（如wav2vec 2.0, HuBERT, Whisper等）的代码链接。 模型权重：论文未提及作者开发的新模型权重。引用的第三方基础模型的官方权重链接，推测包含在上述GitHub列表中。 数据集：论文未提及本研究使用或提供的具体数据集。文中提及“大规模、异构的音频语料库”和“静态数据集”作为训练基础，但未指明具体名称。 Demo：未提及。 复现材料：作为一篇理论综述文章，未提供具体的训练配置、模型检查点或详细的附录材料。 论文中引用的开源项目： wav2vec 2.0：官方链接通常为 https://github.com/facebookresearch/wav2vec2。 HuBERT：官方链接通常为 https://github.com/facebookresearch/hubert。 Whisper：官方链接通常为 https://github.com/openai/whisper。 LALMs：这是一个泛指类别，非单一项目。 LoRA：论文引用自 https://arxiv.org/abs/2106.09685，通常伴随代码实现。 EWC 和 LwF：为经典方法，有多种开源实现，论文中未指定特定版本。 总结说明：本篇论文的核心开源信息集中于作者维护的GitHub列表。论文本身未提供用于复现新方法的代码、模型或数据。 🏗️ 方法概述和架构 本文的核心方法是提出一个理论分析框架和新的分类体系，而非具体的算法或模型。其方法论架构可分为两个相互关联的部分： ...

📄 Linearly Constrained Deep Beamformer for Multi-Speaker Scenarios #语音增强 #波束成形 #多通道 #麦克风阵列 #约束优化 ✅ 7.3/10 | 前25% | #语音增强 | #波束成形 | #多通道 #麦克风阵列 | arxiv 学术质量 4.8/7 | 影响力 1.4/2 | 可复现性 1.1/2 | 置信度 高 👥 作者与机构 第一作者：Ilai Zaidel（论文中未说明机构） 通讯作者：未说明 作者列表：Ilai Zaidel（未说明）、Ori Engel（未说明）、Bar Engel（未说明）、 Sharon Gannot（未说明） 💡 毒舌点评 论文巧妙地将经典的线性约束最小方差（LCMV）准则与深度学习训练框架相结合，通过一个受增广拉格朗日启发的损失函数，让网络直接学习满足空间约束的波束成形权重。其亮点在于：成功地在深度学习框架中明确、有效地施加了指向性约束（无失真响应和零点抑制），并设计了渐进式训练策略以稳定优化过程。实验结果证实，所学波束图比传统LCMV更优，背景噪声抑制更强。但短板也很明显：所有评估均基于高度受控的模拟数据，缺乏在真实世界多说话人场景下的验证，其实际鲁棒性和泛化能力存疑；此外，训练过程对超参数（如λ调度）敏感性和选择依据讨论不足，且训练与推断时使用不同空间信息（Oracle vs. 估计值）这一关键设计的影响未被充分分析。 📌 核心摘要 问题：在多说话人环境下，传统线性约束波束成形（如LCMV）性能高度依赖于准确的空间签名（如RTF）估计，而现有深度学习波束成形方法大多缺乏对空间响应的显式约束，难以可靠实现干扰抑制的零点导向。 方法核心：提出一个端到端深度波束成形框架，利用DNN直接从多通道含噪输入估计波束成形权重。通过设计一个受LCMV准则和增广拉格朗日方法启发的自适应多目标损失函数，联合优化信号重构、目标方向无失真响应和干扰子空间的零点抑制。训练时，约束项的权重（λ_pass， λ_null）逐步增加，并利用从数据中估计的目标RTF和干扰子空间作为网络的引导输入。 与已有方法相比新在何处：区别于传统LCMV（性能受限于估计精度）和多数深度学习方法（缺乏显式约束），本文实现了在完全学习的端到端框架内显式施加线性空间约束。网络不仅学习增强语音，还学习在约束下优化波束方向图，从而获得比使用相同估计空间签名的LCMV更优的性能和更佳的旁瓣控制。 主要实验结果：在模拟的两/三说话人混响与无混响场景下，所提方法（尤其“Estimated RTF”版本）在SI-SDR、SNR等指标上显著优于使用相同估计签名的LCMV基线。例如，在三说话人无混响场景中，估计RTF模型的SI-SDR为0.63dB，而LCMV为-1.94dB；SNR为5.74dB，LCMV为2.96dB。同时，所学波束图显示出比LCMV更低的旁瓣和更清晰的零点。当缺乏空间引导（No RTF）且说话人完全重叠时，模型失效。 实际意义：为多说话人语音增强提供了一种更鲁棒、空间选择性更强的波束成形方案，尤其适用于能够提供或估计出初步空间信息的麦克风阵列系统。 主要局限性：评估完全基于模拟数据，未在真实录音上验证；模型严重依赖初始的空间签名估计质量（如完全重叠实验所示）；训练与推断时使用的空间信息不一致（Oracle vs. 估计值）可能影响泛化能力；训练过程的超参数（惩罚权重调度）敏感性和选择依据讨论不足。 🔗 开源详情 代码：https://github.com/GannotLab/LC-DeepBeam 模型权重：论文中未提及 数据集：论文中未提及独立可下载的数据集链接。数据集为作者自行生成的模拟多通道录音，其生成过程描述于论文4.1节。数据源使用了LibriSpeech数据集[18]，并借助房间脉冲响应生成器（Room Impulse Response generator [11]）和GPU-RIR软件包[6]模拟声学环境。 Demo：论文中未提及 复现材料：论文中未提及检查点文件或详细配置附录的链接。代码仓库（https://github.com/GannotLab/LC-DeepBeam）可能包含相关资源。 论文中引用的开源项目： Room Impulse Response (RIR) generator [11]：论文中未提供具体链接。 GPU-RIR package [6]：论文中未提供具体链接。 🏗️ 方法概述和架构 整体流程概述：该方法是一个端到端的深度学习波束成形框架，核心思想是在DNN训练中直接嵌入并优化线性空间约束。系统接收多通道STFT域的含噪混合语音以及估计的目标RTF和干扰子空间作为输入，通过一个包含注意力融合前端的U-Net架构，输出复数域的波束成形权重向量 w(k)。最终，增强语音由波束输出 s^(l,k) = w^H(k) y(l,k) 在STFT域计算得到，再经ISTFT变换回时域。 ...

📄 Exploring Token-Space Manipulation in Latent Audio Tokenizers #音频编码 #自监督学习 #语音转换 #语音增强 #零样本 ✅ 6.5/10 | 前25% | #音频编码 | #自监督学习 | #语音转换 #语音增强 | arxiv 学术质量 6.7/8 | 影响力 0.8/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者：Francesco Paissan (Mila – Québec AI Institute, Université Laval) 通讯作者：Francesco Paissan (francesco.paissan@mila.quebec) 作者列表：Francesco Paissan (Mila – Québec AI Institute, Université Laval), Luca Della Libera (Université Laval, Concordia University), Mirco Ravanelli (Université Laval, Concordia University), Cem Subakan (Mila – Québec AI Institute, Université Laval) 💡 毒舌点评 论文的核心思想——在冻结的音频编解码器特征空间内插入一个TiTok风格的全局离散潜在瓶颈——新颖且有趣，并通过精巧的分析实验证明了其结构特性和零样本编辑潜力。然而，其主要短板同样明显：作为“压缩器”，其重建质量在关键的语言内容保真度（dWER）上与SOTA帧级编解码器存在显著差距，这直接限制了其实际应用价值。此外，训练数据规模有限，使得潜在槽的“专业化”结论在更复杂、更多样的场景下的普适性存疑。论文贡献更多在于概念验证和分析方法，而非提供一个全面超越现有技术的解决方案。 ...

📄 Too Good to Be True: A Study on Modern Automatic Speech Recognition for the Evaluation of Speech Enhancement #语音增强 #模型评估 #语音识别 #基准测试 ✅ 6.6/10 | 前50% | #语音增强 | #模型评估 | #语音识别 #基准测试 | arxiv 学术质量 6.2/8 | 影响力 0.7/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Danilo de Oliveira (University of Hamburg, Signal Processing Group) 通讯作者：未明确说明（论文中未提供明确的通讯作者标识） 作者列表：Danilo de Oliveira (University of Hamburg, Signal Processing Group)、Tal Peer (University of Hamburg, Signal Processing Group)、Timo Gerkmann (University of Hamburg, Signal Processing Group) 💡 毒舌点评 本文像一面精准的棱镜，折射出使用现代ASR评估语音增强时存在的“评估偏移”现象：强大的ASR模型（特别是基于大规模数据训练的Transducer和Attention模型）因噪声鲁棒性和语言先验，其WER指标已无法敏感地区分不同SE系统在声学伪影上的细微差异，甚至可能误导系统排名。然而，这篇系统性的实证研究更像是一个严谨的“症状报告”，它清晰地诊断了问题（WER作为指标的失效、流水线敏感性），并量化了症状（与人类排名的相关性、排名差异），但并未开出有效的“处方”（如何修正指标或提出新范式）。其贡献在于警示和基础性分析，而非解决方案的革新。 ...

📄 DiffVQE: Hybrid Diffusion Voice Quality Enhancement Under Acoustic Echo and Noise #语音增强 #扩散模型 #回声消除 #语音质量评估 #单步扩散 ✅ 6.2/10 | 前30% | #语音增强 | #扩散模型 | #回声消除 #语音质量评估 | arxiv 学术质量 6.2/8 | 影响力 0.9/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Haljan Lugo Girao (Technische Universität Braunschweig, Institute for Communications Technology) 通讯作者：未提及 作者列表：Haljan Lugo Girao (Technische Universität Braunschweig, Institute for Communications Technology), Ernst Seidel (Technische Universität Braunschweig, Institute for Communications Technology), Pejman Mowlaee (GN Advanced Science), Ziyue Zhao (GN Advanced Science), Tim Fingscheidt (Technische Universität Braunschweig, Institute for Communications Technology) 💡 毒舌点评 这篇论文的核心贡献在于尝试将单步条件扩散模型应用于AEC任务，并给出了一个声称可复现的框架。其在部分语音质量指标上超越了重新训练的DeepVQE基线，且模型更轻量，这展示了生成模型在AEC领域的潜力。然而，论文的创新程度有限，其核心单步扩散框架直接借自EffDiffSE，真正的“新意”在于架构调整和数据适配。致命的缺陷在于缺乏关键的消融实验，无法证明Cond DNN、Score DNN以及单步策略各自必要性，使得结论说服力大打折扣。此外，尽管标题和摘要声称“excel”在“echo and noise control performance”，但实验数据显示其在回声抑制（Echo）指标上并未优于甚至略逊于DeepVQE，结论的表述存在过度推广之嫌。 ...

📄 Reducing Linguistic Hallucination in LM-Based Speech Enhancement via Noise-Invariant Acoustic-Semantic Distillation #语音增强 #语音编解码器 #知识蒸馏 #自监督学习 #语言模型 ✅ 7.2/10 | 前25% | #语音增强 | #语音编解码器 | #知识蒸馏 #自监督学习 | arxiv 学术质量 7.2/8 | 影响力 0.8/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Zheng Wang（南京大学） 通讯作者：Jing Lu（南京大学） 作者列表：Zheng Wang（南京大学）、Xiaobin Rong（南京大学）、Hang Su（MiLM Plus， 小米公司）、Tianyi Tan（南京大学）、Junnan Wu（MiLM Plus， 小米公司）、Lichun Fan（MiLM Plus， 小米公司）、Zhenbo Luo（MiLM Plus， 小米公司）、Jian Luan（MiLM Plus， 小米公司）、Jing Lu（南京大学） 💡 毒舌点评 本文针对基于语言模型的语音增强中“语言幻觉”问题，提出了一个声学-语义联合蒸馏框架。其核心思想清晰：通过两个专门教师模型（声学编解码器WavCodec和语义教师WavS2T）从干净语音中提取互补的表征目标，监督一个学生编码器从带噪语音中学习噪声不变的条件表征，从而提升下游语言模型生成内容的可信度。该方法在低信噪比和混响条件下效果显著，实验设计全面，特别是构建的可控模拟测试集对评估幻觉问题很有价值。然而，该框架的复杂性（依赖三个大型预训练模型）和计算成本不容忽视，论文对此的讨论不足。此外，其声学教师模型仅在英文数据上训练，限制了结论的普适性。整体而言，这是一份扎实的系统性改进，但距离可直接部署的解决方案仍有距离。 📌 核心摘要 问题：基于语言模型的语音增强（LM-based SE）在严重噪声或混响条件下，常因提取的条件信息不可靠而产生“语言幻觉”——生成的语音听感自然但内容错误（如词语替换、删除）。 方法核心：提出L3-SE框架，其核心是一个“噪声不变编码器”(NI-Encoder)。该编码器通过联合蒸馏两个教师模型在干净语音上学到的表征（声学教师WavCodec提供保真度目标，语义教师WavS2T提供一致性目标），从带噪语音中提取出同时具备声学保真度和语义一致性的条件表征，用于引导语言模型生成干净声学token。 创新之处：与现有单方面（仅声学或仅语义）增强条件信息的方法不同，本文首次将联合噪声不变声学-语义蒸馏应用于基于语言模型的语音增强，实现了双重目标的同步优化。此外，论文设计了共享SSL骨干（WavLM）的专用教师模型，并通过可学习层权重自适应提取互补特征。 实验结果：在DNS1测试集（特别是混响条件）和自建的模拟测试集（特别是低SNR条件）上，L3-SE在语言一致性指标（WER, dWER, LPS, SBS）上显著优于包括其他LM方法在内的基线，同时保持有竞争力的感知质量（DNSMOS, UTMOS）。关键数据示例见下表（摘要）。 模型 DNS1 with-reverb LibriSpeech low-SNR dWER ↓ WER ↓ UniSE (LM baseline) 34.2 33.6 L3-SE 8.42 7.13 实际意义：为解决生成式语音增强中的内容忠实度问题提供了一种有效框架，提升了语音增强系统在恶劣声学环境下的可靠性，对语音通信、语音识别前端等下游应用有重要价值。 主要局限性：系统复杂度高，依赖多个大型预训练模型，计算开销大；WavCodec教师仅使用英文数据训练，多语言泛化能力未验证；未探讨模型计算效率与延迟；缺乏对错误类型的细分分析。 🔗 开源详情 代码：论文中未提及代码链接。论文明确指出：“The complete source code will be released after the manuscript is accepted.” 模型权重：论文中未提及。 数据集： Emilia：用于训练的干净语音数据集。论文中提及使用了其英文（EN）和中文（ZH）子集，并给出了筛选条件（DNSMOS > 3.50 或 > 3.40）。未提供具体下载链接。 DNS5：噪声数据集。链接：https://dns4public.github.io/dns_4/ WHAM!：噪声数据集。链接：http://wham.wham-research.org/ FSD50K：噪声数据集。链接：https://zenodo.org/record/4060432 FMA：噪声数据集。链接：https://freemusicarchive.org/ OpenSLR26 和 OpenSLR28：房间脉冲响应（RIRs）数据集。链接：https://www.openslr.org/26/ 和 https://www.openslr.org/28/ DNS1 测试集：用于评估的标准测试集。链接：https://github.com/microsoft/DNS-Challenge LibriSpeech：用于构建模拟评估集。链接：https://huggingface.co/datasets/openslr/librispeech_asr URGENT 2025 验证集：用于构建模拟评估集的噪声片段。链接：https://github.com/sony/urgent25_challenge Demo：https://max1wz.github.io/L3-SE-Demo-Page/ 复现材料： 论文在表1中提供了所有模型组件的主要训练超参数。 论文在附录A中详细说明了WavCodec和WavS2T的训练目标与损失函数。 论文在4.4节中提供了模型架构的实现细节，如WavCodec的编码器/解码器结构、WavS2T的Transformer层数、LM的适配器维度等。 论文中引用的开源项目： WavLM：预训练语音模型，用作共享骨干网络。链接：https://huggingface.co/microsoft/wavlm-large Qwen3-0.6B：预训练文本语言模型，用于语义教师和下游LM。链接：https://huggingface.co/Qwen/Qwen3-0.6B DAC (Descript Audio Codec)：高保真音频编解码器，其训练目标被WavCodec采用。链接：https://github.com/descriptinc/descript-audio-codec Vocos：声码器模型，用于WavCodec解码器。链接：https://github.com/so-vits-svc/vocos SimCodec：基线编解码器。链接：https://huggingface.co/yaoxunji/gen-se Mimi：基线编解码器。链接：https://huggingface.co/kyutai/mimi XY-Tokenizer：基线编解码器。链接：https://huggingface.co/fdugyt/XY_Tokenizer BigCodec：基线编解码器。链接：https://huggingface.co/Alethia/BigCodec WavTokenizer：基线编解码器。链接：https://huggingface.co/novateur/WavTokenizer X-codec2：基线编解码器。链接：https://huggingface.co/HKUSTAudio/xcodec2 BiCodec：基线编解码器。链接：https://huggingface.co/SparkAudio/Spark-TTS-0.5B TF-GridNet：语音增强基线模型。链接：https://huggingface.co/kohei0209/tfgridnet_urgent25 BSRNN：语音增强基线模型。链接：https://huggingface.co/lichenda/icassp_2026_urgent_baseline SenSE：语音增强基线模型。链接：https://huggingface.co/ASLP-lab/SenSE BSRNN-Flow：语音增强基线模型。链接：https://huggingface.co/lichenda/icassp_2026_urgent_baseline LLaSE-G1：语音增强基线模型。链接：https://huggingface.co/ASLP-lab/LLaSE-G1 UniSE：语音增强基线模型。链接：https://huggingface.co/QuarkAudio/QuarkAudio-UniSE 🏗️ 方法概述和架构 L3-SE是一个多阶段的基于语言模型的语音增强框架，旨在通过提高条件表征的鲁棒性来减少语言幻觉。其整体流程为：带噪语音输入→NI-Encoder提取噪声不变的声学与语义表征→作为前缀输入自回归语言模型(LM)→预测干净的离散声学token序列→WavCodec解码器将token序列重建为增强后的波形。核心贡献在于NI-Encoder的学习，它通过模仿两个处理干净语音的教师模型的输出来获得噪声不变性。 ...

📄 Predictive-Generative Drift Decomposition for Speech Enhancement and Separation #语音增强 #语音分离 #扩散模型 #即插即用框架 🔥 8.5/10 | 前25% | #语音增强 | #扩散模型 | #语音分离 #即插即用框架 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Julius Richter（MERL） 通讯作者：未明确说明（作者列表为共同署名，未指定通讯作者） 作者列表：Julius Richter（MERL）、Yoshiki Masuyama（MERL）、Christoph Boeddeker（MERL）、Takahiro Edo（MERL）、Gordon Wichern（MERL）、Jonathan Le Roux（MERL） 💡 毒舌点评 论文的亮点在于将随机插值的数学优雅性与即插即用的工程实用性结合，提出了一个理论上扎实、实验上有效的语音处理增强框架。它巧妙地将预测器的输出转化为SDE中的恒定漂移项，实现了模块的松散耦合。然而，其“即插即用”的承诺在面对像语音分离这样尺度模糊的复杂任务时，需要额外处理（如实验中对SepFormer使用的尺度补偿），这暴露了该框架在面对不同任务内在差异时的潜在通用性边界。 📌 核心摘要 问题：预测模型在语音恢复任务中可能导致不自然的伪影，而生成模型可能产生幻觉或与观测不一致的输出。需要一种方法能结合二者的优点：保持对原始信号的忠实度，同时提升感知自然度。 方法核心：提出名为SIPS的即插即用框架。该框架基于随机插值理论，将生成采样过程中的总漂移分解为两部分：一是由预训练预测器提供的确定性漂移（\(\hat{v} = P_\phi(y) - y\)），用于引导采样朝向任务一致的解；二是由仅在干净语音上训练的去噪器/分数模型\(D_\theta\)估计的随机成分，用于增强输出的自然度和一致性。采样通过求解一个随机微分方程（SDE）实现。 创新点：与现有混合方法（如StoRM， Diffiner）相比，SIPS具有以下新特性：(a) 基于随机插值理论的数学原理漂移分解，而非经验性组合；(b) 去噪器仅需在干净语音上训练，与具体退化任务无关，可跨任务复用；(c) 推理时无需针对特定预测器重新训练或适配，真正实现即插即用。 主要实验结果：在语音增强和分离任务上，结合多种最新预测器（如SEMamba， FlexIO），SIPS能持续提升非侵入式感知质量指标（NISQA， UTMOS），同时对信号级失真指标（SI-SDR， PESQ）影响较小。 语音增强（匹配条件， VoiceBank-DEMAND）关键数据： 模型 SI-SDR ↑ [dB] PESQ ↑ DNSMOS ↑ [P.808] NISQA ↑ UTMOS ↑ WER ↓ [%] SEMamba 19.72 3.56 3.58 4.60 4.07 8.87 SEMamba + SIPS 19.63 3.43 3.57 4.73 4.09 8.81 FlexIO (用于分离， WHAMR!) 8.45 1.76 3.62 3.54 2.79 21.50 FlexIO + SIPS 8.51 1.56 3.68 4.01 3.01 23.43 关键图表： 图1（论文原图）直观地展示了SIPS的推理流程。左侧显示从观测\(y\)开始，预测器\(P_\phi\)计算出漂移\(\hat{v}\)。右侧展示了采样步的细节：当前状态\(x_t\)，预测器提供的漂移\(\hat{v}\)，去噪器\(D_\theta\)估计的噪声分量\(\hat{z}\)，以及随机噪声\(z\)，共同作用产生下一步状态\(x_{t+1}\)。图注说明这是一个Euler步与漂移分解的结合。 图3(a)(b)表明，κ参数允许在信号失真（SI-SDR）和感知质量（NISQA）之间进行权衡，尤其在失配条件下效果明显。 实际意义：为语音增强与分离提供了一个模块化解决方案，允许从业者利用现有的强大预测模型，通过接入一个统一的、任务无关的生成先验来提升输出听感质量，无需为每个预测器重新训练生成模型。 主要局限性：引入生成组件增加了推理复杂度和计算量（尽管比Diffiner高效）。在极端退化或与训练分布差异大的情况下，性能提升有限，且可能引入影响下游任务（如ASR）的幻觉。此外，框架的通用性边界在需要尺度补偿的任务（如某些语音分离模型）中有所暴露。 🔗 开源详情 代码：https://github.com/merlresearch/sips-speech 模型权重：论文中未提及SIPS的预训练权重链接。论文中提到了使用的预测器（如SEMamba、FlexIO、Conv-TasNet、NCSN++、SepFormer）的官方或第三方实现及检查点，但仅给出了SepFormer的官方检查点链接：https://huggingface.co/speechbrain/sepformer-whamr16k。其他预测器的具体权重链接需参考其原始论文。 数据集： 训练去噪器：使用VoiceBank-DEMAND数据集的28说话人训练集（未给出具体下载链接，但可从原数据集获取）。 语音增强测试集（匹配条件）：VoiceBank-DEMAND测试集。 语音增强测试集（不匹配条件）：EARS-WHAM (v2) 测试集，项目主页为 https://sp-uhh.github.io/ears_dataset/。 语音分离测试集：WHAMR! 数据集（单声道嘈杂混响子集），基于WSJ0-2mix数据集生成。 论文中未提及VoiceBank-DEMAND、WHAMR!、WSJ0-2mix的具体下载链接，但指出了其来源或生成方式。 Demo：论文中未提及 复现材料： 代码仓库（https://github.com/merlresearch/sips-speech）包含了实现细节。 论文附录（Appendix C）提供了详细的实现与训练细节，包括：数据表示（C.1）、实现与训练细节（C.2）、噪声调度超参数选择（C.3）、采样步数消融研究（C.4）、后处理步骤影响分析（C.5）、Diffiner在减少采样步数下的对比（C.6）以及带标准差的结果（C.7）。 论文中引用的开源项目： EDM2SE：其仓库为 https://github.com/sp-uhh/edm2se，是SIPS实现的基础。 Conv-TasNet：论文中使用了第三方实现 https://github.com/kaituoxu/Conv-TasNet。 NVIDIA NeMo工具包：用于计算WER，论文中提到了具体模型“QuartzNet15x5Base-En”，但未给出NeMo工具包的直接链接。 🏗️ 方法概述和架构 SIPS是一个两阶段的即插即用框架，旨在增强任何预训练语音恢复预测器的输出。其核心是一个生成采样过程，该过程被设计为一个随机微分方程（SDE），并将预测器的输出作为一个恒定的“漂移”分量嵌入其中。 ...

📄 Spatial-Magnifier: Spatial upsampling for multichannel speech enhancement #语音增强 #麦克风阵列 #波束成形 #生成模型 #多任务学习 ✅ 7.0/10 | 前25% | #语音增强 | #麦克风阵列 | #波束成形 #生成模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Dongheon Lee (Meta Reality Labs Research 1, Korea Advanced Institute of Science and Technology (KAIST) 2) 通讯作者：Juan Azcarreta (Meta Reality Labs Research) 作者列表：Dongheon Lee (Meta Reality Labs Research 1, KAIST 2)、Ashutosh Pandey (Meta Reality Labs Research)、Sanjeel Parekh (Meta Reality Labs Research)、Daniel Wong (Meta Reality Labs Research)、Jacob Donley (Meta Reality Labs Research)、Buye Xu (Meta Reality Labs Research)、Juan Azcarreta (Meta Reality Labs Research) 💡 毒舌点评 亮点：论文核心贡献非常聚焦，Spatial-Magnifier模型针对“空间上采样”这一特定任务进行了专门的架构设计（选择模块、DCA模块），而非简单套用现有语音增强网络；SARL框架提出的特征级条件化（SARL-F）是一种新颖且有效的思路，实验消融证明了其优越性。短板：方法整体依赖于预训练的MC-SE模型作为下游，其性能天花板受制于此；此外，论文虽然展示了在模拟数据和特定阵列上的优秀性能，但缺乏在真实世界设备和复杂噪声环境下的端到端验证，且未开源任何实现细节，限制了其直接影响力。 ...