Exploring Token-Space Manipulation in Latent Audio Tokenizers

📄 Exploring Token-Space Manipulation in Latent Audio Tokenizers #音频编码 #自监督学习 #语音转换 #语音增强 #零样本 ✅ 6.5/10 | 前25% | #音频编码 | #自监督学习 | #语音转换 #语音增强 | arxiv 学术质量 6.7/8 | 影响力 0.8/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Francesco Paissan (Mila – Québec AI Institute, Université Laval) 通讯作者:Francesco Paissan (francesco.paissan@mila.quebec) 作者列表:Francesco Paissan (Mila – Québec AI Institute, Université Laval), Luca Della Libera (Université Laval, Concordia University), Mirco Ravanelli (Université Laval, Concordia University), Cem Subakan (Mila – Québec AI Institute, Université Laval) 💡 毒舌点评 论文的核心思想——在冻结的音频编解码器特征空间内插入一个TiTok风格的全局离散潜在瓶颈——新颖且有趣,并通过精巧的分析实验证明了其结构特性和零样本编辑潜力。然而,其主要短板同样明显:作为“压缩器”,其重建质量在关键的语言内容保真度(dWER)上与SOTA帧级编解码器存在显著差距,这直接限制了其实际应用价值。此外,训练数据规模有限,使得潜在槽的“专业化”结论在更复杂、更多样的场景下的普适性存疑。论文贡献更多在于概念验证和分析方法,而非提供一个全面超越现有技术的解决方案。 ...

2026-05-13 · 更新于 2026-05-19 · 5 min · 900 words

Too Good to Be True: A Study on Modern Automatic Speech Recognition for the Evaluation of Speech Enhancement

📄 Too Good to Be True: A Study on Modern Automatic Speech Recognition for the Evaluation of Speech Enhancement #语音增强 #模型评估 #语音识别 #基准测试 ✅ 6.6/10 | 前50% | #语音增强 | #模型评估 | #语音识别 #基准测试 | arxiv 学术质量 6.2/8 | 影响力 0.7/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者:Danilo de Oliveira (University of Hamburg, Signal Processing Group) 通讯作者:未明确说明(论文中未提供明确的通讯作者标识) 作者列表:Danilo de Oliveira (University of Hamburg, Signal Processing Group)、Tal Peer (University of Hamburg, Signal Processing Group)、Timo Gerkmann (University of Hamburg, Signal Processing Group) 💡 毒舌点评 本文像一面精准的棱镜,折射出使用现代ASR评估语音增强时存在的“评估偏移”现象:强大的ASR模型(特别是基于大规模数据训练的Transducer和Attention模型)因噪声鲁棒性和语言先验,其WER指标已无法敏感地区分不同SE系统在声学伪影上的细微差异,甚至可能误导系统排名。然而,这篇系统性的实证研究更像是一个严谨的“症状报告”,它清晰地诊断了问题(WER作为指标的失效、流水线敏感性),并量化了症状(与人类排名的相关性、排名差异),但并未开出有效的“处方”(如何修正指标或提出新范式)。其贡献在于警示和基础性分析,而非解决方案的革新。 ...

2026-05-13 · 更新于 2026-05-19 · 4 min · 644 words

DiffVQE: Hybrid Diffusion Voice Quality Enhancement Under Acoustic Echo and Noise

📄 DiffVQE: Hybrid Diffusion Voice Quality Enhancement Under Acoustic Echo and Noise #语音增强 #扩散模型 #回声消除 #语音质量评估 #单步扩散 ✅ 6.2/10 | 前30% | #语音增强 | #扩散模型 | #回声消除 #语音质量评估 | arxiv 学术质量 6.2/8 | 影响力 0.9/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者:Haljan Lugo Girao (Technische Universität Braunschweig, Institute for Communications Technology) 通讯作者:未提及 作者列表:Haljan Lugo Girao (Technische Universität Braunschweig, Institute for Communications Technology), Ernst Seidel (Technische Universität Braunschweig, Institute for Communications Technology), Pejman Mowlaee (GN Advanced Science), Ziyue Zhao (GN Advanced Science), Tim Fingscheidt (Technische Universität Braunschweig, Institute for Communications Technology) 💡 毒舌点评 这篇论文的核心贡献在于尝试将单步条件扩散模型应用于AEC任务,并给出了一个声称可复现的框架。其在部分语音质量指标上超越了重新训练的DeepVQE基线,且模型更轻量,这展示了生成模型在AEC领域的潜力。然而,论文的创新程度有限,其核心单步扩散框架直接借自EffDiffSE,真正的“新意”在于架构调整和数据适配。致命的缺陷在于缺乏关键的消融实验,无法证明Cond DNN、Score DNN以及单步策略各自必要性,使得结论说服力大打折扣。此外,尽管标题和摘要声称“excel”在“echo and noise control performance”,但实验数据显示其在回声抑制(Echo)指标上并未优于甚至略逊于DeepVQE,结论的表述存在过度推广之嫌。 ...

2026-05-12 · 更新于 2026-05-19 · 3 min · 612 words

Reducing Linguistic Hallucination in LM-Based Speech Enhancement via Noise-Invariant Acoustic-Semantic Distillation

📄 Reducing Linguistic Hallucination in LM-Based Speech Enhancement via Noise-Invariant Acoustic-Semantic Distillation #语音增强 #语音编解码器 #知识蒸馏 #自监督学习 #语言模型 ✅ 7.2/10 | 前25% | #语音增强 | #语音编解码器 | #知识蒸馏 #自监督学习 | arxiv 学术质量 7.2/8 | 影响力 0.8/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者:Zheng Wang(南京大学) 通讯作者:Jing Lu(南京大学) 作者列表:Zheng Wang(南京大学)、Xiaobin Rong(南京大学)、Hang Su(MiLM Plus, 小米公司)、Tianyi Tan(南京大学)、Junnan Wu(MiLM Plus, 小米公司)、Lichun Fan(MiLM Plus, 小米公司)、Zhenbo Luo(MiLM Plus, 小米公司)、Jian Luan(MiLM Plus, 小米公司)、Jing Lu(南京大学) 💡 毒舌点评 本文针对基于语言模型的语音增强中“语言幻觉”问题,提出了一个声学-语义联合蒸馏框架。其核心思想清晰:通过两个专门教师模型(声学编解码器WavCodec和语义教师WavS2T)从干净语音中提取互补的表征目标,监督一个学生编码器从带噪语音中学习噪声不变的条件表征,从而提升下游语言模型生成内容的可信度。该方法在低信噪比和混响条件下效果显著,实验设计全面,特别是构建的可控模拟测试集对评估幻觉问题很有价值。然而,该框架的复杂性(依赖三个大型预训练模型)和计算成本不容忽视,论文对此的讨论不足。此外,其声学教师模型仅在英文数据上训练,限制了结论的普适性。整体而言,这是一份扎实的系统性改进,但距离可直接部署的解决方案仍有距离。 📌 核心摘要 问题:基于语言模型的语音增强(LM-based SE)在严重噪声或混响条件下,常因提取的条件信息不可靠而产生“语言幻觉”——生成的语音听感自然但内容错误(如词语替换、删除)。 方法核心:提出L3-SE框架,其核心是一个“噪声不变编码器”(NI-Encoder)。该编码器通过联合蒸馏两个教师模型在干净语音上学到的表征(声学教师WavCodec提供保真度目标,语义教师WavS2T提供一致性目标),从带噪语音中提取出同时具备声学保真度和语义一致性的条件表征,用于引导语言模型生成干净声学token。 创新之处:与现有单方面(仅声学或仅语义)增强条件信息的方法不同,本文首次将联合噪声不变声学-语义蒸馏应用于基于语言模型的语音增强,实现了双重目标的同步优化。此外,论文设计了共享SSL骨干(WavLM)的专用教师模型,并通过可学习层权重自适应提取互补特征。 实验结果:在DNS1测试集(特别是混响条件)和自建的模拟测试集(特别是低SNR条件)上,L3-SE在语言一致性指标(WER, dWER, LPS, SBS)上显著优于包括其他LM方法在内的基线,同时保持有竞争力的感知质量(DNSMOS, UTMOS)。关键数据示例见下表(摘要)。 模型 DNS1 with-reverb LibriSpeech low-SNR dWER ↓ WER ↓ UniSE (LM baseline) 34.2 33.6 L3-SE 8.42 7.13 实际意义:为解决生成式语音增强中的内容忠实度问题提供了一种有效框架,提升了语音增强系统在恶劣声学环境下的可靠性,对语音通信、语音识别前端等下游应用有重要价值。 主要局限性:系统复杂度高,依赖多个大型预训练模型,计算开销大;WavCodec教师仅使用英文数据训练,多语言泛化能力未验证;未探讨模型计算效率与延迟;缺乏对错误类型的细分分析。 🔗 开源详情 代码:论文中未提及代码链接。论文明确指出:“The complete source code will be released after the manuscript is accepted.” 模型权重:论文中未提及。 数据集: Emilia:用于训练的干净语音数据集。论文中提及使用了其英文(EN)和中文(ZH)子集,并给出了筛选条件(DNSMOS > 3.50 或 > 3.40)。未提供具体下载链接。 DNS5:噪声数据集。链接:https://dns4public.github.io/dns_4/ WHAM!:噪声数据集。链接:http://wham.wham-research.org/ FSD50K:噪声数据集。链接:https://zenodo.org/record/4060432 FMA:噪声数据集。链接:https://freemusicarchive.org/ OpenSLR26 和 OpenSLR28:房间脉冲响应(RIRs)数据集。链接:https://www.openslr.org/26/ 和 https://www.openslr.org/28/ DNS1 测试集:用于评估的标准测试集。链接:https://github.com/microsoft/DNS-Challenge LibriSpeech:用于构建模拟评估集。链接:https://huggingface.co/datasets/openslr/librispeech_asr URGENT 2025 验证集:用于构建模拟评估集的噪声片段。链接:https://github.com/sony/urgent25_challenge Demo:https://max1wz.github.io/L3-SE-Demo-Page/ 复现材料: 论文在表1中提供了所有模型组件的主要训练超参数。 论文在附录A中详细说明了WavCodec和WavS2T的训练目标与损失函数。 论文在4.4节中提供了模型架构的实现细节,如WavCodec的编码器/解码器结构、WavS2T的Transformer层数、LM的适配器维度等。 论文中引用的开源项目: WavLM:预训练语音模型,用作共享骨干网络。链接:https://huggingface.co/microsoft/wavlm-large Qwen3-0.6B:预训练文本语言模型,用于语义教师和下游LM。链接:https://huggingface.co/Qwen/Qwen3-0.6B DAC (Descript Audio Codec):高保真音频编解码器,其训练目标被WavCodec采用。链接:https://github.com/descriptinc/descript-audio-codec Vocos:声码器模型,用于WavCodec解码器。链接:https://github.com/so-vits-svc/vocos SimCodec:基线编解码器。链接:https://huggingface.co/yaoxunji/gen-se Mimi:基线编解码器。链接:https://huggingface.co/kyutai/mimi XY-Tokenizer:基线编解码器。链接:https://huggingface.co/fdugyt/XY_Tokenizer BigCodec:基线编解码器。链接:https://huggingface.co/Alethia/BigCodec WavTokenizer:基线编解码器。链接:https://huggingface.co/novateur/WavTokenizer X-codec2:基线编解码器。链接:https://huggingface.co/HKUSTAudio/xcodec2 BiCodec:基线编解码器。链接:https://huggingface.co/SparkAudio/Spark-TTS-0.5B TF-GridNet:语音增强基线模型。链接:https://huggingface.co/kohei0209/tfgridnet_urgent25 BSRNN:语音增强基线模型。链接:https://huggingface.co/lichenda/icassp_2026_urgent_baseline SenSE:语音增强基线模型。链接:https://huggingface.co/ASLP-lab/SenSE BSRNN-Flow:语音增强基线模型。链接:https://huggingface.co/lichenda/icassp_2026_urgent_baseline LLaSE-G1:语音增强基线模型。链接:https://huggingface.co/ASLP-lab/LLaSE-G1 UniSE:语音增强基线模型。链接:https://huggingface.co/QuarkAudio/QuarkAudio-UniSE 🏗️ 方法概述和架构 L3-SE是一个多阶段的基于语言模型的语音增强框架,旨在通过提高条件表征的鲁棒性来减少语言幻觉。其整体流程为:带噪语音输入→NI-Encoder提取噪声不变的声学与语义表征→作为前缀输入自回归语言模型(LM)→预测干净的离散声学token序列→WavCodec解码器将token序列重建为增强后的波形。核心贡献在于NI-Encoder的学习,它通过模仿两个处理干净语音的教师模型的输出来获得噪声不变性。 ...

2026-05-12 · 更新于 2026-05-19 · 4 min · 753 words

Predictive-Generative Drift Decomposition for Speech Enhancement and Separation

📄 Predictive-Generative Drift Decomposition for Speech Enhancement and Separation #语音增强 #语音分离 #扩散模型 #即插即用框架 🔥 8.5/10 | 前25% | #语音增强 | #扩散模型 | #语音分离 #即插即用框架 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Julius Richter(MERL) 通讯作者:未明确说明(作者列表为共同署名,未指定通讯作者) 作者列表:Julius Richter(MERL)、Yoshiki Masuyama(MERL)、Christoph Boeddeker(MERL)、Takahiro Edo(MERL)、Gordon Wichern(MERL)、Jonathan Le Roux(MERL) 💡 毒舌点评 论文的亮点在于将随机插值的数学优雅性与即插即用的工程实用性结合,提出了一个理论上扎实、实验上有效的语音处理增强框架。它巧妙地将预测器的输出转化为SDE中的恒定漂移项,实现了模块的松散耦合。然而,其“即插即用”的承诺在面对像语音分离这样尺度模糊的复杂任务时,需要额外处理(如实验中对SepFormer使用的尺度补偿),这暴露了该框架在面对不同任务内在差异时的潜在通用性边界。 📌 核心摘要 问题:预测模型在语音恢复任务中可能导致不自然的伪影,而生成模型可能产生幻觉或与观测不一致的输出。需要一种方法能结合二者的优点:保持对原始信号的忠实度,同时提升感知自然度。 方法核心:提出名为SIPS的即插即用框架。该框架基于随机插值理论,将生成采样过程中的总漂移分解为两部分:一是由预训练预测器提供的确定性漂移(\(\hat{v} = P_\phi(y) - y\)),用于引导采样朝向任务一致的解;二是由仅在干净语音上训练的去噪器/分数模型\(D_\theta\)估计的随机成分,用于增强输出的自然度和一致性。采样通过求解一个随机微分方程(SDE)实现。 创新点:与现有混合方法(如StoRM, Diffiner)相比,SIPS具有以下新特性:(a) 基于随机插值理论的数学原理漂移分解,而非经验性组合;(b) 去噪器仅需在干净语音上训练,与具体退化任务无关,可跨任务复用;(c) 推理时无需针对特定预测器重新训练或适配,真正实现即插即用。 主要实验结果:在语音增强和分离任务上,结合多种最新预测器(如SEMamba, FlexIO),SIPS能持续提升非侵入式感知质量指标(NISQA, UTMOS),同时对信号级失真指标(SI-SDR, PESQ)影响较小。 语音增强(匹配条件, VoiceBank-DEMAND)关键数据: 模型 SI-SDR ↑ [dB] PESQ ↑ DNSMOS ↑ [P.808] NISQA ↑ UTMOS ↑ WER ↓ [%] SEMamba 19.72 3.56 3.58 4.60 4.07 8.87 SEMamba + SIPS 19.63 3.43 3.57 4.73 4.09 8.81 FlexIO (用于分离, WHAMR!) 8.45 1.76 3.62 3.54 2.79 21.50 FlexIO + SIPS 8.51 1.56 3.68 4.01 3.01 23.43 关键图表: 图1(论文原图)直观地展示了SIPS的推理流程。左侧显示从观测\(y\)开始,预测器\(P_\phi\)计算出漂移\(\hat{v}\)。右侧展示了采样步的细节:当前状态\(x_t\),预测器提供的漂移\(\hat{v}\),去噪器\(D_\theta\)估计的噪声分量\(\hat{z}\),以及随机噪声\(z\),共同作用产生下一步状态\(x_{t+1}\)。图注说明这是一个Euler步与漂移分解的结合。 图3(a)(b)表明,κ参数允许在信号失真(SI-SDR)和感知质量(NISQA)之间进行权衡,尤其在失配条件下效果明显。 实际意义:为语音增强与分离提供了一个模块化解决方案,允许从业者利用现有的强大预测模型,通过接入一个统一的、任务无关的生成先验来提升输出听感质量,无需为每个预测器重新训练生成模型。 主要局限性:引入生成组件增加了推理复杂度和计算量(尽管比Diffiner高效)。在极端退化或与训练分布差异大的情况下,性能提升有限,且可能引入影响下游任务(如ASR)的幻觉。此外,框架的通用性边界在需要尺度补偿的任务(如某些语音分离模型)中有所暴露。 🔗 开源详情 代码:https://github.com/merlresearch/sips-speech 模型权重:论文中未提及SIPS的预训练权重链接。论文中提到了使用的预测器(如SEMamba、FlexIO、Conv-TasNet、NCSN++、SepFormer)的官方或第三方实现及检查点,但仅给出了SepFormer的官方检查点链接:https://huggingface.co/speechbrain/sepformer-whamr16k。其他预测器的具体权重链接需参考其原始论文。 数据集: 训练去噪器:使用VoiceBank-DEMAND数据集的28说话人训练集(未给出具体下载链接,但可从原数据集获取)。 语音增强测试集(匹配条件):VoiceBank-DEMAND测试集。 语音增强测试集(不匹配条件):EARS-WHAM (v2) 测试集,项目主页为 https://sp-uhh.github.io/ears_dataset/。 语音分离测试集:WHAMR! 数据集(单声道嘈杂混响子集),基于WSJ0-2mix数据集生成。 论文中未提及VoiceBank-DEMAND、WHAMR!、WSJ0-2mix的具体下载链接,但指出了其来源或生成方式。 Demo:论文中未提及 复现材料: 代码仓库(https://github.com/merlresearch/sips-speech)包含了实现细节。 论文附录(Appendix C)提供了详细的实现与训练细节,包括:数据表示(C.1)、实现与训练细节(C.2)、噪声调度超参数选择(C.3)、采样步数消融研究(C.4)、后处理步骤影响分析(C.5)、Diffiner在减少采样步数下的对比(C.6)以及带标准差的结果(C.7)。 论文中引用的开源项目: EDM2SE:其仓库为 https://github.com/sp-uhh/edm2se,是SIPS实现的基础。 Conv-TasNet:论文中使用了第三方实现 https://github.com/kaituoxu/Conv-TasNet。 NVIDIA NeMo工具包:用于计算WER,论文中提到了具体模型“QuartzNet15x5Base-En”,但未给出NeMo工具包的直接链接。 🏗️ 方法概述和架构 SIPS是一个两阶段的即插即用框架,旨在增强任何预训练语音恢复预测器的输出。其核心是一个生成采样过程,该过程被设计为一个随机微分方程(SDE),并将预测器的输出作为一个恒定的“漂移”分量嵌入其中。 ...

2026-05-08 · 更新于 2026-05-19 · 7 min · 1301 words

Spatial-Magnifier: Spatial upsampling for multichannel speech enhancement

📄 Spatial-Magnifier: Spatial upsampling for multichannel speech enhancement #语音增强 #麦克风阵列 #波束成形 #生成模型 #多任务学习 ✅ 7.0/10 | 前25% | #语音增强 | #麦克风阵列 | #波束成形 #生成模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Dongheon Lee (Meta Reality Labs Research 1, Korea Advanced Institute of Science and Technology (KAIST) 2) 通讯作者:Juan Azcarreta (Meta Reality Labs Research) 作者列表:Dongheon Lee (Meta Reality Labs Research 1, KAIST 2)、Ashutosh Pandey (Meta Reality Labs Research)、Sanjeel Parekh (Meta Reality Labs Research)、Daniel Wong (Meta Reality Labs Research)、Jacob Donley (Meta Reality Labs Research)、Buye Xu (Meta Reality Labs Research)、Juan Azcarreta (Meta Reality Labs Research) 💡 毒舌点评 亮点:论文核心贡献非常聚焦,Spatial-Magnifier模型针对“空间上采样”这一特定任务进行了专门的架构设计(选择模块、DCA模块),而非简单套用现有语音增强网络;SARL框架提出的特征级条件化(SARL-F)是一种新颖且有效的思路,实验消融证明了其优越性。短板:方法整体依赖于预训练的MC-SE模型作为下游,其性能天花板受制于此;此外,论文虽然展示了在模拟数据和特定阵列上的优秀性能,但缺乏在真实世界设备和复杂噪声环境下的端到端验证,且未开源任何实现细节,限制了其直接影响力。 ...

2026-05-07 · 更新于 2026-05-19 · 4 min · 797 words

Are Deep Speech Denoising Models Robust to Adversarial Noise?

📄 Are Deep Speech Denoising Models Robust to Adversarial Noise? #语音增强 #对抗样本 #鲁棒性 #心理声学 #信号处理 🔥 8.5/10 | 前25% | #语音增强 #对抗样本 | #信号处理 | #语音增强 #对抗样本 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Will Schwarzer(马萨诸塞大学阿默斯特分校) 通讯作者:Will Schwarzer(马萨诸塞大学阿默斯特分校) 作者列表:Will Schwarzer(马萨诸塞大学阿默斯特分校)、Philip S. Thomas(马萨诸塞大学阿默斯特分校)、Andrea Fanelli(Dolby Laboratories)、Xiaoyu Liu(Meta) 💡 毒舌点评 论文将音频对抗攻击的研究从简单的扰动约束推进到了考虑真实声学环境(模拟过空传播)和严格心理声学掩蔽的实用化设定,这是一项重要且扎实的安全研究。然而,攻击的成功高度依赖于白盒梯度访问,且论文坦承通用对抗扰动和跨模型迁移基本无效,这限制了其直接展示的“威胁”的即时实用性,更像是一份详尽的系统性风险报告。 🔗 开源详情 代码:提供公开代码仓库链接:https://github.com/willschwarzer/adv-dns-public。 模型权重:论文研究的对象是四个已有公开检查点的开源DNS模型(Demucs/Denoiser, Full-SubNet+, FRCRN, MP-SENet),并详细列出了使用的具体版本和提交哈希(见附录G表4)。攻击本身是针对这些模型生成的,未提及公开攻击模型权重。 数据集:使用来自ICASSP 2022 DNS Challenge 4公开数据集的音频(干净语音、噪声、RIR),并注明了引用和许可(CC-BY-4.0 for 数据, MIT for 代码)。 Demo:论文中未提及在线演示。但提供了指向攻击样本在线试听页面的链接(https://sites.google.com/view/adv-dns/),用于评估主观不可感知性和攻击效果。 复现材料:提供了极其详尽的复现信息,包括:所有实验设置(SNR, 混响, 模型)、优化算法及超参数(Adam, 学习率, 梯度裁剪, 迭代次数)、心理声学模型具体参数、STFT参数、人类研究协议、统计检验方法等。代码仓库应包含运行实验所需脚本。 论文中引用的开源项目:OpenAI Whisper(用于ASR评估和过滤数据)、MP-SENet、Denoiser (Demucs)、FRCRN (ClearerVoice-Studio)、FullSubNet-Plus、MaskGCT(用于生成目标攻击语音)、DNS-Challenge数据集与代码、DNSMOS P.835、NISQA、ViSQOL。所有引用的项目及其版本、许可证在附录G的表4中详细列出。 📌 核心摘要 问题:深度语音去噪(DNS)模型在安全关键应用(如助听器、应急通信)中广泛使用,但其对抗鲁棒性尚未被充分研究。论文旨在评估这些模型是否对精心设计的、人耳难以察觉的对抗噪声脆弱。 方法:核心方法是提出一个基于心理声学掩蔽的对抗攻击框架。该框架通过计算掩蔽阈值(包括频率掩蔽和时域前后掩蔽)来约束扰动的功率谱密度,使其在原始语音信号中“隐藏”。优化采用投影梯度下降,损失函数为短时客观可懂度(STOI)。此外,框架通过维纳解卷积和梯度下降投影来模拟和应对扰动在房间脉冲响应(RIR)下的传播,以实现模拟过空攻击。 创新:与已有工作(如使用简单p范数约束或未充分考虑感知掩蔽)相比,该工作的创新在于:a) 集成了增强的、包含时域掩蔽的心理声学模型,并引入偏移量调节掩蔽阈值,更好地平衡攻击成功率与不可感知性;b) 系统性地将攻击扩展到模拟真实声学环境(混响、不同背景噪声水平、过空传播);c) 对多种开源DNS模型在不同设置下的鲁棒性进行了全面的机制分析,揭示了梯度流动(而非模型大小)是关键因素。 主要实验结果:论文测试了Demucs, Full-SubNet+, FRCRN, MP-SENet四个模型。关键发现:a) 所有模型都能在人耳无法察觉的扰动下被驱动输出无意义语音(STOI提升从正值变为负值,见图1);b) 攻击在从极干净(70dB SNR)到嘈杂、混响的环境下均成功;c) Full-SubNet+因梯度爆炸展现出一定“伪鲁棒性”,但此保护机制已知可被绕过;d) 人类研究(15名音频专家)证实攻击后的音频几乎无法转写,且扰动通常不可察觉;e) 模拟过空攻击对除Full-SubNet+外的模型同样有效(见图5);f) 简单的高斯噪声防御仅能部分缓解,但攻击者可能自适应(见图4)。通用扰动和跨模型迁移效果有限。 图1:在不同背景信噪比(SNR)和混响条件下,四个DNS模型在加入不可察觉的对抗扰动前后,其输出相对于干净语音的STOI变化(ΔSTOI)。攻击成功地将ΔSTOI从正值(增强)变为负值(劣化),表明模型输出变得比含噪输入更不可懂。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 291 words

ICLR 2026 - 语音增强 论文列表

ICLR 2026 - 语音增强 共 1 篇论文 ← 返回 ICLR 2026 总览 排名 论文 评分 分档 🥇 SpeechOp: Inference-Time Task Composition for Generative Spe 7.5分 前25% 📋 论文详情 🥇 SpeechOp: Inference-Time Task Composition for Generative Speech Processing ✅ 7.5/10 | 前25% | #语音增强 | #扩散模型 | #语音分离 #多任务学习 👥 作者与机构 第一作者:Justin Lovelace(Cornell University) 通讯作者:未明确说明(论文作者来自Cornell University和Adobe Research,从贡献描述看,Adobe Research团队的Rithesh Kumar, Jiaqi Su, Ke Chen, Zeyu Jin可能承担更多指导角色,但论文未明确标注通讯作者) 作者列表: Justin Lovelace(Cornell University) Rithesh Kumar(Adobe Research) Jiaqi Su(Adobe Research) Ke Chen(Adobe Research) Kilian Q Weinberger(Cornell University) Zeyu Jin(Adobe Research) 💡 毒舌点评 ...

2026-05-04 · 更新于 2026-05-19 · 1 min · 105 words

Knowing When to Quit: Probabilistic Early Exits for Speech Separation Networks

📄 Knowing When to Quit: Probabilistic Early Exits for Speech Separation Networks #语音分离 #语音增强 #概率建模 #提前退出 #实时处理 ✅ 7.0/10 | 前25% | #语音分离 | #概率建模 | #语音增强 #提前退出 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Kenny Falkær Olsen (Technical University of Denmark, WS Audiology) 通讯作者:未说明 作者列表:Kenny Falkær Olsen (Technical University of Denmark, WS Audiology), Mads Østergaard (WS Audiology), Karl Ulbæk (WS Audiology), Søren Føns Nielsen (WS Audiology), Rasmus Malik Høegh Lindrup (WS Audiology), Bjørn Sand Jensen (Technical University of Denmark), Morten Mørup (Technical University of Denmark) 💡 毒舌点评 亮点在于将概率建模与早退机制结合,推导出一套基于置信度的、可解释的SNR退出准则,比传统的启发式或固定损失权衡方法更 principled。短板是框架的实用性高度依赖于模型预测的不确定性(σ²)是否校准良好,论文显示这需要额外的、在全长度数据上的微调,增加了实际部署的复杂性,且核心模型架构(PRESS-Net)本身在绝对性能上并非无懈可击。 ...

2026-05-04 · 更新于 2026-05-19 · 3 min · 439 words

MMAudioReverbs: Video-Guided Acoustic Modeling for Dereverberation and Room Impulse Response Estimation

📄 MMAudioReverbs: Video-Guided Acoustic Modeling for Dereverberation and Room Impulse Response Estimation #语音增强 #跨模态 #预训练 #迁移学习 ✅ 6.0/10 | 前50% | #语音增强 | #预训练 | #跨模态 #迁移学习 | arxiv 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Akira Takahashi (Sony Group Corporation, Sony AI) 通讯作者:未明确说明(但第一作者Akira Takahashi与第四作者Yuki Mitsufuji均来自Sony AI,且Yuki Mitsufuji为机构负责人,可能是主要联络人) 作者列表:Akira Takahashi (Sony Group Corporation, Sony AI)、Ryosuke Sawata (Sony AI)、Shusuke Takahashi (Sony Group Corporation)、Yuki Mitsufuji (Sony Group Corporation, Sony AI) 💡 毒舌点评 亮点:该研究巧妙地将一个为视频生成音频(V2A)的基础模型(MMAudio)通过“无需修改架构”的方式,重新用于解决物理声学问题(去混响和RIR估计),这种“模型复用”的思路颇具启发性,展示了预训练多模态模型作为通用物理先验的潜力。短板:实验的局限性过于明显——仅在一个数据集(SoundSpaces-Speech)上进行验证,且与多个SOTA方法(如AV-RIR)对比时,在关键指标(如RIR估计的ΔRT60)上并未显示出稳定优势,使得其“统一框架”的优越性难以服众。同时,完全缺乏开源承诺,极大地削弱了研究的可验证性和社区影响力。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 382 words