把重建当难题:用扩散重建逼出更能泛化的音频深伪检测
针对未知语音伪造泛化难的问题,该研究用包含扩散重建在内的重建样本构造难样本,并结合多层特征聚合与正则化辅助对比学习提升泛化,最强证据是五集平均等错误率从基线 15.789% 降到 8.247%,代价是在个别集上出现小幅回退且依赖重建与增强配置。
针对未知语音伪造泛化难的问题,该研究用包含扩散重建在内的重建样本构造难样本,并结合多层特征聚合与正则化辅助对比学习提升泛化,最强证据是五集平均等错误率从基线 15.789% 降到 8.247%,代价是在个别集上出现小幅回退且依赖重建与增强配置。
针对标注少、无标注多且有教师模型的语音识别,论文把有监督学习放顶层、无监督学习放中层、知识蒸馏放底层做三层嵌套优化,用两次惩罚型双层梯度下降求解,在 LibriSpeech 上以词错率下降为证据,但惩罚系数调度敏感且解码与资源条件受限。
针对基础模型表示中内容与说话人纠缠的问题,该文用合成干预数据加多分支对比损失学出两个子空间,最强证据是跨域说话人验证等错误率明显下降,主要代价是内容分支在关键词任务上丢失信息且两分支仍有泄漏。
针对高分辨率音视频序列输入大语言模型时计算过高且压缩研究只做单任务识别的问题,MTC-AVSR 用每秒 3.5 个令牌的压缩流加语言适配器与令牌对比对齐做识别加四语翻译,在 LRS3 干净集取得词错误率 0.74%,在 MuAViC 英西取得 28.1 BLEU,代价是噪声下部分语对仍弱于专用双语模型且大模型显存更高。
针对自由文本风格描述与语音对齐覆盖窄的问题,论文用内在与情境分训加统一模型的对比策略,在检索与分类上以专用模型取胜、在组合描述上以统一模型取胜,代价是推理时需选对专用变体且最优挑选带来线性推理开销。
针对标注构音障碍语音稀缺导致跨病因跨语言泛化难的问题,论文用教师伪标签加 LibriSpeech 粗二分弱监督对比预训练再微调,在五套未见数据集上平均 SRCC 达 0.761,而细粒度伪标签监督反而损害跨域表现。
该文研究单通道两人语音分离能否只用说话人身份做唯一监督,通过对比分离输出嵌入与辅助话语嵌入来训练分离器,在 Libri2Mix 上从零训练到 8.1 dB SDR 并能向含噪域自适应到 8.7 dB,但仍低于全波形监督的 14.4 dB 与 9.7 dB 上界。
针对大音频语言模型把不存在的声音判为存在的肯定偏置,论文提出免训练的静音对照加首步门控解码 TAD,在 AudioCaps-Hallucination 上相对固定强度 AAD 把 Qwen2 的 F1 提高 0.059 到 0.117,代价是更保守的是否边界和部分真阳性召回下降。
针对示例查询语音词检测中变长发音的记号不一致问题,wav2tok 2.0 在 BEST-STD 骨干上先做对比学习与向量量化再加 CTC 与 DTW 帧级对齐,在 LibriSpeech 与 TIMIT 上一致提升检索一致性与 MAP/MRR,代价是两阶段训练与自适应加权维护。
针对 Whisper 长语音中静音幻觉、重复循环和内容遗漏互相放大的问题,Whisper-CD 用高斯噪声、静音、全零谱与时间平移三种负信号在解码时做多负例对比减法,在五个英文长语音基准上报告最高在 CORAAL 降低 24.3 个百分点,代价是每步要多算三路解码。
该文把瓶颈适配器装进冻结解码器每一层并用输入成分做二进制门控,使旧模态走原计算图实现逐位不变,同时用对照实验显示音频检索提升与热成像包的可组合性,代价是新增模态的文本混排输入属于新行为且双门同开不在保证内。
论文把文本图像视频音频放进同一个共享主干做任意到任意检索,用四阶段对比训练与同源采样和蒸馏优化,在 MMEB-v3 等基准上取得领先,但多条件文本与记忆检索仍有短板且低维压缩在细粒度任务上损失更大。
该文用 120 文本×24 声音画像×10 风格的合成正交网格审计 10 个开源音频编码器与 2 个闭源语音问答系统,以主夹角泄漏解释探针差距并用正交残差对比适配器降低泄漏与差距,代价是需要合成感知属性假设与额外适配训练。
针对音节级声调标注缺数据、句子级数据切分噪声大的问题,ToneCL 用保持声调的增强做对比预训练再用每调 1 到 10 个样本微调,在六说话人普通话 10-shot 达到 91.6%,跨语言预训练仍达 91.0%,代价是自然连续语音与声门特征仍未解决。
该文针对采样识别中人工合成对难以模仿真实制作变换的问题,提出在真实采样对上全监督训练的 SIE 模型与训练配方,并在三个基准上报告优于前最优的结果,同时用对照实验说明数据替换与架构配方各自的贡献与代价。
该研究在相同骨干与训练流程下比较按病因拆分与混合病因的严重度分类,报告脑瘫、帕金森、肌萎缩侧索硬化三个方向上按病因模型全面领先混合基线,代价是需要病因路由、单次训练与以英语为主的评测局限。
该文把合成语音归属从闭集分类改写为音频对自然语言描述的跨模态检索,用冻结双编码器加小投影头在 MLAAD v9 上实现未见模型 58.4% 模型级 MRR,代价是闭集精度低于专用分类器且通用架构易混淆。
针对标注少且跨天跨点易失效的动物声音时频框检测,MAST 用域内掩码预训练加适配检测器再加两阶段自训练,在雨林和鸟类两域的分布外评测上提升 F1 与 mAP,代价是第二轮后域内精度波动与更大计算量。
针对前景与背景共现偏移导致的小样本音频分类失效,SampleSelect 在冻结编码器下为每个样本学习固定预算的特征掩码,在 SpurAudio 四个设置中取得相比方法的最高 OOD 准确率,并以 4.90-8.38 个百分点的提升超过匹配的 FullRep 对照,但选择预算与对比权重仍需按源域设定且诊断分析只建立关联而非因果。
共收录 60 篇 icmc-2026 会议论文的 Reader 深度解读