不调参数也能适应新环境:用被丢掉的残差做语音增强
针对离线训练的语音增强模型在新说话人、噪声和声学条件下退化的问题,论文提出冻结主干、只让记忆状态演化的 Continual Residual Memory,通过分时频有界回收被丢掉的残差并用历史原型修正,在三个目标集上一致改进冻结 CMGAN 且额外开销很小。
针对离线训练的语音增强模型在新说话人、噪声和声学条件下退化的问题,论文提出冻结主干、只让记忆状态演化的 Continual Residual Memory,通过分时频有界回收被丢掉的残差并用历史原型修正,在三个目标集上一致改进冻结 CMGAN 且额外开销很小。
论文研究在不回放源语言数据时只调连接器来加新语言,用源语言校准冻结加更新合并平衡新语言习得与旧语言保持,多目标时联合合并更稳而按序递归更看顺序。
针对设备与年份变化导致呼吸音分布漂移且历史数据不能回放的问题,APRIL 冻结 BEATs 主干并为每个域保留独立的 LoRA 专家,再用多层原型取出两个候选并结合路由后验与分类置信做选择,在 ICBHI 与 SPRSound 正反序上取得最高的最终会话平均 Score 且平均遗忘低于 1.0 个百分点,代价是专家库随域数增长且每次推理需评估两个专家。
针对音视频类别增量学习中新类冲掉旧类边界的问题,冻结三种多模态基础模型的音视频编码器,只训练音频引导视觉的注意力模块和分类器,并用特征与输出两级蒸馏锚定旧状态,在三个基准上提高了平均准确率并降低了遗忘,但结论依赖固定的任务划分、记忆样本量和训练预算。
把 Whisper-small 从 TED 演讲语音调到 Earnings22 财报语音时,同域两分区上都出现负遗忘,不加正则的微调取得最低词错误率,而需要正则时 mini-KFAC 比对角 EWC 更低更稳,但差异在 5 个种子下不显著。
针对口音标签模糊、类别不均衡和跨语料库录音差异,AccentCL 先训练五类区域口音基座分类器再用回放与正则逐步加入西班牙和中国口音,新类与旧类取得平衡但仍依赖有限回放与两步验证。
VoiceWeaver 用结构化标签前缀把情感、语气和声音事件拼进同一文本音频序列,再按情感到语气再到事件的顺序分阶段学习并用回放蒸馏保持旧能力,在中英文封闭标签测试中情感事件联合正确率达到约 70% 和 66%,代价是文本错误率高于外部大体量语音合成基线。
针对伪造语音类型持续新增且原始语音不能集中共享的问题,FedCFM 让每个客户端在嵌入层训练条件流匹配生成器并交换生成器,再用生成回放加知识蒸馏更新分类器,在相同训练数据组合下报告了低于所比较集中式与联邦基线的等错误率,但生成器交换轮带来约 164.1 MB 的单客户端通信开销。
针对部署后新伪造攻击占主导而旧攻击仍残留的问题,SE-ADD 用当前模型的无提示误判定位需要补课的样本并用自生取证线索做追加监督,在六个演变环境中把未见攻击上的等错误率大幅降低,但取证线索的收益依赖推理方式和骨干模型且存在轻微遗忘。
针对新伪造机制不断出现而真实语音来源已知的更新场景,论文提出按生成机制组织任务的 RAMI 协议与非对称提示方法 RF-Prompt,在 RAMI 上取得 10.110% 平均 EER 与 10.370% 混合 EER,但离线联合训练仍更优且部分机制上基线更低。
针对生成式语音增强在新声学域上微调会遗忘旧域、零样本又适应不足的问题,论文用冻结的 GPT 式主干加域专属 LoRA 逐域增量学习,在四个异构数据集上以平均 SpeechBertScore 保持旧域并适应新域,代价是域不可知时依赖熵选适配器且推理需多路前向。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
针对语音到音乐的域漂移与打分尺度不一致,CAQA-Net 用可训练波形分支学生成可塑性、用冻结频谱分支做稳定性锚、用多头加蒸馏正则与原型门控做任务无关推理,在五数据集序列上报告与联合学习上界相差 0.036 SRCC,而冻结与门控等设计带来推理与调参代价。
论文把 Whisper-Small 适配到比斯拉马语、纳夫桑语和雷莱帕语三种太平洋语言,报告了随数据量变化的识别误差、编码器与解码器的层级表示漂移以及向英语和历史语言的遗忘,用全量微调与 LoRA 及其变体的对照揭示了新语言可塑性与旧能力保持之间的严格权衡。
针对持续广义类别发现中声音频谱重叠与基类偏置问题,论文用实例自适应正则加高斯混合自适应阈值与指数滑动平均动态教师做伪标签稳定,在 ShipsEar 上累计平均精度报告 74.14%,代价是新类精度仍低于 Happy。
针对基会话与增量会话存在域偏移的跨域小样本类增量音频分类问题,论文用对抗训练模拟伪目标域加监督对比学习塑形嵌入空间,在六组跨域配对上报告了更高的平均准确率,代价是基会话需两步交替训练且增量阶段冻结编码器。
针对冻结流匹配语音合成持续读错多语专有名词的问题,FlowEdit 冻结 DiT 只优化文本嵌入扰动并存入 Modern Hopfield 记忆,在 312 词基准上把目标词音素错误率降到 3.1% 且通用语音保持 4.1%,单次纠错约 15 秒但声调语言残留误差更高。
论文把鲁棒性当作随分布漂移持续演化的能力,用语言内容、说话人特征、声学环境三类因子构建 MoDiCoL 并设计四段课程,对比经验回放、表征正则与正交梯度三种持续学习策略,最强证据是 10% 回放把平均词错率降到 17.31 并接近零遗忘,代价是仍依赖记忆容量与任务顺序且部分组合靠合成与仿真补齐。
为在拿不到原始训练数据且不允许老词退化的条件下增加新触发词,该文冻结约 150k 参数的基座并只训练不超过 10k 参数的扩展分支与新词头,在固定 1% 误接受率下把新词平均漏检率从可部署独立模型基线的 6.46% 降到 4.37%,最坏情况计算量为 16.34M,低于同预算适配器与低秩适配的 18.45M 与 20.52M。
针对 Whisper 类模型在低资源语言上顺序微调时的灾难性遗忘,论文提出用语言均衡回放构造整体参考梯度并做冲突投影的统一梯度投影方法,在 Whisper-large-v3 上报告平均遗忘接近零,但目标语言可塑性仍需与回放量和模型容量一起权衡。