知识蒸馏

针对目标情感与文本语义冲突时情感表达下降的问题，该研究用文本情感替代无条件分支并按不一致程度动态调整引导强度，再把引导信号蒸馏回模型，最强证据是在中性参考下情感识别准确率从 50.63% 提升到 59.55% 且词错误率降到 3.76%，代价是推理期曾需要外部大模型判断和双路解码。

针对重叠语音下编码器表示难解耦而大模型解码又慢又不稳的问题，该文用适配后的 LLaMA 在训练时做串行输出教师信号来正则编码器，并用话者计数头路由到两话者或三话者串行 CTC 分支，在 LibriMix 上实现推理全编码器化，三话者条件显著优于同类大模型系统且实时率大幅降低。

针对语音意图分类中语义相邻类别难分的问题，该工作用 DeepSeek-R1 生成的候选枚举加拒绝解释加标签三段轨迹做多任务微调正则，在 SLURP 和法语 Speech-MASSIVE 上六个语音大模型意图准确率最高提升 2.4 个百分点且推理时只直接输出标签。

针对解码器语音大模型在长难文本上重复与漏读的稳定性幻觉，论文用最优对齐分数约束对齐头并用教师注意力伪对齐做思维链引导，在困难集上报告降低约 2.1% 与 1.6% 词错误率而日常集自然度未下降。

针对 BEST-RQ 固定随机量化器监督弱且对初始化敏感的问题，论文用在线主成分投影、迭代码本精修和中间层蒸馏码本三处在线改进，在 Librispeech 960 小时预训练加 100 小时微调下把 test-other 从 10.1% 降到 8.8%，代价是增加一个小码本与相似矩阵损失的计算。

针对对话式语音合成既要流式进文本又要低首包延迟的问题，FlashTTS 用滞后多轨道输入加并行多词元预测与两步 X 预测平均流解码，在 Minimax 子集上把首包延迟降到 325 ms，代价是五路并行时相似度和主观分下降且部分语言可懂度仍落后离线大模型。

针对 44.1 kHz 歌声伪造检测，论文用全带专家保全局加子带专家抓局部伪影，对比四种融合后在 WildSVDD 上以蒸馏再聚合达到 Test A 最低 1.58% 与 Test B 8.77%，代价是多专家训练与推理结构更复杂。

针对自回归 Transformer 语音合成二次复杂度导致长序列显存与延迟过高的问题，MamTra 把预训练 Transformer 的部分层替换为 Mamba 并用多级蒸馏恢复性能，最强证据是在仅用约 2% 英文数据下推理显存降低可达 34%，代价是 1:1 配置词错误率绝对上升 0.25% 且激进替换会明显损伤可懂度。

针对非因果教师特征含未来上下文与因果学生零前视能力冲突的问题，该文用下三角掩码的样本内时间关系蒸馏加离线双向拓扑先验，在 GSC V2 上把因果 1D-CNN 准确率从 95.12% 做到 96.91%，并在 1.0 FA/h 下把连续流误拒率从 8.52% 降到 4.15%，且不增加部署参数与单步延迟。

针对重型自监督模型难以部署到实时边缘端的问题，MSMC 用无泄漏遮罩卷积编码器加均值教师多尺度蒸馏，在 IEMOCAP 即兴子集十折留一说话人验证下达到 76.0% 加权准确率，代价是仍只在该数据集与该协议下验证且依赖 60% 时域遮罩等特定训练条件。

针对非平稳噪声下静态说话人验证泛化不足的问题，论文用全局噪声生成低秩权重、用局部噪声做帧级门控并以对比蒸馏对齐干净流形，在 VoxCeleb1 混合 MUSAN 上报告带噪平均 3.05% 与干净 1.70%，代价是 ECAPA 配置总参数增至 24.19M。

针对因果视听说话人分离缺未来上下文且视觉前端笨重的问题，论文用因果化 DeepAVSR 加在线 AV-CrossNet 做基线，再用渐进加权的视觉知识蒸馏把前端压缩到约 48 倍参数与 7.5 倍计算量，并在 LRS2、LRS3 与 VoxCeleb2 上取得在线最优，同时保留教师性能。

针对单通道带噪混响语音中房间信息易被噪声掩盖的问题，论文采用纯混响对比学习、带噪混响对比学习、冻结教师对齐学生三阶段学出噪声鲁棒的房间嵌入，并以声学参数探针和条件化深滤波增强验证其可读性与一致增益，代价是弱识别器仍受增强伪影影响且动态多通道场景未验证。

针对说话人确认在非言语发声上跨域失效且微调会遗忘语音的问题，论文用冻结 Data2Vec 加 ECAPA-TDNN 配合层间混合专家与只对语音蒸馏的教师约束加跨域对比损失，在保持可运行基线的条件下把语音对非言语 EER 从 38.93% 降到 22.66%，代价是标准语音 EER 仍高于大规模预训练的 5.60%。

论文把音频推理退化归因于文本替代推理并用模态接地蒸馏把推理拉回声学证据，语音转文字平均 83.6% 与语音对话推理 96.1% 的报告显示长思考可以变好，代价是需要格式奖励维持思考长度与中等难度数据筛选。

针对声音事件检测需要帧级定位而轻量模型容量不足的问题，论文提出以教师 logits 为公共蒸馏空间、配合时序投影器和置信度加权损失的 TAT-KD，最强证据是 4.548M 参数的 SE-CRNN 学生达到 PSDS 0.574，代价是训练期要附加多级投影器并依赖冻结教师的帧级输出质量。

针对北萨米语标注只有 20 小时的问题，论文比较大教师生成全部伪标签与大小模型一致过滤子集，并证明先伪标签后人工标注的两阶段微调能让 95M 小模型在域外测试上相对降低字符错误率，而混合训练与反向顺序会退化。

USAD 2.0 针对语音、通用音频与音乐教师失配问题，采用领域感知加权蒸馏先融合三个自监督专家，再用有监督专家做第二阶段对齐并以降帧率加深度扩展到 1036M 参数，在 HEAR、MARBLE 与 XARES-LLM 上取得可比或更优的可复述结果，代价是仍需依赖教师与领域标签且大模型推理成本上升。

ZipCodec 针对语音分词器依赖重型预训练编码器和多阶段流程的问题，采用 Zipformer 编码器加有限标量量化加 Zipformer 流匹配解码器的单阶段自编码结构并辅以编码器一致性正则，在 23.4375 Hz 与约 1.97 kbps 下报告了可复述的重建与零样本合成结果，代价是仍依赖 Vocos 声码器与流匹配多步推理并需蒸馏加速。

针对 0.5 kbps 下残差向量量化各级等码率却贡献递减的问题，P2PSynCodec 用一路普通量化传输加三路伪量化解码端预测补齐，在 LibriTTS 上以 0.5 kbps 达到与 2.0 kbps 基线可比的主客观质量，代价是伪量化网络带来额外参数与计算。