知识蒸馏

针对空管领域标注少而无标注语音多的问题，论文用 BEST-RQ 自监督加双层蒸馏先重训 Whisper-small 编码器再用 2 小时 24 分标注微调，在 ATCO2 上把词错误率从 19.54% 降到 17.17%，代价是需跑 5381 小时无标注数据约 7 小时 8 卡训练并依赖中间层与蒸馏权重的选择。

针对中库尔德语数据少且算力弱的问题，该研究先微调 Seamless 大模型生成伪标签再训练 31M 小模型，用 Asosoft 上 7.67 对比 8.18、Fleurs 上 22.46 对比 20.31 的词错误率说明小模型接近大模型，但 Fleurs 上仍有约 2 点差距且推理只在给定软硬件下测得 18 倍加速。

针对流式语音识别只能用过去和很小当前块导致词错误率上升的问题，SENS-ASR 用过去帧经上下文模块蒸馏句子嵌入教师得到的语义向量拼接增强每帧表示，在 160 毫秒小块上报告了词错误率下降，但大块和全上下文增益消失且需额外训练教师与上下文模块。

针对单图全身会话化身中音频到姿态再到渲染的误差累积与口手细节丢失问题，论文用音频直接调制三维高斯粒子变形场并蒸馏大视频扩散先验，消融显示轨迹对齐与分数蒸馏分别控制同步与平滑，但自建评测与合成监督带来泛化边界。

共收录 103 篇 cvpr-2026 会议论文的 Reader 深度解读

共收录 91 篇 dafx-2026 会议论文的 Reader 深度解读

针对和弦标注稀缺与分布不平衡问题，该工作先用预训练 BTC 教师在 1000 多小时无标注音频上生成伪标签训练学生，再用少量真值标签加选择性知识蒸馏做数据增量持续训练，最强 BTC 学生在七个 mir_eval 指标上超过教师与监督基线，代价是依赖教师质量并需保存完整软目标带来额外显存开销。

共收录 127 篇 eusipco-2026 会议论文的 Reader 深度解读

针对多声源视频中只生成文本指定声音的选择性视频到音频任务，SELVA 用文本调制的视频编码器加两阶段自监督混合训练实现目标声源分离生成，在 VGG-MONOAUDIO 上同时改善语义与时间对齐，但仍受训练数据噪声与细粒度文本理解限制。

针对声学回声控制中深度模型计算量过大而直接缩小模型会明显掉性能的问题，论文用大教师指导小学生的知识蒸馏训练轻量 CGGN16，在双讲条件下保住近端语音并有效抑回声，代价是仍需先训练大教师且依赖仿真数据条件。

针对含噪机器声中最近邻匹配不可靠的问题，该研究用机器与噪声标注加混合对齐做保留式再预训练，在受控信噪比与噪声失配下相对 BEATs 提升低信噪比约 4.1、平均约 3.1，代价是仍与嵌入混合上界有差距且依赖固定的 0.5 混合系数。

针对 CLIP 视频文本检索丢弃音轨且 AST 类编码器不理解语音的问题，SAVE 用 Whisper 转写加 CLIP 文本编码的语音分支与 ImageBind 软监督的 soft-ALBEF 先对齐再融合，在五个基准上超过 AVIGATE 等基线，代价是依赖 ASR 可用性与离线三分支特征抽取。

针对对比掩码自编码中随机可见块污染全局表示的问题，TG-DP 把重建与对比拆成两条掩码不同的前向路径并用全量教师做蒸馏与引导掩码，在 AudioSet 检索上把 R@1 从 35.2% 提升到 37.4% 和从 27.9% 提升到 37.1%，代价是每轮预训练时间从 730 s 增加到 1045 s 且推理前需丢弃教师分支。

针对已知说话人提取任务，论文提出掩码加深滤波的 DualDF 并用逐块特征蒸馏把块数与隐层压缩，教师约 12 块 224 维、学生在 6 块 120 维等配置下仍保持目标音质，代价是背景抑制主要依赖掩码分支且轻量学生仍需教师监督。

共收录 147 篇 aaai-2026 会议论文的 Reader 深度解读

共收录 199 篇 acl-2026 会议论文的 Reader 深度解读

针对神经语音编解码器量化后情绪线索易失真的问题，AffectCodec 用量化前情感语义调制、第 1 层关系蒸馏和情绪加权语义对齐 3 步保留情绪，同时报告了在重建相似度、EMO-SUPERB 识别和零样本合成上的增益与内容保真代价。

针对整块循环把语言表示回灌到底层造成语音到语言反复的问题，BiCycle 用累积注意力对角性划分语音组与语言组并只在组内递归，在英语与法语数据上以约一半物理参数报告更低词错率，代价是仍需预训练教师与先蒸馏 30 轮再识别训练 100 轮的两阶段成本。

针对语音条件推理弱于语义等价文本条件推理的问题，CORD 用同一模型内文本分支做教师并沿音频采样轨迹做标记级加权反向 KL 与序列级裁判奖励 GRPO 优化，在仅 8 万条合成数学训练样本下把两 backbone 的平均模态差距缩小约四成，但训练域集中数学且未报告延迟与人工误判率等代价。

针对全双工口语对话模型缺可靠在线奖励的问题，论文提出把语义连贯与轮次时机分开推理再给总分的生成式奖励模型，用三阶段感知加推理加 GRPO 训练，在合成与真实人机对话上报告了更高的准确率，代价是需要合成加真实数据联合调优且尚未验证在线强化学习收益。