知识蒸馏

针对图表与语音数值推理中远端接口只收固定媒体的问题，ReCast 用本地文本中间记录改写实体主题并映射数值再重建同模态替身，远端只做选操作数写程序、本地恢复原始操作数后执行，在 4000 个 ChartQA 与 NMSQA 样本上保留 92.43% 远端原生精度而求解器侧泄露为 7.95%。

针对音频语言模型怕噪声、怕遮挡、怕注入文本误导的问题，AnchorPrompt 冻结模型只训练解码器输入处的 8 个软提示向量，用干净输入的教师答案做自蒸馏目标并在证据不足时学拒答，报告显示九组干净准确率中有六组提升且重度破坏下幻觉回答大幅下降，代价是拒答目标的零样本外推仍有两组混响一致性下降。

针对一步零样本语音转换中内容编码器耗时约为主流程十倍的问题，MeanVoiceFlow2 用教师 MeanVoiceFlow 做转换蒸馏并联合训练轻量内容编码器与平均速度网络，再以真实数据重建、扩散判别器混合对抗和教师增强条件扩充提升真实感与解耦，在 VCTK 上自然度高于教师且推理约快 9 倍、说话人相似度基本持平。

问题是扩展新模态时文本检索遗忘与模型膨胀，方法选择是冻结文本主干并以其自身对密集级联标题的嵌入为教师目标，只训练投影器与编码器 LoRA，最强证据是 0.9B 保持 49.57 文本分并覆盖五新增模态、2.3B 以 51.39 总体均值超过闭源对照 49.51，主要代价是 0.9B 在语音音频图像视频上落后于更大开放多模态基线。

针对 MOS 预测器跨域排序不稳的问题，论文用小规模已有人工评分拟合逐句自适应路由以合并四个教师并在 807k 无标注语音上蒸馏出单个 wav2vec 2.0 学生，在 URGENT 上 Spearman 达到 0.802、在 mos260 上达到 0.636，代价是目标上限仍受教师集成约束且绝对分值向中间压缩。

针对环境噪声与竞争语音干扰下的音频视觉问答，OP-CAD 用干净音频视觉加验证答案的冻结特权教师，在学生受损输入生成的同一前缀上做在线蒸馏，并按音频移除与损坏两路敏感度加权，在受损平均准确率与配对保持率上超过同教师的均匀在线蒸馏，代价是每样本四路教师前向与三阶段课程训练的额外开销。

针对混响导致跨房间泛化下降的问题，PG-SELD 用相同声场景的自由场表示作参照对混响分支做特征级蒸馏与课程训练，在 STARSS23 真实录音上报告了一致改善，但混响表数值因证据绑定不合格本文不复述具体指标值。

针对训练有 16 kHz 高分辨率音频而部署只有 1.25 kHz 低分辨率音频的活动识别错位，RAST 先把教师表示压缩为离散令牌与邻域结构做预热再做局部难负例对齐，在 SAMoSA 和 AudioIMU 上相对低分辨率基线提升约 6.1% 至 7.8%，代价是仍需配对高低分辨率训练数据与三阶段流程。

Tacit-TTS 针对 IndexTTS2 自回归语义解码慢且已有并行方案依赖参考文本的问题，用掩码非自回归生成加免训练语速估计与重流蒸馏实现免文本克隆，跨语言证据显示英文目标相似度 0.789 且词错率 0.10%，代价是中文指标与内容准确率仍低于教师模型。

针对流匹配语音合成多步积分代价高的问题，论文用出发点局部微分恒等式做蒸馏、用一致性代价图做全局步数规划、用四步模型做对齐自蒸馏，最强证据是 Seed-TTS 上一步达到 1.80% 词错率接近 32 步教师的 1.76%，代价是说话人相似度和预测质量仍低于教师。

该研究在 ASPED 上以视频教师蒸馏音频学生，比较十种蒸馏配置，发现宏准确率小幅上升主要来自无行人类准确率上升与行人召回下降的操作点移动，PR-AUC 几乎不变，而选择性屏蔽行人样本的信任过滤蒸馏强化了这一权衡而未提升平均排序能力。

共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读

SAGE 用复数 STFT 上的三阶段 SwinV2 变分自编码器加延迟蒸馏 CLAP 语义，在 105M 参数和 Stable Audio Open 同级推理成本下达到 SAME-L 的主观质量并在客观重建与十九个探测任务上领先，代价是两阶段大算力训练与对 SDR 类样本精确指标的让步。

针对双麦克风相近方向下空间线索不可靠导致轻量双通道模型退化的问题，论文用空间不变的单通道教师加动态仲裁蒸馏约束双通道学生，在 0°–15°难例上提升质量而大角度基本不掉点，代价是训练期要多跑一个冻结教师且只在教师更好时才蒸馏。

针对全双工语音模型长时交互中声学键值缓存持续膨胀的问题，该研究在听音空隙内增设转写旁路并驱逐旧声学状态，在十分钟会话上将峰值流式缓存从 11.35K 降至 4.02K 并保持实时处理，但反通道接管率有所上升。

针对音频伪造检测标注少、跨域差的问题，ADD-DINO 先在 100 万无标注音频上做全局-局部非对比自蒸馏预训练、再用 20% 标注微调教师骨干，在 19LA 上接近全量监督并在跨域上把平均等错误率从 15.31% 降到 12.25%，代价是仍需大规模预训练与微调增强且未公开代码权重。

针对单通道无监督去混响缺少干净参考的问题，ARTT 先用随机合成混响构造可训练的加重混响到观测混响映射，再用均值教师非对称蒸馏提纯，并在 WSJ0CAM-DEREVERB 上以 7.3 dB 的 SI-SDR 和 2.61 的 PESQ 超过已有无监督基线，代价是两阶段流程与仿真参数依赖。

针对音频推理数据少且依赖闭源模型生成的问题，论文用四阶段全开源流水线 Cogito-Pipe 构造 545k 条推理数据并以自蒸馏微调 Qwen3-Omni-Thinking，在 MMAR 上平均准确率达到 71.70% 并提升推理质量，但混合域与强闭源模型的差距与评测单一性仍是代价与限制。

针对多角色长篇有声书语义连贯与情感可控难兼得的问题，Audiobook-CC 用前后文建模加风格解耦加自蒸馏，在章节级取得 M-MOS 为 4.25 分与对话 S-MOS 为 4.11 分，代价是三阶段大数据训练与章节边界后文缺失时的空标记回退。

针对持续广义类别发现中声音频谱重叠与基类偏置问题，论文用实例自适应正则加高斯混合自适应阈值与指数滑动平均动态教师做伪标签稳定，在 ShipsEar 上累计平均精度报告 74.14%，代价是新类精度仍低于 Happy。