知识蒸馏

论文要解决音频监督稀疏且不稳定导致的联合音视频蒸馏失衡，用更干净的视觉条件、更多组采样和按失配程度加权来稳定音频学习，在 JavisBench 上保持音频质量的同时明显提升视频质量。

论文要解决已训练好的文本图像模型如何新增语音输入并保留推理与工具能力，采用两阶段适配与按数据源区分的交叉熵和前向 KL 监督，在语音推理、对话体验与完整任务上验证效果，代价是本地在线教师与大规模语音暴露量的训练开销。

针对藏在图像音频视频中的间接注入，ERASE 用抹掉注入区域后的视图做教师进行在轨自蒸馏，在评测基准上把攻击成功压到接近零，同时把被攻击输入的任务准确率拉回到接近无防御干净输入的水平，但结论只在非自适应注入和区域可分离的条件下成立。

论文针对端侧设备装不下深层语音识别模型的问题，用表示相似性分组把深编码器折叠成少数共享块循环执行，再用蒸馏和用户条件适配恢复精度，代价是循环次数决定的计算量仍需保留且极小块数下仍有残余误差。

针对同屏出现目标与干扰声时场景级视频查询含混的问题，SelectSep 用文本加单点坐标改造视频编码器再微调分离器，在标准集和同屏干扰集上用六项指标验证了目标选择性提升，尤其在语义相近混合上更明显，但跨类同屏上仍不及纯文本基线且依赖点击标注。

论文把文档、自然图像、音频和视频的十个解析任务统一为带空间与时间锚点的结构化记录，用共享权重的文本初始化编码器做感知、用统一模式做输出，并用自演进的按词角色蒸馏做后训练，在文档基准上达到 96.96 分、在多模态解析基准上以 75.08 分领先开源模型，优势集中在音频和视频，但代价是 55B 稠密解码与自回归输出的推理开销。

EmbeddingGemma 2 用 271M 双向主干加视觉与音频编码器把交错多模态输入映射为 768 维单位向量，经文本预微调、多模态预微调和对比微调三阶段学习，在代码、图像视频文档和音频检索上建立新的参数效率前沿，且支持截断与量化部署。

Live-OPSD 让流式策略先自己生成回应，再用训练时特权提示给出分布目标并做决策感知筛选，在 LiveProBench 30B 上达到 59.64 分，但结论只在同协议同数据受控对比下成立。

TAC2 先用弱教师在时间轴上拼出带说话人的结构化描述，再用小样本专家引出韵律属性并蒸馏为统一模型，让冻结文本模型接力推理、让扩散模型按时间重建，在口语感知与可控合成上得到可验证的提升。

针对条件可逆网络匿名化中三元组损失靠破坏频谱也能满足的捷径，论文用直接约束匿名频谱的锚损失与范围损失加蒸馏得到的梅尔域验证器做训练，在 38 个未见说话人上把攻击者等错误率从 2.83% 提高到 26.31%，代价是词错误率升到 11.75%，而正确密钥恢复仍达到声码器往返上限 94.9%。

论文用只存低维声学特征的可穿戴徽章加离线前景说话人切分得到说话负荷与活跃度，在 16 人四个月的追踪中发现办公室说话更多，而办公室说话多与更高压力和更低自评效率相关，代价是低维特征的切分误差与小样本相关性结论的外推限制。

论文用闭环仿真量化了全双工语音模型在 10 分钟会话中的响应、内容和音色退化，再用特权上下文自蒸馏把短会话能力迁移到长会话，并用双分辨率上下文把远期历史压缩成要点记忆，在训练时长内和超长 20 分钟会话中都验证了稳定性提升与显存增长下降的代价。

针对多流同时语音到语音翻译在推理时难调延迟的问题，DIAL-S2ST 用带前视的冻结教师蒸馏无前视学生并用单 LoRA 按尺度控制早说，在法英 Hibiki 上以约 10 小时源语音实现可调的延迟与质量权衡。

针对生成式目标说话人提取训练收敛慢的问题，MG-REPA 在中间层同时做帧级内容对齐与 utterance 级说话人对齐并做时间归一化解耦，在 Libri2Mix 上以 750 轮达到 2000 轮基线的质量并把 OVRL 与 PESQ 的收敛轮数分别缩短到约三分之一与二分之一。

Ambit 用可执行的场景计划连接自回归规划与整流流渲染，并配合全向恢复与通道间监督的连续变分自编码器和联合在轨自蒸馏，在语音音乐环境声的生成与编辑评测中提升内容与空间指标，但结论只在约 15 秒内、四声道一阶 Ambisonics 与原文数据划分下成立。

AD-Mamba 针对长而稀疏且有噪声的音频分类，用先 CNN 后 Transformer 的多阶段蒸馏把局部谱时纹理和全局语义判别能力转入 Mamba 主干，在 AudioSet 上以 30M 参数达到 50.3% mAP 并在长音频与噪声填充下保持更稳的精度，代价是三阶段共 400 轮蒸馏训练与对强教师的依赖。

针对音视频类别增量学习中新类冲掉旧类边界的问题，冻结三种多模态基础模型的音视频编码器，只训练音频引导视觉的注意力模块和分类器，并用特征与输出两级蒸馏锚定旧状态，在三个基准上提高了平均准确率并降低了遗忘，但结论依赖固定的任务划分、记忆样本量和训练预算。

长音频会产生过密的音频令牌并推高解码代价，AudioScorer 用问题感知的打分器学习每个令牌的保留优先级并做 Top-K 剪枝，在 10% 保留率下保住了语音内容任务，额外打分开销约占预填充计算的 0.4 到 0.9%。

论文以 Gemma-4 12B 和 Inkling-Small 为对象，验证其早期 Transformer 层是否像独立音频与图像编码器一样先各自编码再融合，依据是换跨模态上下文后表征不变、独立编码到 12 层左右仍保持问答精度、层级信息演化与常用语音编码器相似，但细粒度语音与部分视觉任务仍明显落后。

针对越南语多说话人条件流声学模型直接一步采样质量崩溃的问题，MixiSpeech 用 10→4→2→1 课程让一步学生拟合冻结教师的局部积分终点，在 100 组共享文本-说话人评测上恢复到接近 10 步教师的质量，而声学向量场评估降为 1 次、端到端耗时从 0.0662 s 降到 0.0312 s。