知识蒸馏

📄 On-Policy Self-Distillation for Multi-Dialect ASR: Mastering Dialects, Retaining Mandarin 标签：#语音识别 #知识蒸馏 #多语言 #持续学习 #领域适应 7.0/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 1.1/1.5 ✅ 7.0/10 | 前50% | 文档类型：方法研究 | 评分置信度：中 | #语音识别 | #知识蒸馏 | #多语言 #持续学习 | arxiv 👥 作者与机构 第一作者：Shuiyuan Wang（Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China） 通讯作者：Lei Xie（Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China） 作者列表：Shuiyuan Wang（ASLP@NPU，西北工业大学计算机学院）、Bingshen Mu（ASLP@NPU，西北工业大学计算机学院）、Pengshen Zhang（WeNet Community）、Chengyou Wang（ASLP@NPU，西北工业大学计算机学院）、Yujie Liao（ASLP@NPU，西北工业大学计算机学院）、Chengdong Liang（WeNet Community）、Binbin Zhang（WeNet Community）、Qiangze Feng（NEXDATA TECHNOLOGY INC.）、Lei Xie（ASLP@NPU，西北工业大学计算机学院） 💡 毒舌点评 本文抓住了多方言 ASR 中“学会方言、保住普通话”这一真实痛点，并用同一套 refinement 数据下的 Continued SFT vs. OPSD 对照实验给出了相当有说服力的证据：普通话平均 CER 从 4.43% 降到 3.27%，说明最后阶段的目标函数选择确实关键。短板也很明显：OPSD 本身并非新方法，增量主要来自将其搬进 ASR 场景和阶段化工程组合；且论文并未与专门的方言 ASR 系统或 adapter/MoE 方案直接比较，公共方言集合上的提升幅度也偏小，距离突破性贡献仍有距离。CPT 消融虽然证明了先做继续预训练的必要性，但这一结论本身并不意外——把普通话混合数据先跑一圈能缓和后续方言 SFT 的覆盖损伤，属于常规持续学习直觉的验证。 ...

📄 RT-SEMamba: Real-Time Speech Enhancement Mamba via Progressive Knowledge Distillation 标签：#语音增强 #知识蒸馏 #流式处理 #实时处理 #模型压缩 6.6/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 0.8/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 6.6/10 | 前50% | 文档类型：方法研究 | 评分置信度：中 | #语音增强 | #知识蒸馏 | #流式处理 #实时处理 | arxiv 👥 作者与机构 论文未提供作者-机构的逐人数字映射；脚注机构列表为：Academia Sinica, Taiwan；National Taiwan University, Taiwan；Kore University of Enna, Italy；University of Palermo, Italy；NVIDIA。 ...

📄 UniSwap: Streaming Audio-Visual Identity Swapping for Talking Videos 标签：#音视频生成 #扩散模型 #知识蒸馏 #参数高效微调 7.8/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.8/10 | 前25% | 文档类型：方法研究 | 评分置信度：中 | #音视频生成 | #扩散模型 | #知识蒸馏 #参数高效微调 | arxiv 👥 作者与机构 第一作者：Yuxuan Zhang（The Chinese University of Hong Kong；Qwen Applications Business Group of Alibaba） 通讯作者：Liwei Wang（The Chinese University of Hong Kong） 作者列表：Yuxuan Zhang（The Chinese University of Hong Kong；Qwen Applications Business Group of Alibaba）、Haozhong Xiong（Qwen Applications Business Group of Alibaba）、Jiayi Song（Qwen Applications Business Group of Alibaba）、Jinpeng Yu（Qwen Applications Business Group of Alibaba）、Yang Shi（Qwen Applications Business Group of Alibaba）、Jiaming Liu（Qwen Applications Business Group of Alibaba）、Ruihua Huang（Qwen Applications Business Group of Alibaba）、Liwei Wang（The Chinese University of Hong Kong） 💡 毒舌点评 这项工作把换脸、语音转换、流式扩散蒸馏和 RoPE 缓存管理拼成了一个工程上相当完整的统一框架，长视频一致性消融也做得比多数 demo 论文扎实。但核心贡献更接近系统集成而非方法突破，且 Stage 3 蒸馏后在音画同步、视频美学和图像质量上反而低于 Stage 1/Stage 2；作者更多强调身份与语音质量改善，对蒸馏带来的同步和视觉质量回退解释不足。代码仓库仅通过项目主页提供，权重、训练数据和数据合成管线未公开，让“首个联合替换框架”的复现与检验仍受限。 ...

📄 DINO-A: Adapting Self-Distillation Vision Transformers to General Audio Representation Learning 标签：#音频分类 #自监督学习 #Transformer #知识蒸馏 #预训练 6.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 ✅ 6.2/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #音频分类 | #自监督学习 | #Transformer #知识蒸馏 | arxiv 👥 作者与机构 第一作者：Tomasz Radzikowski（Warsaw University of Technology） 通讯作者：未披露 作者列表：Tomasz Radzikowski、Mateusz Modrzejewski、Przemysław Rokita（均为 Warsaw University of Technology） 论文状态：Preprint，已接收于 ICAISC 2026，最终版将发表于 Springer LNAI。 💡 毒舌点评 把 DINO 以最小改动搬到通用音频，并用与 BYOL-A v2 完全对齐的 FSD50K 预训练和 EVAR 线性探针评测做了一次干净的算法级对照，这是论文最有价值的贡献。但整套方法没有任何针对音频的新机制，最佳变体平均落后 BYOL-A v2 达 11.96 个百分点；作者把差距归因于 65,536 维投影在 FSD50K 尺度下数据效率不足和多裁剪的局部-全局语义不匹配，却既没有对投影维度、多裁剪开关做消融，也没有在 AudioSet 上验证尺度假设，因此“机制解释”更像事后假设而非实证结论。 ...

📄 CuteTTS: Efficient and High-Quality Speech Synthesis via Autoregressive Modeling of Continuous Latents 标签：#语音合成 #自回归模型 #流匹配 #知识蒸馏 #零样本 7.0/10 | 创新 1.4/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 7.0/10 | 前50% | 文档类型：系统技术报告 | 评分置信度：高 | #语音合成 | #自回归模型 | #流匹配 #知识蒸馏 | arxiv 👥 作者与机构 第一作者：Yuqian Zhang（上海创新研究院、复旦大学；论文脚注标注“实习期间在 OPPO 完成”） 通讯作者：Shuang Chen（上海创新研究院、复旦大学） 作者列表： Yuqian Zhang（上海创新研究院、复旦大学；OPPO 实习） Yao Shi（OPPO AI Center） Kexin Huang（复旦大学） Botian Jiang（上海创新研究院、复旦大学） Zhe Xu（上海创新研究院、复旦大学） Yiwei Zhao（上海创新研究院、复旦大学） Min Liang（OPPO AI Center） Shuang Chen（上海创新研究院、复旦大学） Xipeng Qiu（上海创新研究院、复旦大学） 机构说明：论文仅给出三个机构编号（1=上海创新研究院、2=OPPO AI Center、3=复旦大学），未提供更细的实验室/部门层级，未说明的内容不额外猜测。 💡 毒舌点评 CuteTTS 的工程完成度确实亮眼——0.2B 参数在 49ms 首包延迟下交出 WER 2.16%/SIM 78.9 的 LibriSpeech 成绩，guidance–step 蒸馏把双分支 CFG 与 10 NFE 压成单分支 4 NFE 的思路也值得后续工作借鉴。但审稿人最想追问的是：SIM 评测器与被蒸馏的说话人编码器同属 WavLM 家族，表 1 中 78.9 对 VoxCPM2 的明显领先有多少来自表征空间亲缘性而非真实音色还原？全文没有 demo 链接、没有显著性检验、主观评测仅 7 名标注者×400 比较项，却要支撑“high-quality synthesis”这个核心卖点，证据链偏细。 ...

📄 ReLMCodec: Designing Predictable Speech Tokens from Pre-Quantization Phoneme Structure 标签：#语音编码 #端到端 #自监督学习 #知识蒸馏 7.7/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 1.1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.7/10 | 前25% | 文档类型：方法研究 | 评分置信度：中 | #语音编码 | #端到端 | #自监督学习 #知识蒸馏 | arxiv 👥 作者与机构 Zixiang Wan：北京大学深圳研究生院（北大-腾讯合作研究，第一作者，完成腾讯实习期间工作） Xusheng Yang：北京大学深圳研究生院 Zheng Wang：腾讯 Peiji Yang：腾讯（通讯作者） 机构：北京大学深圳研究生院、腾讯 通讯作者：Peiji Yang（peijiyang@tencent.com） 论文脚注说明“本工作完成于腾讯实习期间”，对应作者标注 *。 💡 毒舌点评 这篇论文最聪明的地方是先把“音素结构清晰度”与“token 可预测性”之间的正相关做成一个受控诊断，再顺势把结论变成方法：既然音素结构有利于预测、但不利于重建，那就用冻结 SSL 特征当锚点、用浅层残差补声学、再用训练-only 教师损失精炼量化表示。整个“preserve–control–refine”链条在逻辑上是自洽的，消融也做得相当完整，650/800 bps 下的重建与下游 TTS 提升也确实可见。但论文的软肋同样明显：核心论点是“相关性”而非因果；基线对比使用 released checkpoint 对自训练 checkpoint，公平性存疑；音素分析只覆盖 50 Hz 英文 LibriSpeech，无噪声、无多说话人、无多语言验证；教师选择只比较了 W2v-BERT 2.0 和 WavLM-Large 两个 SSL 模型；代码和权重还只是“录用后发布”的承诺。更微妙的是，标题和摘要强调的 P-ACC 提升（5.12→9.65）来自 P-VQ 代理量化器，而原生 N-ACC 只有 8.72%，且基线原生 N-ACC 未报告，因此“frontier improvement”在严格意义上有一部分是代理指标上的提升。这仍然是一篇方法动机清晰、实验扎实的强工作，但离“可复现、可部署、可外推”还有距离。 ...

📄 Cloud-Boosted Low-Compute Multi-Channel Speech Enhancement 标签：#语音增强 #知识蒸馏 #多通道 #实时处理 #高效推理 6.0/10 | 创新 1.2/2 | 严谨 1.1/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 ✅ 6.0/10 | 前50% | 文档类型：方法研究 | 评分置信度：中 | #语音增强 | #知识蒸馏 | #多通道 #实时处理 | arxiv 👥 作者与机构 第一作者：Xulin Fan（University of Illinois Urbana-Champaign, USA） 通讯作者：未说明（论文未标注通讯作者） 作者列表：Xulin Fan（University of Illinois Urbana-Champaign）、Juan Azcarreta（Meta Reality Labs Research）、Ashutosh Pandey（Meta Reality Labs Research）、Jesus Alvarez（Meta Reality Labs Research）、Ke Tan（Meta Reality Labs Research）、Jacob Donley（Meta Reality Labs Research）、Ritwik Giri（Meta Reality Labs Research）、Buye Xu（Meta Reality Labs Research） 💡 毒舌点评 把服务器端 SpatialNet 的延迟增强谱、中间层特征和空间统计量一起“搬”到边缘端，确实让 TinyGRU+MCWF 在合成低 SNR 测试集上获得 3.77 dB 和 3.49 dB 的 SI-SDR 提升，而边缘端参数只增加约 1.5%、计算量只增加约 2.4%，这个端云协作 pipeline 有工程启发。但实验基本局限于同一套 Pyroomacoustics 合成 RIR 与固定延迟仿真：没有与原始 Knowledge Boosting 直接对比，没有真实设备、动态网络延迟、丢包或带宽测试，也没有统计显著性检验。更刺眼的是 PESQ 没有随 SI-SDR 同步上升，完整模型的 PESQ 甚至低于中间消融配置。目前的结论更适合表述为“仿真环境下端云协作增强的可行性验证”，而非成熟的部署级方案。 ...

📄 Equivariant Music Transformer 标签：#音乐生成 #知识蒸馏 #Transformer #音频理解 #模型评估 8.6/10 | 创新 1.4/2 | 严谨 1.5/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1/1.5 🔥 8.6/10 | 前25% | 文档类型：方法研究 | 评分置信度：高 | #音乐生成 | #知识蒸馏 | #Transformer #音频理解 | arxiv 👥 作者与机构 第一作者：Zixun Guo（论文正文未给出完整作者栏；致谢表明其为UKRI Centre for Doctoral Training in Artificial Intelligence and Music博士生，结合伦理审查单位推断为Queen Mary University of London） 通讯作者：未说明 作者列表：Zixun Guo、Simon Dixon（其中Simon Dixon依据现有元数据；所给论文正文中未出现完整作者名单，无法从文本独立确认） 💡 毒舌点评 论文最有价值的贡献是一个反直觉且可复现的实证发现：标准音乐Transformer的等变性不会随规模扩大和训练步数增加而涌现，反而持续退化。EMT用共享权重的辅助分支做自蒸馏，在分布空间直接施加等变约束，方法简单、动机清晰，且在内部消融、外部基线对比和听感测试中都给出了一致验证。问题是训练关键超参数披露不足，batch size和内部模型训练步数均缺失；外部基线在数据、架构、tokenization上与内部模型不完全可比；Top-1/Top-5等变指标又和训练时的KL散度目标高度同源，削弱了“等变正则化全面提升生成能力”这一强声明的独立性。建议作者公开完整训练配置和推理采样参数。 ...

📄 PASE: Leveraging the Phonological Prior of WavLM for Low-Hallucination Generative Speech Enhancement 标签：#语音增强 #知识蒸馏 #自监督学习 #生成模型 #预训练 8.1/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 1.2/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1/1.5 🔥 8.1/10 | 前25% | 文档类型：方法研究 | 评分置信度：高 | #语音增强 | #知识蒸馏 | #自监督学习 #生成模型 | arxiv 👥 作者与机构 第一作者：Xiaobin Rong（未说明） 通讯作者：未说明 作者列表： Xiaobin Rong（未说明） Qinwen Hu（未说明） Mansur Yesilbursa（未说明） Kamil Wojcicki（未说明） Jing Lu（未说明） 机构信息：论文可见部分未直接给出作者所属机构名称；作者名后虽有上标，但机构列表未出现在当前提供的文本中。致谢仅提到国家自然科学基金（No. 12274221）与长三角科技创新共同体联合研究项目（No. 2024CSJGG1103），无法据此确认作者单位。 💡 毒舌点评 PASE把生成式SE中容易被忽视的“幻觉”拆成语言内容错误与声学特征漂移，并用“去噪WavLM+双流声码器”在连续表示空间里给出一个低算力、可复现、WER低至7.49%的完整方案，确实比多数“只拼音质”的生成式SE更接近落地。可惜，“音系先验来自掩码预测”的论证高度依赖MRS/RFS这类代理探针，且没有人类听感评测和SNR难度分层，导致“高质量、低幻觉”的结论仍隔着一层证据窗户纸。 ...

📄 StuPASE: Towards Low-Hallucination Studio-Quality Generative Speech Enhancement 标签：#语音增强 #流匹配 #自监督学习 #知识蒸馏 #鲁棒性 7.0/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.1/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.1/1.5 ✅ 7.0/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音增强 | #流匹配 | #自监督学习 #知识蒸馏 | arxiv 👥 作者与机构 第一作者：Xiaobin Rong（南京大学；xiaobin.rong@smail.nju.edu.cn） 通讯作者：论文未明确标注；按末位通讯惯例推断为 Jing Lu（南京大学；lujing@nju.edu.cn），但正文未声明 作者列表：Xiaobin Rong、Jun Gao、Zheng Wang、Mansur Yesilbursa、Kamil Wojcicki、Jing Lu 机构：1. Key Laboratory of Modern Acoustics, Nanjing University；2. Collaboration AI, Cisco Systems, Inc.；3. NJU-Horizon Intelligent Audio Lab, Horizon Robotics 论文未提供作者与机构的逐人对应表。 💡 毒舌点评 用干目标微调替代含早期反射的 PASE 训练目标，再拿流匹配换掉 GAN 声学生成器，方向直接，消融也给出了可量化的 UTMOS 和 dWER 提升，这是实打实的增量。但“低幻觉”主要靠 dWER/LPS/SBS 这类代理指标支撑，缺少对具体幻觉内容的细粒度分析；同时 SpkSim 在多数客观对比中低于 SenSE，和论文强调的“说话人一致性”优势之间存在张力。论文摘要中“outperforming state-of-the-art”的说法也偏强：DNS1 no-reverb 下 UTMOS 低于 AES-V2，dWER 高于 PASE 和 TF-GridNet。 ...