知识蒸馏

📄 SwiftAudio: Data-Efficient Caption-Only Distillation for One-Step Text-to-Audio Diffusion-based Generation #知识蒸馏 #扩散模型 #生成模型 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前50% | #知识蒸馏 | #知识蒸馏 | #扩散模型 #生成模型 | arxiv 👥 作者与机构 论文作者为Binh Mai, Tran Quoc Bao Le, Hung Dinh, Cong Tran，均隶属于越南邮电技术学院 (Posts and Telecommunications Institute of Technology, Hanoi, Vietnam)。通讯作者为Cong Tran (congtt@ptit.edu.vn)。 ...

📄 Thinking While Speaking: Inference-Time Knowledge Transfer for Responsive and Intelligent Conversational Voice Agents #知识蒸馏 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 6.7/10 | 后50% | #知识蒸馏 | #知识蒸馏 | arxiv 👥 作者与机构 Vidya Srinivas†，Zachary Englhardt†，Maximus Powers，Shwetak Patel，Vikram Iyer Paul G. Allen School of Computer Science & Engineering † equal contribution 💡 毒舌点评 这篇工作想法挺直接：让小模型先说话，大模型在后台思考，然后小模型把大模型的结果“塞”进自己的话里。概念上不错，解决了云模型推理慢的问题。但问题在于，你这个“塞”的效率太低了！在NaturalQuestions上，小模型从10%提升到46%听起来不错，但和大模型69%-80%的准确率一比，就知道这个“知识转移”丢了大量信息。更关键的是，你们的核心评估指标——轮级蕴含分析——结果显示大部分生成结果（约60%）被NLI模型判为“中立”。作者在讨论里拼命解释说“中立”可能是“可接受的对话润色”，但作为审稿人，我必须指出这恰恰暴露了当前评估框架的根本缺陷和系统潜在的“事实漂移”风险。论文提出的“对话填充”任务定义本身有价值，但证明其有效性的证据链（特别是从流式知识到最终生成文本的保真度）是不充分、不令人信服的。代码、模型、数据集全部未开源，在这个强调可复现性的时代，这严重削弱了工作的影响力。 ...

📄 End-to-End Voice Intent Recognition for Spontaneous Human-Drone Interaction with Naive Users #端到端 #自监督学习 #知识蒸馏 #低资源 7/10 | 创新 1.8/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7/10 | 前50% | #端到端 | #自监督学习 | #知识蒸馏 #低资源 | arxiv 👥 作者与机构 Allan Henry1,2,3, Solange Rossato1, Christian Graff2, Sylvain Huet3, Jose-Ernesto Gomez-Balderas3。 1LIG, Univ. Grenoble Alpes, Grenoble, France；2LPNC, Univ. Grenoble Alpes, Grenoble, France；3GIPSA-lab, Univ. Grenoble Alpes, Grenoble, France。 通讯邮箱：firstname.lastname@univ-grenoble-alpes.fr。 ...

📄 Speaker Identity in Non-Verbal Vocalizations: Conditional Distillation and Mixture of Experts Approach #说话人验证 #知识蒸馏 #自监督学习 9.1/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 9.1/10 | 前25% | #说话人验证 | #知识蒸馏 | #自监督学习 | arxiv 👥 作者与机构 Tzu-Chieh Wei (jeff20020302@gmail.com), Yi-Cheng Lin (even.dlion8@gmail.com), Huang-Cheng Chou, Kuan-Yu Chen, Hsin-Yen Sung (tlkagkb93901106@gmail.com), Shrikanth Narayanan, Hung-yi Lee. 机构： ...

📄 Streaming T5-based Text-to-Speech Synthesis with Limited Lookahead #语音合成 #知识蒸馏 #自回归模型 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.7/10 | 前25% | #语音合成 | #知识蒸馏 | #自回归模型 | arxiv 👥 作者与机构 作者：Muyang Du, Jason Roche, Junjie Lai 机构：NVIDIA China, NVIDIA USA 💡 毒舌点评 这篇工作像是给“语音合成流水线”加了个“预读窗口”。想法很直接——别等整句文字吐完再开始发声，看着前面几个词就能动嘴了。技术包装上，T5架构加上精心设计的掩码和对齐模块，看起来挺唬人。但仔细想想，所谓的“有限前瞻”本质上是对注意力机制的硬约束，有点“削足适履”的味道。实验部分倒是花了不少力气，各种消融和对比，但baselines的选择和训练数据的差异（特别是与SOTA对比时）让说服力打了折扣。最让人皱眉的是“开源”部分的空白，这对于一个号称实用且解决了实际问题的工作来说，有点说不过去——你解决了延迟，却不让我们方便地验证和使用，这“实用价值”就悬在半空了。 📌 核心摘要 本文提出了S5-TTS，一个基于T5的流式文本到语音合成模型，旨在解决级联LLM-TTS系统中因TTS需要完整上下文而产生的高端到端延迟问题。S5-TTS通过引入前瞻因果掩码（lookahead-causal masking）机制和基于卷积的辅助注意力模块，实现了在有限前瞻（即每个词合成时仅能看到其自身、前面所有词和k个未来词）下的词级增量语音合成。为了补偿有限前瞻造成的自然度损失，作者采用了交错多源蒸馏（Interleaved Multi-Source Distillation， IMSD）策略，利用全上下文的T5-TTS作为教师模型，同时使用配对的文本-音频数据和经过ASR过滤的合成文本数据进行监督。实验表明，当k=2时，S5-TTS在可懂度（WER）和说话人相似度（SSIM）上与全上下文T5-TTS相当，主观质量（MOS）接近，同时显著降低了端到端语音响应延迟。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：论文中使用了LibriTTS、HiFiTTS和UltraChat-200k数据集，但未提供这些数据集的具体下载链接、处理脚本或合成数据的详细获取方式。 Demo：https://s5-tts.github.io/ 复现材料：论文中提及了详细的训练配置（GPU型号、批量大小、优化器、学习率等），但未提供完整的训练代码、配置文件或检查点下载链接。 论文中引用的开源项目：T5-TTS, NeMo, phonemizer, Parakeet-TDT, E2-TTS, FireRedTTS, MaskGCT, CosyVoice, Llama 3.3 70B, Ollama。论文引用了这些项目，但未提供直接链接，也未说明S5-TTS的开源实现依赖于其中哪些项目的官方代码库。 🏗️ 方法概述和架构 S5-TTS的核心架构是基于T5的编码器-解码器Transformer，专为流式合成设计。 ...

📄 Reliable Neural-Codec Text-to-Speech by ASR Self-Verification and Distillation: Near-Zero Catastrophic Failures Across Models and Codecs #语音合成 #自监督学习 #正则化微调 #强化学习 #知识蒸馏 #低资源 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.4/10 | 前50% | #语音合成 | #自监督学习 | #正则化微调 #强化学习 | arxiv 👥 作者与机构 作者：Ali Asaria, Tony Salomone, Deep Gandhi 机构：Transformer Lab 通讯作者：deep@lab.cloud ...

📄 Teacher-Student Structure for Domain Adaptation in Ensemble Audio-Visual Video Deepfake Detection #多模态模型 #知识蒸馏 #集成学习 #Transformer #数据增强 7.4/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.4/10 | 前50% | #多模态模型 | #知识蒸馏 | #集成学习 #Transformer | arxiv 👥 作者与机构 Elham Abolhasani, Maryam Ramezani, Hamid R. Rabiee* 沙理工大学 (Sharif University of Technology) 计算机工程系 💡 毒舌点评 这篇论文试图做一件有价值的事：让深度伪造检测器“活”起来，能适应新出现的伪造技术。想法不错，但执行上更像是一个标准流程的工程化整合，而非一个能激发领域范式转变的突破。教师-学生框架（第2.3节）被作者明确指出是受[19, 33]启发，其主要创新点——针对Transformer的\(L_{AV-KL}\)损失——虽有技术意义，但贡献深度有限。最令人困惑的是，在DFDC这个公认复杂的数据集上，经过精心设计的学生模型相比教师模型AUC提升仅4.09%，这是否真正证明了该框架的有效性，还是只是数据不足导致的勉强适应？论文试图通过解释性（第5.4节）和鲁棒性（第5.5节）分析来增加亮点，但这些分析更多是定性展示，缺乏更严谨的量化支撑。总体而言，这是一篇扎实的、但缺乏足够想象力和突破性贡献的论文，适合发表在会议的Poster环节，而非获得广泛关注的Oral。 ...

📄 Decoding Insect Song: A Multitask Semisupervised Orthoptera Bioacoustic Classifier #音频分类 #生物声学 #多任务学习 #知识蒸馏 #自监督学习 #数据集 8.7/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 8.7/10 | 前50% | #音频分类 | #多任务学习 | #生物声学 #知识蒸馏 | arxiv 👥 作者与机构 奥尔加·伊苏波娃（Olga Isupova），丹尼尔·库津（Danil Kuzin），埃拉·布朗宁（Ella Browning），汤姆·米尔斯（Tom Mills），史蒂文·里斯（Steven Reece）。 作者团队来自剑桥大学（University of Cambridge）。 💡 毒舌点评 这篇论文像一份精心包装的“集成学习套餐”，将多任务、自监督、知识蒸馏等流行技术打包成一个针对特定生态监测问题的解决方案。其优点在于目标明确、工程实现完整，并提供了新的数据集。然而，其主要短板在于方法论创新性不足——本质上是现有技术的组合，缺乏机器学习层面的理论或架构突破。实验对比过于单一，仅与一个通用模型比较，未能充分验证框架内各组件的贡献和必要性。绝对性能（F1=0.34）虽然对比基线有提升，但在实际野外多物种重叠场景下仍然很低，论文对此瓶颈分析不足。此外，关于“迁移能力”的声明（测试集来自未见站点）可能因训练数据来自同一地区（牛津郡）的少量站点而存在潜在偏倚，实际泛化能力有待在更广泛地理和生态条件下验证。 📌 核心摘要 针对被动声学监测（PAM）中直翅目昆虫自动分类面临的标注数据稀缺、领域偏移以及现有工具非通用等问题，本文提出了PULSE，一个半监督、多任务学习框架。该框架联合优化三个损失函数：1）基于弱标签数据的监督分类损失（多标签二元交叉熵）；2）通过知识蒸馏与预训练的通用鸟声模型（BirdNET）嵌入对齐的生态先验损失（L2距离）；3）利用大量无标签野外录音进行自监督学习（Bootstrap Your Own Latent, BYOL）以适应本地声景的损失。通过主动学习，从野外数据中获取少量标签，进一步提升了模型性能。实验表明，PULSE在仅使用“物种库”标签时，其宏F1分数（0.21）显著优于直接使用通用模型Perch 2.0（0.07）；当加入少量野外标注数据后，其宏F1达到0.34，性能与使用同样数据微调的Perch 2.0（0.33）持平。论文还展示了学习到的嵌入空间编码了有意义的生态结构，并提供了交互式可视化工具用于生态发现。 ...

📄 Missing-Token Prompted Reliability-Aware Fusion for Robust Polyglot Speaker Identification #多模态模型 #说话人识别 #知识蒸馏 8.6/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 8.6/10 | 前25% | #说话人识别 | #知识蒸馏 | #多模态模型 | arxiv 👥 作者与机构 Peng Jia, Li Dai, Jia Li, Zhenzhen Hu, Ye Zhao, Richang Hong Hefei University of Technology 💡 毒舌点评 这篇论文就像一份精心包装的竞赛技术报告。它准确地解决了POLY-SIM 2026挑战赛中定义明确的工程问题——在特定数据集上处理面部缺失的多语言说话人识别，并取得了优秀的竞赛成绩（第二名）。然而，从顶级学术会议的视角审视，其学术贡献显得相当单薄。所谓的“核心创新”——可学习的缺失token和可靠性感知融合——在更广泛的多模态学习文献中已非新鲜事，论文未能提供足够的理论深度来证明其在该任务上优于这些通用方法的原理。关键模块（如可靠性评分器）的设计和监督方式含糊不清，实验评估完全局限于单一竞赛数据集，且基线设置过于简单，使得“有效性”的证明力度大打折扣。论文更像是一份成功的工程优化总结，而非一篇提出具有广泛启发性的新原理或新技术的学术论文。 ...

📄 Fast Speech Foundation Model Distillation Using Interleaved Stacking #知识蒸馏 6.6/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.7/1.5 ✅ 6.6/10 | 前50% | #知识蒸馏 | #知识蒸馏 | arxiv 👥 作者与机构 作者：Eungbeom Kim, Kyogu Lee 机构：Seoul National University 💡 毒舌点评 这篇论文像是一次精巧的“缝合”实验。核心思想——将复制的层插入原始层旁边——逻辑清晰，直觉上合理，也确实解决了现有堆叠方法在SF蒸馏上的一个痛点（层位置错乱）。但创新上限受限，更像是对既有堆叠策略的一种有效改进而非范式革新。实验做得很扎实，在标准benchmark上跑了不少对比，结论也算有说服力。最大的槽点在于，开源方面几乎为零，这让可复现性大打折扣，也削弱了实际影响力。对于追求“可复现、可检验”的顶会标准，这是一个显著的短板。 📌 核心摘要 本文研究如何加速语音基础模型的知识蒸馏训练。现有的堆叠（Stacking）训练加速方法（如渐进堆叠、MIDAS）虽然能减少训练成本，但会导致模型在下游任务上的性能下降，原因是这些方法会破坏模型层在训练阶段间的位置一致性，这对于编码了层特定知识的语音基础模型尤其不利。为此，作者提出了一种新的堆叠方法：交错堆叠（Interleaved Stacking）。该方法在每次扩展模型深度时，并非复制连续的K个层堆叠到顶部，而是从当前模型中选择每b个层（共K个）进行复制，并将每个复制的层紧接着其原始层插入。这一设计确保了层位置在训练过程中保持一致。此外，这种结构使得中间层知识蒸馏损失能够被自然地、稳定地集成。在SUPERB基准的多项任务（PR， ASR， SF， SID）上的实验表明，交错堆叠在两种调度策略下都显著优于渐进堆叠和MIDAS基线，并且在某些任务上甚至达到了与或优于不使用堆叠的完整训练模型的性能，同时实现了高达1.24倍的训练加速。 🔗 开源详情 代码：论文中未提供代码仓库或链接。 模型权重：论文中未提供预训练模型权重下载链接。 数据集： LibriSpeech（训练集）：标准开源数据集，可通过 HuggingFace Datasets (https://huggingface.co/datasets/librispeech_asr) 等渠道获取。 SUPERB（评估基准）：标准开源评估基准，项目主页为 https://github.com/s3prl/superb。 Demo：论文中未提及。 复现材料：论文详细描述了实验设置（优化器、学习率、批次大小、调度策略等），但未提供具体的配置文件、脚本或检查点。 论文中引用的开源项目（非本文贡献）： HuBERT：作为教师模型，引用自 https://huggingface.co/facebook/hubert-base-ls960 和 https://github.com/facebookresearch/speechbrain。 DistilHuBERT：作为基线，相关代码见 https://github.com/facebookresearch/audiocraft 或其原始仓库。 FitHuBERT：作为基线，代码见 https://github.com/idiap/fit-hubert。 ARMHuBERT：作为基线，代码见 https://github.com/idiap/armhubert。 DPHuBERT：作为基线，代码见 https://github.com/speechbrain/speechbrain 中的相关实现。 🏗️ 方法概述和架构 本文提出的训练加速框架结合了知识蒸馏与交错堆叠的阶段性训练策略，旨在加速语音基础模型的蒸馏过程。核心架构由三部分组成：教师模型、学生模型以及训练框架。 ...