知识蒸馏

📄 REST: Diffusion-based Real-time End-to-end Streaming Talking Head Generation via ID-Context Caching and Asynchronous Streaming Distillation #音视频生成 #扩散模型 #知识蒸馏 7.3/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 0.7/1 | 影响 1.1/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.3/10 | 前50% | #音视频生成 | #扩散模型 | #知识蒸馏 | arxiv 👥 作者与机构 第一作者：Haotian Wang（中国科学技术大学） 共同第一作者：Yuzhe Weng（中国科学技术大学） 通讯作者：Jun Du（中国科学技术大学） 作者列表：Haotian Wang (中国科学技术大学), Yuzhe Weng (中国科学技术大学), Jun Du (中国科学技术大学), Haoran Xu (iFLYTEK), Xiaoyan Wu (iFLYTEK), Shan He (iFLYTEK), Bing Yin (iFLYTEK), Cong Liu (iFLYTEK), Qingfeng Liu (中国科学技术大学/iFLYTEK，机构标注为双隶属） 💡 毒舌点评 这篇论文是diffusion-based talking head领域一次扎实的系统工程突破，首次在单卡上实现了端到端扩散模型的实时流式生成。ID-Context Cache将KV缓存思想优雅地适配到扩散Transformer的半自回归场景中，而异步流式蒸馏（ASD）策略通过信息论对比和运动平滑约束，有效缓解了流式生成固有的误差累积问题，实验效果确实亮眼。然而，冷静审视后不难发现，其对语音/音频领域本身的贡献相当有限——SpeechAE基本承袭READ架构，核心驱动力来自Whisper特征，并未在声学建模或音频表征层面提出新见解。净输入/输出的思维来看，论文解决的核心问题（实时性、流式）和采用的关键技术（Cache、蒸馏、高压缩VAE）均是视频生成和多模态社区的经典思想，其对语音/音频研究者的方法论启发远小于对视觉生成社区的工程示范。此外，完全不开源、不提供模型权重或在线demo，在当前顶会语境下显得诚意不足，39页附录中的细节虽多，但仍不足以弥补复现门槛极高的缺陷。 ...

📄 The Silent Thought: Modeling Internal Cognition in Full-Duplex Spoken Dialogue Models via Latent Reasoning #知识蒸馏 #流式处理 #大语言模型 7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.9/1.5 | 开源 0.1/1.5 | 复现 0.2/0.5 | 工程 1.3/1.5 ✅ 7/10 | 前50% | #知识蒸馏 | #知识蒸馏 | #流式处理 #大语言模型 | arxiv 👥 作者与机构 第一作者：Donghang Wu（Nanyang Technological University, College of Computing and Data Science） 通讯作者：Chen Chen（Nanyang Technological University, College of Computing and Data Science） 作者列表：Donghang Wu（Nanyang Technological University）、Tianyu Zhang（Mila, Quebec Artificial Intelligence Institute, Université de Montréal）、Yuxin Li（Nanyang Technological University）、Hexin Liu（Nanyang Technological University）、Chen Chen（Nanyang Technological University）、Eng Siong Chng（Nanyang Technological University）、Yoshua Bengio（Mila, Quebec Artificial Intelligence Institute, Université de Montréal） 💡 毒舌点评 本文巧妙地将连续空间中的“隐式推理”概念迁移到全双工语音对话模型，用 ELBO 和全局专家蒸馏优雅地解决了“边听边想”的标注难题，在推理类任务上的涨点证明了隐式计算的潜力。但硬伤同样刺眼：一是所有 SFT 和评估均在自建合成数据上闭环完成，严重缺乏公开基准（如 Fisher、DailyTalk）上的通用语音交互结果，模型的真实场景泛化性完全未知；二是在同等数据条件下与显式 CoT 方法的直接对比缺失，其宣称的“优于显式 CoT”更像是修辞而非经过实验证实的结论。此外，声称“零额外推理延迟”，却在全文中看不到任何具体的延迟或计算量分析，这一核心优势远未得到量化。泛化能力、可解释性、以及宣称优势的可信度，构成了这篇论文的三大阿喀琉斯之踵。 ...

📄 A Multi-Branch Hierarchy-Aware Framework for Heterogeneous Audio Classification #音频分类 #知识蒸馏 4.9/10 | 创新 0.8/2 | 严谨 1/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0/0.5 | 工程 1/1.5 📝 4.9/10 | 后50% | #音频分类 | #模型集成 | #知识蒸馏 | arxiv 👥 作者与机构 第一作者：Beile Ning（未说明） 通讯作者：未说明 作者列表：Beile Ning（未说明）、Jiayi Yu（未说明）、Zitong Wang（未说明）、Yufei Hu（未说明）、Wenjun Xu（未说明）、Yuanhang Qian（未说明）、Zhongxin Bai（未说明）、Gongping Huang（未说明） 💡 毒舌点评 这是一份典型的竞赛技术报告，通过堆砌多分支手工特征、层级分类头和KNN检索后处理，在特定数据集上把CLAP基线提升了约2.4个百分点。然而，全文未提供任何代码、模型或可复现材料，且缺乏与任何外部公开SOTA模型的直接比较，因此其声称的提升幅度犹如在真空中举重——无人知晓这个81.25%的Hier. F1在领域内究竟是何水平。方法本质上是已有技术的工程拼装，创新性稀薄，影响力囿于单一的竞赛场景。 📌 核心摘要 该论文针对DCASE 2026 Task 1的异构音频分类任务，提出了一种多分支层级感知框架。该方法在CLAP音频-文本表示的基础上，通过三个策略提升分类性能与层级一致性：(1) 构建扩展训练集BSD-Grand，合并清洗后的BSD35k子集以增强数据多样性；(2) 引入log-Mel、MFCC和log-STFT三个特征特异性声学分支，通过门控残差融合弥补CLAP对精细声学细节的建模不足；(3) 设计层级感知分类头（Flat、GC、LCL）以利用Broad Sound Taxonomy的层级结构，并采用基于KNN的嵌入检索与知识蒸馏来精细化预测。最终，最佳单模型（log-STFT + KNN后处理）达到80.84%的层级F1分数，最佳集成系统（System 3，5折交叉验证）进一步达到81.25%，相对于78.45%的CLAP基线提升显著。主要实验结果如下： ...

📄 SwiftAudio: Data-Efficient Caption-Only Distillation for One-Step Text-to-Audio Diffusion-based Generation #知识蒸馏 #扩散模型 #生成模型 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前50% | #知识蒸馏 | #知识蒸馏 | #扩散模型 #生成模型 | arxiv 👥 作者与机构 论文作者为Binh Mai, Tran Quoc Bao Le, Hung Dinh, Cong Tran，均隶属于越南邮电技术学院 (Posts and Telecommunications Institute of Technology, Hanoi, Vietnam)。通讯作者为Cong Tran (congtt@ptit.edu.vn)。 ...

📄 Thinking While Speaking: Inference-Time Knowledge Transfer for Responsive and Intelligent Conversational Voice Agents #知识蒸馏 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 6.7/10 | 后50% | #知识蒸馏 | #知识蒸馏 | arxiv 👥 作者与机构 Vidya Srinivas†，Zachary Englhardt†，Maximus Powers，Shwetak Patel，Vikram Iyer Paul G. Allen School of Computer Science & Engineering † equal contribution 💡 毒舌点评 这篇工作想法挺直接：让小模型先说话，大模型在后台思考，然后小模型把大模型的结果“塞”进自己的话里。概念上不错，解决了云模型推理慢的问题。但问题在于，你这个“塞”的效率太低了！在NaturalQuestions上，小模型从10%提升到46%听起来不错，但和大模型69%-80%的准确率一比，就知道这个“知识转移”丢了大量信息。更关键的是，你们的核心评估指标——轮级蕴含分析——结果显示大部分生成结果（约60%）被NLI模型判为“中立”。作者在讨论里拼命解释说“中立”可能是“可接受的对话润色”，但作为审稿人，我必须指出这恰恰暴露了当前评估框架的根本缺陷和系统潜在的“事实漂移”风险。论文提出的“对话填充”任务定义本身有价值，但证明其有效性的证据链（特别是从流式知识到最终生成文本的保真度）是不充分、不令人信服的。代码、模型、数据集全部未开源，在这个强调可复现性的时代，这严重削弱了工作的影响力。 ...

📄 End-to-End Voice Intent Recognition for Spontaneous Human-Drone Interaction with Naive Users #端到端 #自监督学习 #知识蒸馏 #低资源 7/10 | 创新 1.8/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7/10 | 前50% | #端到端 | #自监督学习 | #知识蒸馏 #低资源 | arxiv 👥 作者与机构 Allan Henry1,2,3, Solange Rossato1, Christian Graff2, Sylvain Huet3, Jose-Ernesto Gomez-Balderas3。 1LIG, Univ. Grenoble Alpes, Grenoble, France；2LPNC, Univ. Grenoble Alpes, Grenoble, France；3GIPSA-lab, Univ. Grenoble Alpes, Grenoble, France。 通讯邮箱：firstname.lastname@univ-grenoble-alpes.fr。 ...

📄 Speaker Identity in Non-Verbal Vocalizations: Conditional Distillation and Mixture of Experts Approach #说话人验证 #知识蒸馏 #自监督学习 9.1/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 9.1/10 | 前25% | #说话人验证 | #知识蒸馏 | #自监督学习 | arxiv 👥 作者与机构 Tzu-Chieh Wei (jeff20020302@gmail.com), Yi-Cheng Lin (even.dlion8@gmail.com), Huang-Cheng Chou, Kuan-Yu Chen, Hsin-Yen Sung (tlkagkb93901106@gmail.com), Shrikanth Narayanan, Hung-yi Lee. 机构： ...

📄 Streaming T5-based Text-to-Speech Synthesis with Limited Lookahead #语音合成 #知识蒸馏 #自回归模型 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.7/10 | 前25% | #语音合成 | #知识蒸馏 | #自回归模型 | arxiv 👥 作者与机构 作者：Muyang Du, Jason Roche, Junjie Lai 机构：NVIDIA China, NVIDIA USA 💡 毒舌点评 这篇工作像是给“语音合成流水线”加了个“预读窗口”。想法很直接——别等整句文字吐完再开始发声，看着前面几个词就能动嘴了。技术包装上，T5架构加上精心设计的掩码和对齐模块，看起来挺唬人。但仔细想想，所谓的“有限前瞻”本质上是对注意力机制的硬约束，有点“削足适履”的味道。实验部分倒是花了不少力气，各种消融和对比，但baselines的选择和训练数据的差异（特别是与SOTA对比时）让说服力打了折扣。最让人皱眉的是“开源”部分的空白，这对于一个号称实用且解决了实际问题的工作来说，有点说不过去——你解决了延迟，却不让我们方便地验证和使用，这“实用价值”就悬在半空了。 📌 核心摘要 本文提出了S5-TTS，一个基于T5的流式文本到语音合成模型，旨在解决级联LLM-TTS系统中因TTS需要完整上下文而产生的高端到端延迟问题。S5-TTS通过引入前瞻因果掩码（lookahead-causal masking）机制和基于卷积的辅助注意力模块，实现了在有限前瞻（即每个词合成时仅能看到其自身、前面所有词和k个未来词）下的词级增量语音合成。为了补偿有限前瞻造成的自然度损失，作者采用了交错多源蒸馏（Interleaved Multi-Source Distillation， IMSD）策略，利用全上下文的T5-TTS作为教师模型，同时使用配对的文本-音频数据和经过ASR过滤的合成文本数据进行监督。实验表明，当k=2时，S5-TTS在可懂度（WER）和说话人相似度（SSIM）上与全上下文T5-TTS相当，主观质量（MOS）接近，同时显著降低了端到端语音响应延迟。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：论文中使用了LibriTTS、HiFiTTS和UltraChat-200k数据集，但未提供这些数据集的具体下载链接、处理脚本或合成数据的详细获取方式。 Demo：https://s5-tts.github.io/ 复现材料：论文中提及了详细的训练配置（GPU型号、批量大小、优化器、学习率等），但未提供完整的训练代码、配置文件或检查点下载链接。 论文中引用的开源项目：T5-TTS, NeMo, phonemizer, Parakeet-TDT, E2-TTS, FireRedTTS, MaskGCT, CosyVoice, Llama 3.3 70B, Ollama。论文引用了这些项目，但未提供直接链接，也未说明S5-TTS的开源实现依赖于其中哪些项目的官方代码库。 🏗️ 方法概述和架构 S5-TTS的核心架构是基于T5的编码器-解码器Transformer，专为流式合成设计。 ...

📄 Reliable Neural-Codec Text-to-Speech by ASR Self-Verification and Distillation: Near-Zero Catastrophic Failures Across Models and Codecs #语音合成 #自监督学习 #正则化微调 #强化学习 #知识蒸馏 #低资源 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.4/10 | 前50% | #语音合成 | #自监督学习 | #正则化微调 #强化学习 | arxiv 👥 作者与机构 作者：Ali Asaria, Tony Salomone, Deep Gandhi 机构：Transformer Lab 通讯作者：deep@lab.cloud ...

📄 Teacher-Student Structure for Domain Adaptation in Ensemble Audio-Visual Video Deepfake Detection #多模态模型 #知识蒸馏 #集成学习 #Transformer #数据增强 7.4/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.4/10 | 前50% | #多模态模型 | #知识蒸馏 | #集成学习 #Transformer | arxiv 👥 作者与机构 Elham Abolhasani, Maryam Ramezani, Hamid R. Rabiee* 沙理工大学 (Sharif University of Technology) 计算机工程系 💡 毒舌点评 这篇论文试图做一件有价值的事：让深度伪造检测器“活”起来，能适应新出现的伪造技术。想法不错，但执行上更像是一个标准流程的工程化整合，而非一个能激发领域范式转变的突破。教师-学生框架（第2.3节）被作者明确指出是受[19, 33]启发，其主要创新点——针对Transformer的\(L_{AV-KL}\)损失——虽有技术意义，但贡献深度有限。最令人困惑的是，在DFDC这个公认复杂的数据集上，经过精心设计的学生模型相比教师模型AUC提升仅4.09%，这是否真正证明了该框架的有效性，还是只是数据不足导致的勉强适应？论文试图通过解释性（第5.4节）和鲁棒性（第5.5节）分析来增加亮点，但这些分析更多是定性展示，缺乏更严谨的量化支撑。总体而言，这是一篇扎实的、但缺乏足够想象力和突破性贡献的论文，适合发表在会议的Poster环节，而非获得广泛关注的Oral。 ...