模型压缩

📄 Faster IndexTTS-2: Accelerating and Streaming Autoregressive Zero-Shot Text-to-Speech Synthesis on GPUs 标签：#语音合成 #高效推理 #流式处理 #模型压缩 #音频理解 7.6/10 | 创新 1.3/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 1.1/1.5 | 开源 0.2/1.5 | 复现 0/0.5 | 工程 1.5/1.5 ✅ 7.6/10 | 前25% | 文档类型：系统技术报告 | 评分置信度：高 | #语音合成 | #模型压缩 | #高效推理 #流式处理 | arxiv 👥 作者与机构 第一作者：Muyang Du（未说明） 通讯作者：未说明 作者列表：Muyang Du（未说明）、Shuang Yu（未说明）、Junjie Lai（未说明） 💡 毒舌点评 这篇工程报告的亮点在于将为大语言模型设计的推理框架（TensorRT-LLM）系统性地适配到语音生成GPT模型，并提供了一套完整的、面向生产的加速方案，工程细节扎实。但最大短板在于，其核心贡献是“对已有优秀模型的推理优化”，创新性主要体现在系统集成和工程改造，而非算法或模型架构的突破。此外，完全未开源任何代码或模型权重，作为一篇声称提供“可复用方法论”的论文，其对社区的诚意和可复现性打了折扣。 ...

📄 VibeVoice-ASR-BitNet Technical Report 标签：#语音识别 #模型压缩 #高效推理 #多语言 #音频理解 7.8/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.8/10 | 前25% | 文档类型：系统技术报告 | 评分置信度：高 | #语音识别 | #模型压缩 | #高效推理 #多语言 | arxiv 👥 作者与机构 第一作者：Songchen Xu（上海交通大学） 通讯作者：Furu Wei（Microsoft Research） 作者列表：Songchen Xu（上海交通大学）、Ting Song（Microsoft Research）、Shaohan Huang（Microsoft Research）、Zhiliang Peng（Microsoft Research）、Yan Xia（Microsoft Research）、Yujie Tu（中国科学院大学）、Xin Huang（复旦大学）、Jianwei Yu（Microsoft Research）、Li Dong（Microsoft Research）、Furu Wei（Microsoft Research） 💡 毒舌点评 论文的亮点在于其系统级的工程洞察：针对VAE（IO密集型）和LM（权重密集型）的不同计算瓶颈，实施“异构量化”策略（I8_S与I2_S），并辅以深度工程优化（定制SIMD内核、算子融合），形成一个完整的、可在消费级CPU上实时运行的端到端系统，切实解决了LLM-based ASR在边缘部署的痛点。短板在于，作为一份强调“方法”的技术报告，其核心贡献“异构量化”的优越性缺乏严格的组件级消融实验支撑；训练过程的关键细节（数据、超参数、渐进调度）近乎黑箱，严重影响了可复现性；与FP16基线的精度对比也不够直观全面。 ...

📄 Scalable Keyword Spotting via Modular Network Expansion 标签：#语音唤醒 #参数高效微调 #持续学习 #模型压缩 #音频理解 7.1/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 0.9/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.1/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音唤醒 | #LoRA | #参数高效微调 #持续学习 | arxiv 👥 作者与机构 第一作者：Viktor Khaymonenko（Yandex, Embedded Voice Input Team, Russia） 通讯作者：Viktor Khaymonenko (khaymonenko@yandex-team.ru) 作者列表：Viktor Khaymonenko（Yandex, Embedded Voice Input Team, Russia）、Dzmitry Saladukha（Yandex, Embedded Voice Input Team, Belarus）、Aliaksei Rak（Yandex, Embedded Voice Input Team, Russia）、Alexander Rostov（Yandex, Embedded Voice Input Team, Russia） 💡 毒舌点评 论文精准地抓住了嵌入式KWS产品迭代中的“添加新词不能翻车”这一刚性需求，提出的冻结-扩展方案在工程上干净利落，通过数学保证了核心路径的绝对安全，这点比很多持续学习工作更务实。然而，其最大的软肋在于实验仅限于一个相对简单的GSC基准，且完全不开源，使得这个本可以成为工业界宝贵参考的工作，说服力和影响力大打折扣。尽管实验设计有多个任务对，但单一数据集和模型架构的局限性依然显著。 ...

📄 Ultra-Compact CNN Architectures for Tropical Bird Audio Detection on Microcontrollers 标签：#音频事件检测 #CNN #高效推理 #模型压缩 #基准测试 9.3/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 9.3/10 | 前10% | 文档类型：系统技术报告 | 评分置信度：高 | #音频事件检测 | #CNN | #高效推理 #模型压缩 | arxiv 👥 作者与机构 第一作者：Muhammad Mun’im Ahmad Zabidi（马来西亚马来亚大学计算机科学与信息技术学院；马来西亚理工大学电气工程学院） 通讯作者：Mohd Yamani Idna Idris（马来西亚马来亚大学计算机科学与信息技术学院） 作者列表：Muhammad Mun’im Ahmad Zabidi（马来西亚马来亚大学计算机科学与信息技术学院；马来西亚理工大学电气工程学院）、Mohd Yamani Idna Idris（马来西亚马来亚大学计算机科学与信息技术学院）、Norisma Idris（马来西亚马来亚大学计算机科学与信息技术学院） 💡 毒舌点评 论文呈现了一个教科书般的嵌入式AI工程闭环，从热带场景数据集构建、受硬件约束的架构设计、严谨的四阶段系统消融，到INT8量化、微控制器实测和投影的部署经济性评估，链条完整且务实，对实践者极具参考价值。然而，其核心学术创新性有限，主要是对已有轻量化CNN技术（如GAP、可分离卷积、焦点损失）在特定极端约束（nmels=16）下的组合与筛选，并通过消融研究得出了诸如“深度可分离卷积在此尺度下失效”等有价值的反直觉洞察。论文的强项在于工程和系统，而非提出新的算法范式。 ...

📄 Staged Depth-Pruning Distillation of a Flow-Matching Text-to-Speech Teacher: A Compact Hindi Speech Synthesizer 标签：#语音合成 #知识蒸馏 #模型压缩 #低资源 #音频理解 7.9/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 0.8/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.9/10 | 前25% | 文档类型：系统技术报告 | 评分置信度：高 | #语音合成 | #知识蒸馏 | #模型压缩 #低资源 | arxiv 👥 作者与机构 第一作者：Sivateja Trikutam 通讯作者：未说明 作者列表：Sivateja Trikutam (sivatejaat@gmail.com) 机构：未说明 💡 毒舌点评 这是一份典型的工程驱动的系统技术报告：其价值不在于提出革命性的新算法，而在于将“深度剪枝+渐进蒸馏”这套组合拳在有限数据和资源约束下打得干净利落，并详细分享了从理论验证到部署踩坑的完整流水线，对于资源受限的工业场景有直接参考意义。然而，论文的致命短板在于实验评估：完全依赖教师生成的合成数据训练，评估更是完全采用自动指标（WER/UTMOS），缺乏TTS领域的黄金标准——人类主观评测（MOS），这让其“高质量”的声明显得底气不足。此外，与单一基线的对比、以及蒸馏过程本身缺乏关键消融，都削弱了其学术贡献的严谨性。 ...

📄 Efficient Audio-Visual Event Recognition via Knowledge Distillation and Dynamic INT8 Quantization of a Hybrid Cross-Attention Network 标签：#音视频理解 #模型压缩 #知识蒸馏 #音频理解 #Transformer 5.8/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 0.7/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 📝 5.8/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #音视频理解 | #模型压缩 | #知识蒸馏 #音频理解 | arxiv 👥 作者与机构 第一作者：Parinaz Binandeh Dehaghani (University of Porto, Porto, Portugal) 通讯作者：未说明 作者列表：Parinaz Binandeh Dehaghani (University of Porto, Porto, Portugal)， Danilo Pena (ResoSight, Montreal, Canada)， A. Pedro Aguiar (University of Porto, Porto, Portugal) 💡 毒舌点评 亮点：论文目标明确，针对音视频事件识别（AVER）模型的边缘部署难题，提出了一个结合架构压缩、知识蒸馏和量化的完整工程思路，在AVE数据集上实现了参数减少约59%且精度损失可控的效果，流程清晰，面向实际部署。短板：核心贡献在于对成熟技术的组合应用，缺乏深层次的机制创新；实验验证严重不足，仅在一个规模和复杂度有限的单一数据集上测试，未与任何同期高效AVER方法或压缩技术进行对比，也缺乏关键消融实验，严重削弱了结论的说服力；声称适用于边缘部署，却未提供任何推理延迟、吞吐量或能耗等关键性能指标。 ...

📄 Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters? 标签：#语音情感识别 #知识蒸馏 #多模态模型 #高效推理 #模型压缩 7.4/10 | 创新 1/2 | 严谨 1.5/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 1/1.5 | 复现 0.1/0.5 | 工程 1.2/1.5 ✅ 7.4/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音情感识别 | #知识蒸馏 | #多模态模型 #高效推理 | arxiv 👥 作者与机构 第一作者：Kaiwen Zheng (University of Glasgow) 通讯作者：论文中未标注通讯作者。 作者列表：Kaiwen Zheng (University of Glasgow), Junchen Fu (University of Glasgow), Wenhao Deng (University of Glasgow), Hu Han (Institute of Computing Technology, Chinese Academy of Sciences), Joemon M. Jose (University of Glasgow), Xuri Ge (School of Artificial Intelligence, Shandong University) 💡 毒舌点评 本文精准地切中了多模态大模型在资源受限场景部署的痛点，提出了一个完整的“知识蒸馏+强化学习”工程方案。实验结果表明，通过SWD-H隐藏状态对齐和M-GRPO多奖励精炼，0.6B的学生模型在平均性能上确实能匹配甚至超越8B教师。但这份工程上的成功掩盖了其科学创新的有限性：核心方法SWD-H本质上是对现有最优传输（OT）方法在短序列场景下的应用适配，而M-GRPO的奖励函数设计高度依赖人工经验和权重调整。论文的真正贡献在于证明了精心设计的工程流水线足以实现高效部署，而非提出了全新的学习范式。此外，教师模型在特定任务数据集上专门训练，使得“小模型超越大模型”的结论普适性大打折扣。 ...

📄 CoFi-Lite: Pushing the Limits of Ultra-Lightweight Speech Enhancement 标签：#语音增强 #CNN #模型压缩 #高效推理 #流式处理 7.3/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 0.8/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.1/1.5 ✅ 7.3/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音增强 | #CNN | #模型压缩 #高效推理 | arxiv 👥 作者与机构 第一作者：Leyan Yang（南京大学现代声学实验室，NJU-Horizon智能音频实验室） 通讯作者：Jing Lu（南京大学现代声学实验室，NJU-Horizon智能音频实验室） 作者列表：Leyan Yang（南京大学现代声学实验室，NJU-Horizon智能音频实验室）、Dahan Wang（南京大学现代声学实验室，NJU-Horizon智能音频实验室）、Xiaobin Rong（南京大学现代声学实验室，NJU-Horizon智能音频实验室）、Jiadong Zhao（南京大学现代声学实验室，NJU-Horizon智能音频实验室）、Jing Lu（南京大学现代声学实验室，NJU-Horizon智能音频实验室） 💡 毒舌点评 本文在极端计算约束下将语音增强性能推向新高，展示了“螺蛳壳里做道场”的精细工程能力，其粗细粒度解耦与跨路径融合的设计思路清晰且有效。然而，方法本质上是已有模块（MB block, CRN）的精心组合与压缩，创新更多体现在架构搜索与权衡上；且仅用demo页面展示结果，未提供代码和模型，使论文的可复用性和后续影响力大打折扣。 ...

📄 LightMem-Ego: Your AI Memory for Everyday Life 标签：#流式处理 #模型压缩 #高效推理 #音频理解 #Transformer 5.6/10 | 创新 1.2/2 | 严谨 0.8/1.5 | 实验 0.3/1.5 | 清晰 0.6/1 | 影响 0.3/1.5 | 开源 1.2/1.5 | 复现 0.2/0.5 | 工程 1/1.5 📝 5.6/10 | 前50% | 文档类型：系统技术报告 | 评分置信度：高 | #流式处理 | #模型压缩 | #高效推理 #音频理解 | arxiv 👥 作者与机构 第一作者：Yijun Chen（浙江大学） 通讯作者：Ningyu Zhang（浙江大学） 作者列表：Yijun Chen（浙江大学）、Boyi Xiao（华南理工大学）、Yixian Zhao（浙江大学）、Haoting Xia（华中师范大学）、Buqiang Xu（浙江大学）、Jizhan Fang（浙江大学）、Yanya Li（浙江大学）、Yaqi Zheng（浙江大学）、Xuehai Wang（浙江大学）、Zirui Xue（浙江大学）、Liuxin Zhang（联想集团）、Hui Li（联想集团）、Ningyu Zhang（浙江大学） 💡 毒舌点评 本文提出了一个概念清晰的层次化多模态记忆系统框架，并展示了在移动/可穿戴设备上的原型部署。然而，其“贡献”更接近于一个产品原型的技术白皮书，而非具有深度研究价值的顶会论文。系统完全依赖外部黑盒API实现所有智能核心（ASR、VLM、LLM），自身未包含任何可验证、可训练的自研模型组件，这使其创新性局限于系统集成层面。更为致命的是，其评估环节极度薄弱，每个场景仅用9个查询进行测试，缺乏统计意义，且未与任何现有方法进行定量性能对比，使得论文的核心声明——该系统有效——几乎无法被验证。它更像是一份设计蓝图，而非经过严格检验的研究工作。 ...

📄 WaveNet-Style Guitar Amplifier Model Pruning for Real-Time iOS Deployment 标签：#音频生成 #模型压缩 #高效推理 #音频理解 #Transformer 8.0/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 🔥 8.0/10 | 前25% | 文档类型：系统技术报告 | 评分置信度：高 | #音频生成 | #模型压缩 | #高效推理 #音频理解 | arxiv 👥 作者与机构 第一作者：Ryota Sato（未说明） 通讯作者：未说明 作者列表：Ryota Sato（未说明）、Eli Silverstein（未说明） 💡 毒舌点评 论文在工程落地和系统验证上做得扎实，成功将一个公认的计算密集型音频模型（WaveNet）通过剪枝和定制推理引擎部署到消费级移动设备上，并提供了与物理设备的实时A/B对比演示，这对应用导向的音频研究具有直接参考价值。然而，其对剪枝后模型音频质量的评估过于依赖ESR数值和“非正式听音”，缺乏形式化的感知评估（如MUSHRA测试）或与更多基线模型（如LSTM）的对比，削弱了结论的说服力。 📌 核心摘要 本文旨在解决WaveNet风格的神经网络因计算量过大而难以在iPhone等移动设备上进行实时音频处理（如吉他放大器模拟）的问题。核心方法是采用迭代幅度剪枝（Iterative Magnitude Pruning）将模型权重稀疏化至90%，并配合一个专门设计的、仅处理非零权重的自定义C++稀疏推理引擎。与现有方法相比，本文首次系统地将剪枝技术应用于WaveNet风格的音频放大器模型，并针对iOS平台实现了完整的、仅依赖CPU的实时推理流水线。实验结果表明，在90%稀疏度下，模型的ESR（误差信号比）低于\(3.4\times 10^{-4}\)，主观听感无显著下降；在iPhone 16 Pro上，256样本块大小的实时因子（RTF）约为0.6，证明了实时可行性。实际意义在于为在移动端部署高质量、低延迟的神经音频效果器提供了一个可行的工程范例。主要局限性包括缺乏形式化的感知质量评估、设备兼容性测试范围有限（仅两款iPhone），以及未与其他模型压缩技术（如量化、知识蒸馏）或轻量级架构（如LSTM）进行对比。 ...