模型压缩

📄 Positional Encoding in the Context of Memristor-Based Analog Computation for Automatic Speech Recognition #语音识别 #低资源 #模型压缩 8/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.9/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 🔥 8/10 | 前50% | #语音识别 | #模型压缩 | #低资源 | arxiv 👥 作者与机构 作者：Benedikt Hilmes, Nick Rossenbach, Ralf Schlüter 机构：RWTH Aachen University 机器学习与人类语言技术组, Apptek GmbH (德国亚琛) 💡 毒舌点评 这篇论文精准地切入了一个“硬件-算法协同设计”的细分痛点：在忆阻器这种新兴模拟计算硬件上，一个原本能提升性能的常规组件（相对位置编码）反而成了性能毒药。文章的价值在于揭示了这种“水土不服”的现象并给出了工程上的补救方案。然而，作为一篇投向顶会的论文，其贡献的“宽度”和“深度”略显不足。它更像一份扎实的硬件部署问题诊断报告，而非一篇提出全新算法或深刻理论洞察的论文。问题本身有趣，但解决方案（调整ADC位数、移除线性层）相对直接，缺乏令人眼前一亮的创新。此外，结论中“∼50%”和“∼30%”的表述需要更精确的定义和基准，否则容易产生误导。 ...

📄 Self-Guidance: Enhancing Neural Codecs via Decoder Manifold Alignment #语音合成 #语音编码 #自监督学习 #正则化微调 #低资源 #模型压缩 9.7/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 9.7/10 | 前25% | #语音合成 | #自监督学习 | #语音编码 #正则化微调 | arxiv 👥 作者与机构 作者：Xiang Li, Yixuan Zhou, Jingran Xie, Zhiyong Wu, Hui Wang。论文未明确提及作者所属机构。 💡 毒舌点评 这篇工作提出了一个简单有效且即插即用的训练技巧（Self-Guidance），确实能提升编解码器性能并减少码本大小，对下游LLM任务有益。但审稿人普遍会质疑其“新颖性”上限——这本质上是一种特征级别的对齐或正则化手段，在自蒸馏、特征模仿等领域早有类似思想。论文在理论分析上较为薄弱，缺乏对“为何对齐解码器特定层特征就如此有效”的深入数学或信息论解释。下游TTS实验规模太小，像一个仓促的验证，难以充分支撑“显著提升”的结论。整体而言，这是一篇扎实的工程改进工作，但离理论贡献或范式突破尚有距离。 📌 核心摘要 本文针对VQ-VAE神经语音编解码器中量化误差限制重建质量的问题，提出了一种轻量级训练机制“自引导”（Self-Guidance, SG）。SG在训练时为解码器引入一个辅助分支，输入连续的预量化潜在向量（teacher路径），并通过一个特征映射损失（\(\\mathcal{L}_{\\text{guide}}\)）对齐该分支与原始量化输入分支（student路径）在解码器最后一个Transformer块输出的隐藏特征。此举旨在提升解码器对量化误差的鲁棒性，使其在推理时仅处理量化token也能生成更高质量的波形。实验表明，SG在XCodec2模型上取得了多项指标的SOTA，并能以1/4码本大小达到基线性能，从而有益于简化下游LLM的语音token建模。该机制泛化性良好，适用于不同的量化器和解码器架构。 ...

📄 Massive Open-Vocabulary Keyword Spotting #语音识别 #关键词检测 #模型压缩 9.8/10 | 创新 1.6/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 9.8/10 | 前50% | #语音识别 | #模型压缩 | #关键词检测 | arxiv 👥 作者与机构 Leonor Barreiros, Raul Monteiro, Afonso Mendes, Gonçalo M. Correia Priberam Labs, Lisboa, Portugal; Instituto Superior Técnico, Lisboa, Portugal; Instituto de Telecomunicações, Lisboa, Portugal 💡 毒舌点评 这篇工作抓住了OV-KWS系统在实际生产中的一个真实痛点——处理大规模术语库的效率瓶颈。提出的三级压缩思路清晰，且通过实验证明了在效率上实现了数量级的提升（128倍内存，6倍速度），这是其最大的亮点。然而，论文的短板也很明显：1）核心方法（三级压缩）是多个成熟技术（稀疏层选择、MLP降维、CNN降采样）的组合，创新性有限；2）在最具挑战性、也是最能体现其价值的大规模内部数据集上，引导ASR的效果反而变差，这严重削弱了其实际应用价值的 claim；3）部分实验细节和对比不够严谨，例如基线因内存不足而需batch处理，引入了额外开销。总体而言，这是一个工程导向、解决实际问题的有效方案，但理论贡献和最终应用效果有待商榷。 ...

📄 SpAArSIST: Sparsified AASIST for Efficient and Reliable Anti-Spoofing #模型压缩 7.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.7/10 | 前50% | #模型压缩 | #图神经网络 | arxiv 👥 作者与机构 Anton Firc, Vojtěch Staněk, Zbyněk Lička, Kamil Malinka, Martin Perešíni Security@FIT, Brno University of Technology, Czech Republic 💡 毒舌点评 论文试图为AASIST这个热门的语音反欺骗后端进行“精简手术”，动机（减少冗余计算）和方向（简化评分与聚合）本身是合理的，也确实给出了在特定数据集上的效率提升和跨域性能改善。然而，其“部署导向”的宣称与“有限改进”之间的矛盾是这篇论文最大的问题。将20.7%的后端MACs削减作为核心贡献之一，但忽略了占总计算量绝大部分的SSL前端（XLS-R 300M），使得效率提升的实际意义大打折扣。改进主要局限于AASIST这一特定架构，且“新”组件（幅度评分、均值聚合）在学术上都算不上新颖，更多是对现有实现的观察与验证。作者提出的双轨复合评分（SS）是一个有趣的想法，但其权重分配和归一化方法缺乏理论依据，更像一个工程上的妥协方案，而非一个普适的评估框架。总体而言，这是一篇扎实但创新性有限、应用价值需打折扣的系统优化论文。 📌 核心摘要 本文提出了SpAArSIST，一种针对基于自监督学习（SSL）的语音反欺骗系统中广泛使用的AASIST图池化后端的部署导向简化方案。作者观察到公共AASIST实现中存在冗余操作，因此进行了三项主要修改：1）引入分离的训练时和推理时节点保留率 (\(k_{\text{tr}}\), \(k_{\text{inf}}\)) 以控制稀疏度；2）用无参数的特征幅度范数替代学习得到的节点评分器；3）用显式的均值聚合替代（在高温极限下行为接近于均值的）堆栈节点注意力聚合。最佳配置（AST-03-01-Mag）在保持ASVspoof 5数据集性能具有竞争力的同时，将后端计算量（MACs）降低了20.7%，模型参数减少了4.1%，并在跨域的In-the-Wild数据集上显著提升了鲁棒性（EER从4.64%降至2.82%）。为支持部署决策，论文还提出了一种结合准确性、校准度和计算量的复合评分指标。 ...

📄 Towards Data-free and Training-free Compression for Speech Foundation Models Using Parameter Clustering #模型压缩 #语音识别 #无监督学习 6.4/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 0.9/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.4/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.4/10 | 前50% | #语音识别 | #模型压缩 | #无监督学习 | arxiv 👥 作者与机构 作者：Haoning Xu, Zhaoqing Li, Huimeng Wang, Youjun Chen, Chengxi Deng, Mengzhe Geng, Xunying Liu 机构：1 The Chinese University of Hong Kong, Hong Kong SAR, China; 2 National Research Council Canada, Canada 邮箱：hnxu@se.cuhk.edu.hk, xyliu@se.cuhk.edu.hk ...

📄 LLM can Read Spectrogram: Encoder-free Speech-Language Modeling #语音识别 #语音合成 #参数高效微调 #大语言模型 #模型压缩 8.6/10 | 创新 1.8/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.6/10 | 前25% | #语音识别 | #参数高效微调 | #语音合成 #大语言模型 | arxiv 👥 作者与机构 论文标题为 “LLM can Read Spectrogram: Encoder-free Speech-Language Modeling”。arXiv ID为 2606.10231。论文中未明确列出所有作者及隶属机构。基于作者列表格式和内容，可确认论文有多个作者及贡献者，但具体所属机构（如高校、公司或研究所）未在提供的论文节选中明确说明。 💡 毒舌点评 这篇论文的“去编码器”想法确实像在语音领域做了一次“iPhone时刻”的宣言，勇气可嘉。然而，这种“直接吃生频谱图”的豪赌，在ASR上虽勉强过关，但在TTS上却更像是一个概念验证的“玩具”——输出质量远未达标，却试图用“可行性”一词来掩盖工程上的粗糙。论文的论证强在消融实验的洞察力（比如发现了LLM低层更像语音编码器），但弱在对“为什么需要去编码器”这个根本问题的辩护上。作者声称去掉了巨大的编码器，却忘了提自己引入的线性投影层和LLM本身庞大的参数量才是计算瓶颈的新主角。更令人皱眉的是，论文与同期Google Gemma 4 12B的“撞车”，虽然脚注了，但削弱了其作为“首篇学术论文”的时效性和独特性。总而言之，这是一项有启发性但未完成的工作，像一篇精彩的博士开题报告，而非一篇令人信服的NeurIPS论文。 📌 核心摘要 本文提出Mel-LLM，一种无编码器的语音大语言模型（Speech-LLM）架构。该模型直接将预处理的梅尔频谱图块通过线性投影层输入到LLM（基于Phi-4-MM）中，省去了传统的预训练语音编码器（如Whisper）。论文在自动语音识别（ASR）和文本转语音（TTS）任务上进行了探索。 ASR结果表明，无编码器方案在OpenASR公开数据集上与编码器基线相比性能下降有限，尤其在数据规模扩大（10倍内部数据）时差距显著缩小（相对下降仅3.8%）。消融实验显示，来自多模态检查点（Phi-4-MM）的初始化在有限数据下至关重要，且LLM的低层（0-23层）更关键于隐式语音编码。 TTS部分采用基于MELLE框架的下一个词元VAE方法进行初步探索，结果表明无编码器架构在TTS上具有可行性，但性能尚未达到最优，且严重依赖Phi-4-MM初始化和合适的训练技巧（如Dropout）。 ...

📄 On Low-Bit Quantization Errors in Speaker Verification: Diagnostic and Mitigation #说话人验证 #模型压缩 6.6/10 | 创新 1.2/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.6/1.5 | 开源 0.7/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.6/10 | 前50% | #说话人验证 | #模型压缩 | arxiv 👥 作者与机构 Hugo Leguillier, Driss Matrouf, Guillaume Lechien, Mickael Rouvier LIA, UPR 4128, France; Aday, France; Avignon University 💡 毒舌点评 这篇论文像一篇详实的“尸检报告”，把低比特量化在说话人验证里的“死法”分析得明明白白，从哪一层开始烂的（中间阶段）、到哪个精度突然暴毙（2比特）、死因是什么（近阈值的决策翻转），最后还提供了一套“分级抢救”方案（多精度级联）。诊断部分做得相当细致，甚至可以说是优雅。但问题是，尸检对象就俩（ResNet-36/200），解剖工具也只用了一个（KMQAT），这结论能推广到其他“患者”（模型架构）身上吗？提出的抢救方案听起来不错，可实际ICU（嵌入式设备）里能不能跑得动、耗材（内存）够不够、要不要反复调参（校准），文中却含糊其辞。总之，这是一篇优秀的诊断学论文，但开出的药方缺乏在复杂临床环境（真实部署）下的充分验证。 📌 核心摘要 本文针对说话人验证模型在低比特量化时的性能下降问题，提出了一种联合层分析和分数分析的诊断框架。研究发现：1) 2比特量化是性能显著恶化的关键拐点；2) 量化敏感性在网络中部分布不均匀，中间到后期的网络阶段（尤其是Stage 2和3）对性能恢复最关键；3) 量化引起的分数漂移在2比特时急剧增加，且有害的决策错误（决策翻转）高度集中在FP32决策阈值附近。基于这些发现，作者设计并验证了一种校准的多精度级联推理策略：大部分样本在2比特下即可可靠决策，仅对分数接近阈值的模糊样本提升至更高精度（3比特或4比特），从而在保持接近FP32性能的同时，显著降低了平均推理计算成本。 ...

📄 TLDR: Compressing Audio Tokens for Efficient Autoregressive Text-to-Speech #语音合成 #自回归模型 #参数高效微调 #模型压缩 8.2/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.2/10 | 前25% | #语音合成 | #参数高效微调 | #自回归模型 #模型压缩 | arxiv 👥 作者与机构 Yejin Lee, Junwon Moon, Hyoeun Kim, Hyunjin Choi：成均馆大学（Sungkyunkwan University） Heeseung Kim：首尔市立大学（University of Seoul） Kyuhong Shim：成均馆大学（Sungkyunkwan University） 💡 毒舌点评 这篇论文的立意很好，直击了当前AR-TTS模型“又慢又占内存”的痛点。方法设计上，“换汤不换药”（用patch替代token）的思路虽然不算石破天惊，但胜在实用，能直接嫁接到现有模型上，工程价值明显。然而，几个“但是”不得不提：1) 实验上有点“温室里的花朵”，只在CosyVoice3这一个“温室”里做实验，数据也是相对纯净的LibriTTS，面对更多样、更嘈杂的现实数据时，性能如何是个问号；2) “固定patch大小”像是给模型戴上了镣铐，语音的疏密变化明显，自适应patch才是更优雅的解法；3) 主观评测就找了25个英语母语者，这个样本量在顶会论文里略显寒酸，说服力打了折扣。总的来说，这是一篇扎实的工程优化论文，但离“令人眼前一亮”的理论突破或全面系统的实验验证还有距离。 ...

📄 dots.tts Technical Report #语音合成 #流匹配 #自回归模型 #多语言 #低资源 #数据增强 #模型压缩 9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.1/1.5 🔥 9/10 | 前25% | #语音合成 | #数据增强 | #流匹配 #自回归模型 | arxiv 👥 作者与机构 作者：Shi Lian, Changtao Li, Bohan Li, Hankun Wang, Da Zheng, Junfeng Tian, Yufeng Ma, Colin Zhang, Kai Yu。 机构：dots团队，小红书公司（Xiaohongshu Inc.），上海交通大学X-LANCE实验室。 ...

📄 Spiking and Event-driven Neuromorphic Mamba Models for Efficient Speech Recognition #语音识别 #模型压缩 7.5/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.6/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.7/1.5 ✅ 7.5/10 | 前50% | #语音识别 | #模型压缩 | arxiv 👥 作者与机构 Tauseef Ahmed (单位1, 2, 3)，Tao Sun (单位1)，Jeronimo Castrillon (单位3, 4)，Kanishkan Vadivel (单位2)，Guangzhi Tang (单位1)。论文中未具体说明单位1、2、3、4对应的具体机构名称。 基金支持：NGF.1609.243.044 (AiNed XS Europe), 01IS18026A-D (ScaDS.AI), 101226463 (MSCA Doctoral Network REACT)。 ...