模型剪枝

针对音频编码器产生过长音频 Token 序列导致解码器自注意力开销过大的问题，AudioTETRIS 用编码器隐状态的帧间变化构造音素过渡先验，再与随深度切换的解码器注意力分数相乘做逐层 top-k 剪枝，在 Qwen2-Audio 等三个模型上用 25% Token 保持接近未压缩精度，但高压缩下转写任务仍先退化且需一次校准确定交叉层。

该文针对 XLSR-AASIST 这类 3 亿参数量级检测器难以部署的问题，用跨域知识蒸馏补泛化监督、用移动分数引导结构化剪枝保关键结构，在 90% 稀疏度下做到 31.9M 参数和 23.3G FLOPs 且多数据集平均只上升 1.30% EER。

论文研究端到端语音依存句法分析中连接语音编码器与句法分析器的三段中间神经网络是否必要，提出去掉它们的简化结构，在法语、斯洛文尼亚语和奈贾语上达到相当或更好的分析准确率并减少约 12% 参数，代价和结论都只在联合微调与冻结编码器等明确条件下成立。

论文研究不做梯度微调能否直接用预训练 ASR 编码器做说话人无关唤醒词检测，并用 SliceGPT 式 PCA 结构化剪枝把编码器通道减半，证据是 50% 剪枝时参数约减 40% 而 EER 仅温和上升，但随机保留同等维度会使 EER 恶化到 40% 以上。

针对一分钟语音变成 750-1500 个音频 token 且语言模型浅层仍高度关注音频的问题，用编码器输出的闭式线性映射预测全层注意力排序并在模型前剪枝，转录用分箱覆盖、选择题再在第 2 层做精度融合校正，保守预算下与全音频差距控制在小范围内，激进预算下全面领先可运行基线，代价是线性先验在两类 Qwen-Audio 模型上失效且需用漂移筛查区分。

论文在 SLAM-ASR 管线上做音频编码器自顶向下剪枝并在每层重训投影器，发现 Whisper Large 剪 2 层时聚合词错率从 21.6% 降到 21.1% 却让 Black 组上升 0.9 个百分点，到剪 8 层时 Black 与 Asian 差距从 13.5 扩大到 24.5 个百分点，而 LoRA 虽降低各组误差却让优势组获益更多。

共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读

针对语音语言模型中语音 token 过长且时域冗余的问题，论文提出在编码器后按成对余弦相似度自适应合并的 AdaTS，用阈值 0.85 附近约 2 倍压缩在 ASR、问答与翻译上保持或超过均匀下采样，代价是阈值过低与只在对齐阶段压缩会明显掉点。

OnDA 针对常开关键词识别的说话人与环境偏移，把权重自学习与结构化通道剪枝都搬到端上，用伪标签的域内数据做剪枝与微调，在 HeySnips/HeySnapdragon 上以 0.5 次误报每小时下等精度实现最高 9.63×压缩，代价是伪标签噪声与微调样本更少且剪枝时机影响端上能耗回本点。

该研究在 Whisper-small 上用免微调的一次性幅度剪枝证明剪对位置可降低词错误率，解码器自注意力剪 50% 在 LibriSpeech test-other 上带来 2.38% 绝对增益，而 40.8% 稀疏度的敏感度感知压缩仅使词错误率恶化 0.20%

针对气导易受噪、骨导带宽受限而融合模型又难上穿戴设备的问题，CCAP 用双路零掩蔽相对多模态响应的保持度给卷积通道打分并剪掉低分通道，在 TAPS 上多架构保持 PESQ 与 STOI 的同时把 50% 剪枝 LAU-Net 在 Cortex-M7 上的延迟降到 87 ms，但高剪枝率与单次剪枝加微调仍是主要代价与边界。

该文以 SLAM 语音大模型为对象，用角距离找连续可删层块并以联合修复验证，显示 7-8B 模型只保留约六成解码器层仍保持可用识别与翻译性能，而跨任务可删位置高度一致。

针对大语音识别模型一次性剪枝会误删低幅度音素权重的问题，PhonePrune 用互补分布与最小对立体约束构造音素三元组校准集并做音素感知校准，在 50% 稀疏度下报告平均词错误率 11.50%，在韩语和日语上相对 Distil-Whisper 分别降低 13.41% 和 13.83%，代价是在英语集上弱于部分压缩基线且依赖强制对齐边界。

Samsone 针对端侧音频问答任务，采用 Whisper-Tiny 编码器加 SmolLM2 解码器的标准结构并做词汇表缩减与深度剪枝，在 MMAU 等基准上以 99M 至 356M 参数取得可比大模型的成绩，代价是语言通用能力下降且未做硬件级优化。

针对自监督前端加图池化后端这一语音防伪路线，SpAArSIST 把可学习图池化与堆栈节点注意力换成可控稀疏与轻量聚合，在后端计算量下降 20.7% 条件下把 In-the-Wild 等错误率从 4.64% 降到 2.82%，代价是 ASVspoof5 域内等错误率从 4.49% 微升到 5.05%。

针对自监督音频伪造检测模型过大难以端侧部署的问题，论文用跨域知识蒸馏补监督、用移动分数引导结构化剪枝保关键结构，在 90% 稀疏下做到 31.9M 参数与 6.3× FLOPs 下降而多数据集平均性能只降 1.30%，代价是蒸馏仍受教师在无标注域外数据上误差的上限约束。

针对 whisper-large-v3-turbo 编码器 32 层冗余问题，用留一层词错率变化选出 6 层直接删除，再以无标签英语语音做编码器隐状态均方误差蒸馏恢复，四语平均词错率从基线 18.2% 升至零样本 21.9% 再回落到 20.1%，代价是仍残留 1.9 个百分点的绝对升高和编码器参数减少 118M。

针对语音大模型含编码器与适配器且序列被音频主导的问题，提出编码器在适配器输出处打分与解码器只看文本词元的 SBI，在三模型上以无修复剪层对照显示高剪除率下更稳健，但解码器在约 20% 剪除前仍明显退化且需权衡计算开销。

论文在 Whisper 家族内比较剪枝、量化与蒸馏的部署后公平性，发现 50% Wanda 剪枝使 large-v3 的 Black/AA 与 Asian 时间税差扩大 111%，INT4 在小模型上使西非口音灾难循环成倍增加，而蒸馏在 27 格中 21 格缩小差距。

该文针对音频 Transformer 注意力块提出逐头独立的通道级结构化剪枝并用 Fisher 信息打分，在注意力参数稀疏 60% 时仍保持接近整头剪枝的分类与识别性能，但逐头剪枝的推理加速幅度小于整头剪枝且翻译任务下降更大。