为伪造判别而压缩:在高稀疏下保住跨域泛化的剪枝蒸馏
针对自监督音频伪造检测模型过大难以端侧部署的问题,论文用跨域知识蒸馏补监督、用移动分数引导结构化剪枝保关键结构,在 90% 稀疏下做到 31.9M 参数与 6.3× FLOPs 下降而多数据集平均性能只降 1.30%,代价是蒸馏仍受教师在无标注域外数据上误差的上限约束。
针对自监督音频伪造检测模型过大难以端侧部署的问题,论文用跨域知识蒸馏补监督、用移动分数引导结构化剪枝保关键结构,在 90% 稀疏下做到 31.9M 参数与 6.3× FLOPs 下降而多数据集平均性能只降 1.30%,代价是蒸馏仍受教师在无标注域外数据上误差的上限约束。
针对 whisper-large-v3-turbo 编码器 32 层冗余问题,用留一层词错率变化选出 6 层直接删除,再以无标签英语语音做编码器隐状态均方误差蒸馏恢复,四语平均词错率从基线 18.2% 升至零样本 21.9% 再回落到 20.1%,代价是仍残留 1.9 个百分点的绝对升高和编码器参数减少 118M。
针对语音大模型含编码器与适配器且序列被音频主导的问题,提出编码器在适配器输出处打分与解码器只看文本词元的 SBI,在三模型上以无修复剪层对照显示高剪除率下更稳健,但解码器在约 20% 剪除前仍明显退化且需权衡计算开销。
论文在 Whisper 家族内比较剪枝、量化与蒸馏的部署后公平性,发现 50% Wanda 剪枝使 large-v3 的 Black/AA 与 Asian 时间税差扩大 111%,INT4 在小模型上使西非口音灾难循环成倍增加,而蒸馏在 27 格中 21 格缩小差距。
该文针对音频 Transformer 注意力块提出逐头独立的通道级结构化剪枝并用 Fisher 信息打分,在注意力参数稀疏 60% 时仍保持接近整头剪枝的分类与识别性能,但逐头剪枝的推理加速幅度小于整头剪枝且翻译任务下降更大。
Samsone 针对端侧音频问答,用 Whisper-Tiny 编码器加 SmolLM2 解码器与非线性映射器做单阶段训练,在 MMAU 与 MMAU-Pro 上超过同级小模型并接近部分大模型,代价是通用语言能力下降且未做移动端硬件级优化。
共收录 118 篇 jep-2026 会议论文的 Reader 深度解读
针对班巴拉语 32 小时监督数据的离线解码任务,BaldWhisper 先把 Whisper-base 解码器 6 层按相邻对加权融合为 3 层并做知识蒸馏,再把共享输入输出嵌入矩阵做秩 96 低秩分解加特征蒸馏,最终在保持基线约九成性能的同时把体积缩小约一半并把解码速度提高到两倍以上,代价是词错误率从基线水平上升数个百分点。
共收录 103 篇 cvpr-2026 会议论文的 Reader 深度解读
共收录 91 篇 dafx-2026 会议论文的 Reader 深度解读
共收录 127 篇 eusipco-2026 会议论文的 Reader 深度解读
针对全模态大模型音频加视频序列过长问题,OmniZip 用免训练的音频引导加交错时空压缩做推理时剪枝,最强证据是在 Qwen2.5-Omni 上保持接近满词元精度的同时实现 2.51-3.42×预填充加速与约 10G 显存下降,代价是剪枝率需按任务平衡且依赖音频编码器注意力。
论文以 Whisper-small 为对象,用梯度与 Fisher 灵敏度定位可剪部位并做无微调一次幅度剪枝,最强证据是解码器自注意力 50% 稀疏度在 LibriSpeech test-other 上绝对词错误率下降 2.38%,代价是解码器前馈与早期解码器层在同等稀疏度下灾难性退化且全局均匀剪枝在 40% 附近崩溃。
共收录 147 篇 aaai-2026 会议论文的 Reader 深度解读
共收录 199 篇 acl-2026 会议论文的 Reader 深度解读
针对基于扩散变换器的语音合成推理太慢的问题,论文用时间跳过与分支跳过复用已算结果,并经三阶段校准在保持可懂度和相似度下把计算量与实时率明显压低,而代价是阈值过高后音质会退化。
把文本解码器的 DiscoGP 搬到 HuBERT 与 Wav2Vec 2.0 上做分类电路发现,用冻结与随机对照验证预训练计算的作用,并以砍掉 QKV 残差把边发现显存从四次降到三次,代价是部分任务仍需保留 MLP 残差与早停。
该工作用迭代局部幅度剪枝去掉 90% 可剪枝权重,并以只遍历非零权重的自研中央处理器稀疏引擎在 48 kHz 与 256 采样块下把实时因子压到约 0.6 实现实时运行,代价是超出感受野的长混响尾音误差增大与高增益下和输入无关的噪声嗡声无法复现。
针对 Qwen3-ASR-0.6B 的 18 层音频编码器,X-AuT 用短预算行为探针选择可恢复层组合,再经表示对齐、跨尺度蒸馏与 LoRA 微调分两跳压到 14 层,单次运行显示 16 层宏平均误差从 5.61% 降到 5.27%,14 层为 5.75% 且音频塔参数减少 20.7%。
针对语音分离模型分离网络最重、均匀剪枝易伤轻层的矛盾,SepPrune 用结构分析定位、可微掩码选通道、剪后微调恢复的分布优化,在三数据集多骨干上降低参数与计算量,而一轮微调即可恢复大部分性能,但大幅剪枝时恢复速度因结构而异。