模型量化

论文在 Whisper tiny.en 与 base.en 上做 80 余组训练后量化对照，证明把激活从 16 位降到 8 位带来 1-3 个百分点词错误率损失，而 NVFP4 的 W4A16 以 6.4 倍压缩做到接近无损，代价是细粒度带来双精度运算需求与 MXFP4 在标准流程下失效。

论文在 Whisper 家族内比较剪枝、量化与蒸馏的部署后公平性，发现 50% Wanda 剪枝使 large-v3 的 Black/AA 与 Asian 时间税差扩大 111%，INT4 在小模型上使西非口音灾难循环成倍增加，而蒸馏在 27 格中 21 格缩小差距。

针对常开边缘设备的因果低延迟语音活动检测问题，kiloVAD 选择标准梅尔特征加纯卷积主干，配合逐层结构化剪枝与角度感知量化，在 200 毫秒因果评估下以 2.1 千参数达到 AVA-Speech 上 0.850 的曲线下面积，代价是极限压缩时部分种子出现层坍塌且 4 比特量化仍明显掉点。

论文以 Qwen2-Audio 为案例分离词汇输出、转录不足的波形依赖行为与打包实现测量，显示 6 比特翻译选中分配在冻结重放上 chrF 提升但情绪识别下降，而反例与对照说明文本分不能替代波形使用证据。

针对 Qwen2-Audio-7B 语音翻译压缩到 4 GB 磁盘的问题，Diet-KIT 用 HQQ 分组量化打底、嵌入低比特加敏感度选层补足、AWQ 校准收尾，在 ACL 60/60 上以 3.98 GB 取得 en→de COMET 74.4、en→zh 77.1，代价是全模型统一 3 比特会使 BLEU 与 COMET 断崖式下跌。

共收录 38 篇 iwslt-2026 会议论文的 Reader 深度解读

共收录 52 篇 odyssey-2026 会议论文的 Reader 深度解读

该文用均匀 K 均值量化感知训练在 ResNet-36 与 ResNet-200 上定位 2 比特为主要退化区间，以分数漂移与阈值附近有害翻转解释退化，并用 2/3/4 比特校准级联在接近 FP32 性能下降低平均计算代价，但三模型常驻带来内存代价。

论文把短时傅里叶、Mel、倒谱和 Gammatone 直接搬到全同态加密上，用膨胀、贫民变换等近似降低累加器位宽，在 VocalSet 和 OxVoc 上把描述符统计错误率从常规方法的 5.9% 和 6.5% 降到膨胀 4 倍时的 4.7% 和 1.9%，代价是 64 毫秒音频加密计算约 12970 秒且高频谐波丢失。

该研究固定 Qwen2-Audio-7B-Instruct 做受限英译中语音翻译，只对 gate_proj、up_proj 和 down_proj 做有损量化加无损 Zstandard 压缩，本地 416 条对比中 q3 加 Zstd 以 0.7767 的 COMET 最接近 0.7792 的基线而体积降到 10.312 GB，q2 加 Zstd 以 …

语音识别 | 9/10

语音识别 | 8.2/10

语音识别 | 6/10

Adaptive Regularization for Sparsity Control in Bregman-Based Optimizers