模型量化

Oído 把 13M 参数 Conformer-CTC 以整句整块加按帧动态 int8 的方式装进 ESP32-S3 并在 LibriSpeech 上做到 3.70%/8.23%，代价是单核约 2 倍实时、文本要在说话结束后数秒才出现。

论文为无网或弱网的非洲语言社区设计了一套离线语音交互流水线与两档硬件清单，并用三款 2-5B 指令模型在四种量化精度下的吞吐、内存、功耗与多语言分类准确率证明 Q4_K_M 是最兼顾速度与质量的部署选择，但树莓派首字延迟与奥罗莫语识别仍是短板。

Paradee 针对单音色 af_heart 把 Kokoro-82M 的文本侧与解码器分别蒸馏并直接拼接，在 200 句 held-out 上 UTMOS 4.41 接近教师 4.52，代价是保留 2-8 kHz 相位相关的轻微嗡嗡声并依赖相位锁定滤波做训练后修正。

针对被动声学监测每夜数十 GB 超声数据的问题，该工作把短时傅里叶特征加轻量谱减与全量卸载到 MVP 加速器的 8 比特 CNN 做成边缘门控，在空间异域低流行率下报告 AUC-ROC 0.9748 并抑制 99.4% 噪声帧，代价是只保留 65.3% 蝙蝠叫声且 100 毫秒窗仍需 104.00 ms 端到端延迟。

针对耳机助听器等电池供电设备的语音去噪功耗问题，Zephyr 把 Spiking-FullSubNet 改写为 INT8 硬件友好版本并配以稀疏感知的复用 PE 阵列，在 Intel N-DNS 上报告 14.54 dB 与 52.9nJ 每帧的估算能耗，代价是相对浮点原版约 0.66 dB 下降且能耗为 45nm 估算而非实测。

针对助听级单片机算力与功耗约束，论文用卷积网络估计最小方差无失真响应权重加轻量变换器逐帧修正，并以交错执行与混合精度在 GAP9 上实现 15 毫秒帧延迟，部署后报告 STOI 97.65%、SI-SNR 20.26 dB、宽带 PESQ 3.676、平均功耗 45.9 毫瓦，语音占空比下可超 16 小时续航，代价是权重刷新周期拉长到 564 毫秒且依赖语音 …

共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读

针对语音模型激活范围大导致常规校准信息损失的问题，论文把每层激活缩放因子校准写成局部均方误差初始化加全局任务误差优化，并用 CMA-ES 免梯度搜索求解，在五个语音任务上报告 INT8 基本无损、INT4 结合 PTQ 接近无损，但平均 2.31×加速等部署收益与部分 INT4 大误差并存。

论文把 Parakeet-CTC 的相对位置注意力、Swish 和异常激活全部改写为整数运算，在 LibriSpeech test-other 上以 4.97% 词错误率和 0.048 实时率跑通手机 NPU，代价是相对浮点基线仍高约 1.21 个百分点且依赖静态图与填充。

LUMO 针对无网与隐私敏感场景，在树莓派 5 上用本地语音识别加 4 比特量化小模型加本地合成组成全离线流水线，在短指令上报告低噪声下较低词错误率与约 3.2 秒端到端延迟，代价是强噪声下错误率明显上升且小模型推理能力有限。

针对 Conformer-Transducer 端侧过大问题，论文用二值低秩分解加梯度敏感度的混合秩分配把编码器压到亚 1 比特，用 LibriSpeech 上 1.0 bpw 混合秩 dev-other 词错误率 6.01% 与 0.2 bpw 仍可运行为证据，代价是解码器与联合网络仍需高秩且低码率下词错误率明显上升。

针对 2-3 比特下标准 GPTQ 把所有语音帧等同对待导致静音和填充主导校准的问题，DiffAQ 用编码器隐状态帧间差的幅度给 Hessian 加权，在 Whisper Medium LibriSpeech test-other 2 比特上把 WER 从 17.53% 降到 12.93%，代价是仍不能挽救 Base 模型 2 比特的表征容量不足且对突发噪声 …

该文针对带相对位置编码的 Conformer 在模拟忆阻器上执行时退化加剧的问题，确认编码后线性层的输出范围超出默认 ADC 量程是主因，用只放大位置编码层量程或去掉该线性层两种可运行方案分别将退化相对降低约 50% 和约 30%，代价是 ADC 面积功耗约束与基线小幅损失。

针对 STM32N6 上 Neural-ART 只支持静态整数量化卷积图的问题，该研究把 LiSenNet 双路 GRU 瓶颈改为卷积频率混合加因果空洞时间卷积并配套可折叠归一化与有界激活，最终以 46.2k 参数实现板载 int8 PESQ 3.01 与每 16 ms 跳 4.83 ms 处理，代价是 154 KiB 的 25 个 FIFO 流状态。

该文在因果语音增强梯子上用深监督加逐帧单调修复得到可比静态族，证明路由相对专用静态可高出约 0.11 感知质量但与修复后静态前沿差距小于 0.01，且在 STM32N6 实测时延上动态执行只提供同一梯子内的中间工作点。

该研究在统一协议下对 3 个核心加 8 个复现加 2 个盲测 TTS 模型做训练后量化，发现相同位宽下自然度损失完全取决于模型特异的敏感部件，最强证据是 4 比特逐通道权重让 Supertonic 下降 2.8 个 UTMOS 而 Kokoro 仅下降 0.07，而代价是逐张量缩放即使在 8 比特也会严重退化且真实部署的延迟与能耗必须逐运行时验证。

论文在 Whisper tiny.en 与 base.en 上做 80 余组训练后量化对照，证明把激活从 16 位降到 8 位带来 1-3 个百分点词错误率损失，而 NVFP4 的 W4A16 以 6.4 倍压缩做到接近无损，代价是细粒度带来双精度运算需求与 MXFP4 在标准流程下失效。

论文在 Whisper 家族内比较剪枝、量化与蒸馏的部署后公平性，发现 50% Wanda 剪枝使 large-v3 的 Black/AA 与 Asian 时间税差扩大 111%，INT4 在小模型上使西非口音灾难循环成倍增加，而蒸馏在 27 格中 21 格缩小差距。

针对常开边缘设备的因果低延迟语音活动检测问题，kiloVAD 选择标准梅尔特征加纯卷积主干，配合逐层结构化剪枝与角度感知量化，在 200 毫秒因果评估下以 2.1 千参数达到 AVA-Speech 上 0.850 的曲线下面积，代价是极限压缩时部分种子出现层坍塌且 4 比特量化仍明显掉点。

论文以 Qwen2-Audio 为案例分离词汇输出、转录不足的波形依赖行为与打包实现测量，显示 6 比特翻译选中分配在冻结重放上 chrF 提升但情绪识别下降，而反例与对照说明文本分不能替代波形使用证据。