模型压缩

共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读

针对全双工语音模型长时交互中声学键值缓存持续膨胀的问题，该研究在听音空隙内增设转写旁路并驱逐旧声学状态，在十分钟会话上将峰值流式缓存从 11.35K 降至 4.02K 并保持实时处理，但反通道接管率有所上升。

针对稀有术语难识别且已有音频对音频关键词检出存不下大词表的问题，该文用层稀疏选择加隐维和帧率压缩构造可预存的压缩关键词库，在不微调识别模型下以 128 倍内存节省和数倍延迟下降保持实体召回，但在大而未清洗词表上仍受干扰词影响。

针对视频推理中只看画面或只用语音转文字会丢失语调环境音的问题，Flash-VAReason 用音频时间融合加全局去重保留独特音频令牌，在 CharadesEgo 上取得 Overall 2.3789 的同时把单样本推理控制在 6.10 s，代价是长音频仍需截断且未做细粒度音频事件建模。

针对语音基础模型难以在无原始数据和无再训练条件下做结构化压缩的问题，该文用通道级 k-means 聚类合并注意力头和前馈中间单元，并在 HuBERT-large 50% 稀疏度上相对幅度剪枝取得微调前 27.73%/18.61% 绝对词错误率下降，代价是极高稀疏度和跨层方差差异大时仍会失效且需微调恢复。

论文用单帧静音探针审计 10 个视频基准揭示视觉捷径，再在 LLaVA-OneVision 上外挂语音编码器并以因果 Mamba 周期查询把 25 Hz 音频压到 1 Hz，在过滤后语音与跨模态任务上取得稳定增益而视觉任务基本不受影响，代价是延迟从 1.00 秒升至 1.60 秒。

针对端到端神经语音编码模型过大难以部署的问题，该工作用说话人分组训练组专用小模型，在主观听感上以 96% 参数量削减和从 2 kbps 到 1 kbps 的码率减半维持了大模型质量，代价是发送端需增加说话人分组与组索引传输且错分会带来损失。

针对高分辨率音视频序列输入大语言模型时计算过高且压缩研究只做单任务识别的问题，MTC-AVSR 用每秒 3.5 个令牌的压缩流加语言适配器与令牌对比对齐做识别加四语翻译，在 LRS3 干净集取得词错误率 0.74%，在 MuAViC 英西取得 28.1 BLEU，代价是噪声下部分语对仍弱于专用双语模型且大模型显存更高。

针对单帧变 Q 输入的单音高估计，论文把频率轴空洞卷积拆成秩 9 瓶颈使参数从 17787 降到 11397 且三库精度持平，并证明训练噪声下限从 +6.02 dB 压到 -20 dB 能把 -20 dB 处 RPA50 从 2.44 提到 22.41，代价是干净集掉 0.35 点，自研 C 内核以 83 kB 在四款 CPU 上快于 …

共收录 127 篇 eusipco-2026 会议论文的 Reader 深度解读

针对切分学习中 ViT 中间激活传输开销大的问题，论文提出先按 CLS 注意力聚类合并样本再按簇质心保留 Top-k 令牌的 ADC，在固定通信预算下用更少样本和更短序列完成前后向，并在 DeiT-T/S 上以更低压缩比保持精度，代价是客户端约 5.1% 的 K-means 聚类开销。

共收录 147 篇 aaai-2026 会议论文的 Reader 深度解读

共收录 199 篇 acl-2026 会议论文的 Reader 深度解读

针对整块循环把语言表示回灌到底层造成语音到语言反复的问题，BiCycle 用累积注意力对角性划分语音组与语言组并只在组内递归，在英语与法语数据上以约一半物理参数报告更低词错率，代价是仍需预训练教师与先蒸馏 30 轮再识别训练 100 轮的两阶段成本。

针对沃洛夫语音查法语文本的跨语言跨模态检索问题，论文比较晚融合与双编码器路线，最强证据是晚融合在自然口语检索与未见意图任务上保持可复述的优势，代价是依赖合成文档与较高维度推理开销。

该文用 k-稀疏自编码器把三种语音自监督特征压成不同稀疏度，再在 SUPERB 六任务上测出最优 k 各不相同，并用信息瓶颈解释为说话人与情感偏压缩、音素与识别偏保留，而输入层质量只能小幅移动该权衡。

论文用单词对齐的逐层干预揭示浅层保留声学细节而深层可大幅压缩的层级冗余，并提出训练无关的相似度合并与双阶段压缩，在三类语义任务上减少约 27.48% 预填充计算量，但中间过渡层敏感且细粒度声学影响尚未充分验证。

针对音视频大模型推理时 KV 缓存过大问题，AccKV 按层自适应聚焦关键模态并先模态内合并再跨模态校准，在 MVBench 与 AVSD 上用 10% 缓存与 120 词元预算维持接近全缓存精度，但未测量延迟与吞吐提升。

该文只训练窄而深的学生编码器逐帧回归教师预量化潜变量，在 2.8 倍参数压缩下六组配对中五组相对词错误率退化不超过 1.9%，同容量独立训练对照优 3.9% 相对，而联合训练的 J3 退化 7.7% 揭示教师与阶段边界。

语音增强 | 7.5/10