共享编码器的序列到序列修正如何改善 EEND-VC 的说话人归属
本文用 DiariZen 的自监督表示做说话人条件解码和先验约束重排,在八个领域上把说话人混淆相对降低约 15%,宏平均 DER 降到 11.90%,代价是实时率增加约 15%。
本文用 DiariZen 的自监督表示做说话人条件解码和先验约束重排,在八个领域上把说话人混淆相对降低约 15%,宏平均 DER 降到 11.90%,代价是实时率增加约 15%。
论文先保留已调好的稠密混响特性,再把反馈矩阵拟合为固定置换加小正交块的分级乘积,并在 Apple M2 上以更少的存储和更短的反馈乘法时间逼近原频响与听感,但结论只在给定延迟增益衰减与测试条件下成立。
论文针对折叠复用引擎中精度与工作量脱钩的问题,用按存储定价的混合精度和按调度周期定价的通道稀疏分别压缩权重带与计算调度,在 Kria KV260 上证明稀疏跳过能同时降低帧耗时与动态能量而精度宽度主要影响存储与功耗。
论文在统一流程下比较音频 Transformer 的剪枝与合并稀疏化,提出结合注意力与频域线索的谱平坦度方法,并在三个数据集上验证了频率感知策略在训练后稀疏化中的优势与计算节省。
长音频会产生过密的音频令牌并推高解码代价,AudioScorer 用问题感知的打分器学习每个令牌的保留优先级并做 Top-K 剪枝,在 10% 保留率下保住了语音内容任务,额外打分开销约占预填充计算的 0.4 到 0.9%。
针对音频编码器产生过长音频 Token 序列导致解码器自注意力开销过大的问题,AudioTETRIS 用编码器隐状态的帧间变化构造音素过渡先验,再与随深度切换的解码器注意力分数相乘做逐层 top-k 剪枝,在 Qwen2-Audio 等三个模型上用 25% Token 保持接近未压缩精度,但高压缩下转写任务仍先退化且需一次校准确定交叉层。
该文针对 XLSR-AASIST 这类 3 亿参数量级检测器难以部署的问题,用跨域知识蒸馏补泛化监督、用移动分数引导结构化剪枝保关键结构,在 90% 稀疏度下做到 31.9M 参数和 23.3G FLOPs 且多数据集平均只上升 1.30% EER。
论文研究端到端语音依存句法分析中连接语音编码器与句法分析器的三段中间神经网络是否必要,提出去掉它们的简化结构,在法语、斯洛文尼亚语和奈贾语上达到相当或更好的分析准确率并减少约 12% 参数,代价和结论都只在联合微调与冻结编码器等明确条件下成立。
论文研究不做梯度微调能否直接用预训练 ASR 编码器做说话人无关唤醒词检测,并用 SliceGPT 式 PCA 结构化剪枝把编码器通道减半,证据是 50% 剪枝时参数约减 40% 而 EER 仅温和上升,但随机保留同等维度会使 EER 恶化到 40% 以上。
针对一分钟语音变成 750-1500 个音频 token 且语言模型浅层仍高度关注音频的问题,用编码器输出的闭式线性映射预测全层注意力排序并在模型前剪枝,转录用分箱覆盖、选择题再在第 2 层做精度融合校正,保守预算下与全音频差距控制在小范围内,激进预算下全面领先可运行基线,代价是线性先验在两类 Qwen-Audio 模型上失效且需用漂移筛查区分。
论文在 SLAM-ASR 管线上做音频编码器自顶向下剪枝并在每层重训投影器,发现 Whisper Large 剪 2 层时聚合词错率从 21.6% 降到 21.1% 却让 Black 组上升 0.9 个百分点,到剪 8 层时 Black 与 Asian 差距从 13.5 扩大到 24.5 个百分点,而 LoRA 虽降低各组误差却让优势组获益更多。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
针对语音语言模型中语音 token 过长且时域冗余的问题,论文提出在编码器后按成对余弦相似度自适应合并的 AdaTS,用阈值 0.85 附近约 2 倍压缩在 ASR、问答与翻译上保持或超过均匀下采样,代价是阈值过低与只在对齐阶段压缩会明显掉点。
OnDA 针对常开关键词识别的说话人与环境偏移,把权重自学习与结构化通道剪枝都搬到端上,用伪标签的域内数据做剪枝与微调,在 HeySnips/HeySnapdragon 上以 0.5 次误报每小时下等精度实现最高 9.63×压缩,代价是伪标签噪声与微调样本更少且剪枝时机影响端上能耗回本点。
该研究在 Whisper-small 上用免微调的一次性幅度剪枝证明剪对位置可降低词错误率,解码器自注意力剪 50% 在 LibriSpeech test-other 上带来 2.38% 绝对增益,而 40.8% 稀疏度的敏感度感知压缩仅使词错误率恶化 0.20%
针对气导易受噪、骨导带宽受限而融合模型又难上穿戴设备的问题,CCAP 用双路零掩蔽相对多模态响应的保持度给卷积通道打分并剪掉低分通道,在 TAPS 上多架构保持 PESQ 与 STOI 的同时把 50% 剪枝 LAU-Net 在 Cortex-M7 上的延迟降到 87 ms,但高剪枝率与单次剪枝加微调仍是主要代价与边界。
该文以 SLAM 语音大模型为对象,用角距离找连续可删层块并以联合修复验证,显示 7-8B 模型只保留约六成解码器层仍保持可用识别与翻译性能,而跨任务可删位置高度一致。
针对大语音识别模型一次性剪枝会误删低幅度音素权重的问题,PhonePrune 用互补分布与最小对立体约束构造音素三元组校准集并做音素感知校准,在 50% 稀疏度下报告平均词错误率 11.50%,在韩语和日语上相对 Distil-Whisper 分别降低 13.41% 和 13.83%,代价是在英语集上弱于部分压缩基线且依赖强制对齐边界。
Samsone 针对端侧音频问答任务,采用 Whisper-Tiny 编码器加 SmolLM2 解码器的标准结构并做词汇表缩减与深度剪枝,在 MMAU 等基准上以 99M 至 356M 参数取得可比大模型的成绩,代价是语言通用能力下降且未做硬件级优化。
针对自监督前端加图池化后端这一语音防伪路线,SpAArSIST 把可学习图池化与堆栈节点注意力换成可控稀疏与轻量聚合,在后端计算量下降 20.7% 条件下把 In-the-Wild 等错误率从 4.64% 降到 2.82%,代价是 ASVspoof5 域内等错误率从 4.49% 微升到 5.05%。