在线缺未来、离线看全文:用在线预测编码补齐双模自监督的注意力落差
针对双模自监督在流式与非流式下注意力可见范围不一致导致的优化困难,论文用多步未来预测约束在线寄存器并分离层归一化参数,在 LibriSpeech 160 ms 条件下把在线词错误率从 3.65% 降到 3.40% 和从 10.15% 降到 9.65%,代价是增加一个权重为 0.1 的辅助损失和按模式维护的归一化参数。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
针对双模自监督在流式与非流式下注意力可见范围不一致导致的优化困难,论文用多步未来预测约束在线寄存器并分离层归一化参数,在 LibriSpeech 160 ms 条件下把在线词错误率从 3.65% 降到 3.40% 和从 10.15% 降到 9.65%,代价是增加一个权重为 0.1 的辅助损失和按模式维护的归一化参数。
该文以 168000 次合成语音自动识别转写和 15 人先导听写实验检验五个语言复杂度等级,显示 9–19 词自然语法句错误最低且语法优势随信噪比改善而扩大,因而主张噪声下不做简化、保持语法完整,但人类证据仍是小样本先导结论。
论文针对 Whisper 在德拉威语上词错误率偏高的问题提出解码器内的加权注意力与自条件反馈,在韩语上把词错误率从 3.34% 降到 2.51%、在斯瓦希里语上从 16.07% 降到 14.58%,代价是每层增加轻量门控与一次中间预测投影。
针对大语音识别模型一次性剪枝会误删低幅度音素权重的问题,PhonePrune 用互补分布与最小对立体约束构造音素三元组校准集并做音素感知校准,在 50% 稀疏度下报告平均词错误率 11.50%,在韩语和日语上相对 Distil-Whisper 分别降低 13.41% 和 13.83%,代价是在英语集上弱于部分压缩基线且依赖强制对齐边界。
该文在 TIMIT 音素识别上用卷积加双向长短时记忆网络的原始波形模型把总音素错误率拆到三套宽音类并统计替换混淆,最强证据是仅用 TIMIT 达 13.9%/15.3% 而 WSJ 迁移后达 11.3%/12.3% 并超过滤波器组基线,代价是增益高度集中于过渡依赖的辅音类而元音类改善有限。
针对推理时缺少说话人坐标导致地理条件适配无法启用的问题,论文用冻结编码器上的轻量坐标回归头先预测经纬度再做两遍解码,在荷兰方言上用 10 秒语音达到约 25 公里、30 秒约 16 公里定位误差,使无坐标的 CRH+GLoRIA 比同秩 LoRA 平均好 3.05% 词错误率且距真坐标上限仅 0.58%,代价是多一次编码器前向、延迟增加不到 3% 且外推区域 …
针对传统词错误率用统一归一化抹掉格式差异的问题,该工作构建 3210 条音频-指令-参考三元组并用偏好感知归一化选择性跳过评测步骤,最强证据是 Qwen3-Omni 在归一化偏好指令下取得 9.84% 而实体偏好下幻觉到 12.68%,代价是仅覆盖英语且仍需人工校对。
针对对齐编码器顶层才突然形成对齐、在长语音上脆弱的问题,论文在中间层加细粒度对齐目标和 CTC 辅助损失,在 LibriSpeech 上把 5.0/7.8 降到 3.1/5.6,长语音增益最大,代价是多头预测器与权重调参。
针对无参考转录时难以判断识别假设是否忠于语音的问题,论文用现成自回归语音合成模型计算语音 token 在文本假设下的条件似然作为声学差异度,并在多系统合并与 N-best 重排上验证,最强证据是在噪声下相关性增强与最高约 20% 相对错误率下降,代价是依赖外部 TTS 知识且长争议段会退化为整句选择。
针对只有目标域文本的跨域适配问题,论文提出把文本嵌入映射到音频提示空间的 TE2SL 精炼模块,在 SPGISpeech 上把词错误率从 11.1% 降到 8.5%,代价是需要先在源域配对数据上训练一个 18.6M 参数的 Conformer 映射器。
针对 Whisper 类模型在英语多领域顺序适配中的灾难性遗忘,论文提出以熵加权 token 蒸馏提纯保持方向、仅在冲突时对监督梯度做可调投影并只调解码器,最终平均词错误率 8.12% 相对不忘学习降低 7.2%,代价是新领域适配词错误率有所上升且 η 需权衡。
针对西班牙语渐冻症、帕金森和卒中后语音识别难且缺野外基准的问题,论文构建 22 人 444 段的 S-DiverSe 只做评测集,对比 4 个 ASR 系统与微调策略,最强证据是启发式文本后处理把 Voxtral-Mini 和 Whisper 在 S-DiverSe 上的总词错率降到 23.73% 和 22.01%,而全量微调在域外反而恶化到 26.81% …
该研究在 80 小时英语多口音与失语症基准上比较自监督预训练、多语 ASR 预训练、G2P 机器标注与人类专家标注四段课程,报告人类标注超过 20 至 30 小时后 5.3K 小时 G2P 不再显著增益而 ASR 预训练持续改善域外泛化,并以 40.8 小时人类微调实现平均加权音素特征错误率约 3.5%。
针对无回放的连续说话人自适应中统一正交隔离会阻断相似说话人迁移的问题,SCOLoRA 用说话人嵌入余弦相似度生成带符号系数来在对齐与正交之间切换,在 TEDLIUM3 上取得测试平均 4.11% 与遗忘 0.05,代价是每步需保留历史 LoRA 基并多训练一个轻量映射器。
针对重叠语音中多人同词与注册信息利用不足的问题,该文把连续说话人嵌入加进假设聚类距离,在相同内容两说话人上把词错误率从 68.3% 降到 36.6%,在目标说话人干净两说话人上从 18.7% 降到 14.4%,代价是权重过大时会压制文本相似度并增加多假设解码聚类开销。
针对通用语音模型预标注与人工精修脱节、现有工具缺少流水线编排和私有部署的问题,SpeechBench 用前后端分离加可视化流水线与层级编辑把多模型串接起来,展示了离线笔记本演示的可运行性,代价是本文未报告定量效率与精度对照。
针对巴西葡萄牙语自发语音缺乏统一评测的问题,论文把多个公开语料的测试集拼成 72.46 小时的 Tarsila-ASR,用它评测开源模型并以 1156 小时会话数据微调 Whisper-large-v3 得到最低词错误率,但代价是推理更慢且中间检查点优于长训练。
针对合成训练难迁移到真实环境的问题,论文用 2.9 小时 CHiME-3 真实带转录噪声加 VCTK 合成对做开关双模式微调,在 CHiME 上把词错误率从 63.66 降到 20.27 并把感知质量做到 3.23,代价是增强偏置与识别偏置仍需二选一且加长开关会回落感知质量。
该研究针对 6 种南部班图语,用词错误率加声调统计的混合难度排序和门控声调适配器做课程学习,在 Swivuriso 训练并向 NCHLT 迁移,最好的 W2V-BERT 声调条件模型平均词错误率为 28.41%,但架构按语族分化且课程收益不稳定。
针对增强伪影损伤识别的问题,该文提出免训练的置信度加权观察相加方法,在多种增强与识别组合上降低词错误率,但当含噪与增强差距过大时仍可能不及最强单路。