非自回归模型

📄 UMA-SPLIT: Unimodal Aggregation for Both English and Mandarin Non-Autoregressive Speech Recognition #语音识别 #端到端 #多语言 #非自回归模型 #CTC ✅ 7.5/10 | 前25% | #语音识别 | #端到端 | #多语言 #非自回归模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Ying Fang（浙江大学；西湖大学工程学院） 通讯作者：Xiaofei Li（西湖大学工程学院；西湖高等研究院） 作者列表：Ying Fang（浙江大学；西湖大学工程学院），Xiaofei Li（西湖大学工程学院；西湖高等研究院） 💡 毒舌点评 亮点：用一个极其简单（将一个帧特征映射为两个token表示）的分裂模块，就巧妙地解决了UMA方法在英语BPE token上的核心矛盾——即单个聚合帧可能对应多个细粒度token的问题，堪称“四两拨千斤”。 短板：论文对“为何大模型在UMA后帧率反而更高、生成更多空白token”这一有趣现象只字未提分析，留下了理论解释的空白；同时，作为宣称匹配AR模型性能的NAR工作，未深入讨论与更强AR解码器（如大型LM集成）在性能天花板上的潜在差距。 📌 核心摘要 要解决的问题：原始的UMA（单峰聚合）方法在英语等使用BPE分词的语言上效果不佳，因为单个音节可能被拆分为多个token，或单个token对应的声学帧数过少，无法形成有效的单峰聚合权重。 方法核心：提出UMA-SPLIT模型，在原有UMA动态聚合声学帧的基础上，增加一个简单的“分裂模块”，将每个聚合后的特征帧显式地映射到两个可能的文本token表示上，然后计算CTC损失。这使得模型能够灵活处理一个聚合帧对应零个、一个或两个非空token的情况。 与已有方法相比新在哪里：这是首次尝试将基于显式帧聚合的UMA框架扩展到英语识别。核心创新点在于设计了分裂模块，突破了原始UMA“一个聚合帧严格对应一个token”的限制，增强了模型对细粒度token的表达能力。 主要实验结果：模型在两大基准测试上取得了优异性能。在LibriSpeech上，Large模型（149M参数）达到2.22% / 4.93% 的WER（clean/other），性能匹配甚至超越了同类的AR混合CTC/AED模型（2.14%/4.55%），且推断速度快约10倍。在AISHELL-1上，CER达到4.43%，与最优的AR基线持平，且优于其他NAR模型。 模型 类型 LibriSpeech WER (clean/other) AISHELL-1 CER (test) 参数量 E-Branchformer (L), hybrid AR 2.14 / 4.55 - 149M UMA-Split (L) (prop.) NAR 2.22 / 4.93 - 149M Branchformer (B), hybrid AR - 4.43 45M UMA-Split (prop.) NAR - 4.43 46M 实际意义：该方法使得非自回归模型在保持高速推断优势的同时，在英语和普通话识别上都能达到与复杂自回归模型相媲美的准确率，为构建实用、高效的多语言语音识别系统提供了有力的技术方案。 主要局限性：引入分裂模块略微增加了模型的计算开销；论文未对模型在大参数规模下的某些反常统计现象（如UMA后帧率升高）给出解释；性能上限可能仍受限于CTC框架本身，且未与集成了大型语言模型的解码策略进行对比。 🏗️ 模型架构 图1: pdf-image-page3-idx0] ...