Listen, Think, Transcribe: Continuous Latent Test-Time Scaling for ASR
📄 Listen, Think, Transcribe: Continuous Latent Test-Time Scaling for ASR #语音识别 #参数高效微调 #低资源 #自监督学习 7.5/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.5/10 | 前25% | #语音识别 | #Adapter | #参数高效微调 #低资源 | arxiv 👥 作者与机构 第一作者:Ho Lam Chung(台湾大学,华硕) 通讯作者:Hung-yi Lee(台湾大学) 作者列表:Ho Lam Chung(台湾大学,华硕)、Yiming Chen(新加坡国立大学)、Dau-Cheng Lyu(华硕)、Hsiao-Tsung Hung(华硕)、Hung-yi Lee(台湾大学) 💡 毒舌点评 这篇论文将连续潜在测试时缩放巧妙地引入冻结ASR骨干网,稳定注入机制的设计颇具匠心,实验覆盖面广、消融充分,证明了在极小数据量下该方法明显优于传统微调。然而,WER的绝对下降幅度仅有千分之一到百分之一量级,实际收益偏薄,且所有实验都基于同一个0.6B的Qwen3-ASR模型,方法的可推广性尚存疑;此外零代码开源,令审稿人对其复现成本深感担忧。 📌 核心摘要 问题:端到端ASR模型一次前向完成转录,无法对困难输入进行额外的“思考”。本文探究能否在冻结ASR骨干网上添加连续的潜在计算环,实现输入依赖的测试时计算分配。 方法核心:LatentASR引入两个可训练模块——Latent Adapter 和 Value Head。Latent Adapter 通过有界循环更新精炼少量潜在前缀嵌入,并采用三种稳定机制(归一化、门控、固定锚点)防止冻结解码器崩溃;Value Head 预测每个话语的潜在计算效用并提前停止循环。 新颖点:不同于在全部参数上微调或修改输入分布,该方法仅训练约4M参数,保持骨干完全冻结,通过受限的、可选的残差更新在连续空间内进行迭代优化,无需中间推理文本。 主要结果:在500条话语的极小训练集下,LatentASR 是唯一不提升WER的方法,在 FLEURS (en_us) 上相对WER降低2.54% (4.900→4.776),VoxPopuli (en) 降低0.47% (9.038→8.995);口音/语码切换 (ASCEND) 上相对CER降低16.0% (57.81→48.55);在30种语言的多语言评估中WER均匀下降,无过拟合。 实际意义:提供了一种无需修改预训练ASR骨干即可为其注入自适应计算量的方法,可将固定算力转变为按需分配的软调度。 主要局限:干净语音上的绝对提升很小,方法对激活集大小和构成敏感(最优窗口仅500条),未见在更大ASR模型上的验证,零开源降低了即时工业采纳的可能性,且未探讨流式/实时场景的可行性。 🔗 开源详情 代码:论文中未提及代码链接 模型权重:论文中未提及模型权重的发布链接(如 HuggingFace 或 ModelScope) 数据集:训练使用 500 条混合样本,来源于以下公开数据集: Common Voice 16.0 FLEURS VoxPopuli LibriSpeech GigaSpeech The People’s Speech ASCEND 上述数据集均为公开可获取的研究语料,但论文未给出具体下载链接或预处理脚本的仓库地址。 Demo:论文中未提及 复现材料:论文中未提及提供训练配置、检查点或补充附录等专门复现材料;训练细节(优化器、超参数、数据构造原则)在正文第 4.1 节有描述,但未指向独立的配置文件或代码仓库。 论文中引用的开源项目: Whisper (Radford et al.) —— 原始模型为 OpenAI 发布,未提供链接,通常获取方式为 GitHub: https://github.com/openai/whisper OWSM v4 —— 基于 ESPnet 的开源语音模型,通常获取方式为 GitHub: https://github.com/espnet/espnet Qwen3-ASR (0.6B) —— 论文中作为基础模型,技术报告为 arXiv:2601.21337,未给出权重链接;通常可通过 HuggingFace 或 ModelScope 获取 Coconut (Hao et al.) —— 论文 arXiv:2412.06769,未提供项目链接 Quiet-STaR (Zelikman et al.) —— 论文 arXiv:2403.09629,未提供项目链接 Pause tokens (Goyal et al.) —— 论文发表于 ICLR 2024,未提供项目链接 (注:以上仅列出在论文中被直接引用且涉及开源工具/模型的条目,无具体链接指向作者提供的仓库时,给出常见获取渠道;没有提及的项目则写“未提及”) 🏗️ 方法概述和架构 LatentASR 在完全冻结的编码器‑解码器ASR骨干上叠加两个轻量可训练模块:Latent Adapter 和 Value Head。整体流程:给定语音a,编码器输出声学状态Z并传入解码器;在解码器输入的系统提示与需转录的文本之间,插入N个隐式前缀位置(不产生任何文本token)。Latent Adapter 逐个位置对这些隐式嵌入进行迭代精炼,Value Head 监控解码器隐状态,判断是否继续或提前停止循环。若Value Head在起始锚点判定无益,则全跳过N步,直接回退到冻结基线的输出;否则逐步执行,并可在中间任意步停下。 ...