参数高效微调

📄 When Synthetic Speech Is All You Have: Better Call GRPO 标签：#语音识别 #低资源 #参数高效微调 #强化学习 7.8/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.4/0.5 | 工程 1.2/1.5 ✅ 7.8/10 | 前25% | 文档类型：方法研究 | 评分置信度：高 | #语音识别 | #强化学习 | #低资源 #参数高效微调 | arxiv 👥 作者与机构 第一作者：Shashi Kumar, Yanis Labrak (论文中标注为共同第一作者) 通讯作者：未说明 作者列表：Shashi Kumar (1,2,), Yanis Labrak (1,), Hasindri Watawana (1,2), Sergio Burdisso (1), Esaú Villatoro-Tello (1), Kadri Hacioğlu (3), Petr Motlicek (1,4), Andreas Stolcke (3) 机构列表： Idiap Research Institute, Martigny, Switzerland École polytechnique fédérale de Lausanne (EPFL), Switzerland Uniphore Brno University of Technology, Czech Republic 💡 毒舌点评 论文的核心亮点在于将NLP领域成熟的GRPO方法系统地应用于语音识别中的合成数据适应问题，并提供了详尽的机制分析（如插入错误、停止校准、注意力锚定），其WCR/WER下降的幅度令人印象深刻。然而，其核心短板也同样明显：奖励函数设计过于简单，仅为1-WER，缺乏对生成过程更精细的引导；且整个研究局限于英语单一语言的银行电话场景，模型和方法的通用性未经验证，颇有“好马配好鞍”的定向优化之嫌。 ...

语音/音乐/音频论文速递 2026-07-10 共分析 19 篇论文 ⚡ 今日概览 📥 抓取 19 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 4篇 ████ #音乐转录 2篇 ██ #语音质量评估 2篇 ██ #多模态模型 2篇 ██ #音乐生成 1篇 █ #音频事件检测 1篇 █ #语音分离 1篇 █ #语音情感识别 1篇 █ 📊 论文评分排行榜（19 篇，按分数降序） 排名 论文 总分 分档 文档类型 主任务 🥇 A Quantized Native Runtime for On-Device Semantic Audio 8.4分 前25% 系统技术报告 #音乐生成 🥈 MuScriptor: An Open Model for Multi-Instrument Music Tr 8.3分 前25% 系统技术报告 #音乐转录 🥉 A Self-Supervised Approach for Minimal-Annotation Hydro 8.3分 前25% 系统技术报告 #音频事件检测 4. COALA: Robust Contextualized Speech-augmented Language 8.2分 前25% 方法研究 #语音识别 5. PS4: Proxy-Supervised Joint Training for Real Target Sp 8.0分 前25% 系统技术报告 #语音分离 6. MulTTiPop: A Multitrack Transcription Dataset for Pop M 7.7分 前25% 数据集与基准 #音乐转录 7. SHAP-Weighted Cross-Modal Expert Fusion for Emotion and 7.7分 前25% 方法研究 #语音情感识别 8. When Synthetic Speech Is All You Have: Better Call GRPO 7.7分 前25% 方法研究 #语音识别 9. Structural Bottlenecks on Frequency Representation in E 7.6分 前25% 方法研究 #音频生成 10. A Reliability Assessment of LALM Audio Judges for Full- 7.1分 前50% 系统技术报告 #语音质量评估 11. Inverse-designed meta processing units for multi-task n 6.9分 前50% 系统技术报告 #音频理解 12. Multimodal Unlearning Across Vision, Language, Video, a 6.9分 前50% 综述 #多模态模型 13. Best-of-\(N\) TTS Evaluation is Confounded by ASR Family 6.7分 前50% 方法研究 #语音质量评估 14. Why Do You Say It Like That? A Phoneme-Level Framework 6.5分 前50% 方法研究 #语音伪造检测 15. It Takes Few to TANGO: A Quantized Distributed Model fo 6.5分 前50% 系统技术报告 #语音增强 16. On the Role of Conversational Timing in Synthetic Train 6.4分 前50% 方法研究 #语音识别 17. Diarization-Guided Qwen-ASR Adaptation for Multilingual 5.7分 前50% 系统技术报告 #语音识别 18. Multimodal Digital Biomarker for Asthma: Complementary 5.3分 后50% 应用研究 #多模态模型 19. Vidu S1: A Real-Time Interactive Video Generation Model 5.2分 后50% 系统技术报告 #音视频交互 📋 论文列表 🥇 A Quantized Native Runtime for On-Device Semantic Audio Generation 8.4/10 | 创新 1.3/2 | 严谨 1.3/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 ...

📄 BlueMagpie-TTS: A Token-Efficient Tokenizer, Language Model, and TTS for Taiwanese-Accent Code-Switching Speech #语音合成 #多语言 #领域适应 #参数高效微调 #扩散模型 6.5/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.6/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 6.5/10 | 前50% | #语音合成 | #领域适应 | #多语言 #参数高效微调 | arxiv 👥 作者与机构 第一作者：Ho Lam Chung（未说明） 通讯作者：未说明 作者列表：Ho Lam Chung（未说明）、Bo-Xuan Zheng（未说明）、Cheng-Chieh Huang（未说明）、Cheng-Han Chang（未说明）、Jung-Ching Chen（未说明）、Lok-Lam Ieong（未说明）、Ting-Lin Hsiao（未说明）、Yu-Cheng Lee（未说明）、Yi-Hsin Chung（未说明）、Yu-Kai Guo（未说明）、Hung-yi Lee（未说明） 💡 毒舌点评 论文从字节级 BPE 的 tokenizer 到十亿参数语言模型前端再到 TTS 合成，堆出了一条完整的台湾本土化语音合成栈。PangolinTokenizer 在台湾多脚本文本上做到了最低 token 率和最高词汇效率，Barbet 作为前端在中文生成任务上压过同类模型，BlueMagpie-TTS 的 CER 从 11.45% 降到 4.81%，盲听偏好遥遥领先。但整套方案的核心（声学堆栈、BPE、Mamba 混合架构）几乎全部复用现有组件，真正的创新在于针对台湾语境做数据适配和前端替换，并通过桥接蒸馏与联合微调把各部分粘在一起。更致命的是，所有资源一概未开源，整个 pipeline 的复现性极差，学术价值和社区推动力因此大打折扣。 ...

📄 Fréchet Distance Loss on Speech Representations for Text-to-Speech Synthesis #语音合成 #流匹配 #后训练 #参数高效微调 6.5/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 0.7/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 6.5/10 | 前50% | #语音合成 | #流匹配 | #后训练 #参数高效微调 | arxiv 👥 作者与机构 第一作者：Ho-Lam Chung（未说明机构，作者编号1） 通讯作者：未说明 作者列表：Ho-Lam Chung (1)、Kuan-Po Huang (1)、Bo-Ru Lu (2)、Hung-yi Lee (1)，机构1和2未详细说明 💡 毒舌点评 将Fréchet距离从离线评估指标改造为可微训练损失，思路简洁有效，用多个精心设计的锚点约束少步采样的内容漂移，在VoxCPM2上以零推理开销换来了可信的WER下降和感知等价性。但只在单一模型上跑通，未与一致性模型、渐进蒸馏等主流加速方案正面对比，泛化性缺乏实证；协方差估计的队列偏差和高斯假设在语音空间中的合理性均未深入讨论；完全闭源使得社区验证和工程复用的价值大打折扣。 📌 核心摘要 本文解决少步流匹配TTS在推理步数压缩后因分布漂移导致内容错误（WER升高）的问题。核心方法是SR-FD损失：微调时使用四步部署采样器生成语音，通过冻结的Whisper和CTC编码器提取句级特征，并与离线预计算的三组互补参考矩（低步成功锚、教师十步、真实语音）计算Fréchet距离，作为正则项驱动生成分布靠近高质量语音分布，无需对抗训练且推理时零额外开销。在Seed-TTS英文测试集上，四步SR-FD微调将WER从原四步基线的2.23%降至1.41%（相对降低36.5%），且显著优于十步基线的1.74%。盲听测试表明四步SR-FD与十步基线无可靠听感差异，TOST验证了实际等效性。消融实验证实三个参考目标均有贡献，错误分析表明改善主要源于内容替换错误的减少。实用性在于为低延迟TTS部署提供了即插即用的内容保真度提升手段。主要局限是仅在一个模型上验证、缺乏与其他少步加速方法的直接对比、完全闭源。 ...

📄 NAVER LABS System Re-implementation for the IWSLT 2026 Instruction-Following Task #语音翻译 #语音识别 #指令微调 #多模态模型 #参数高效微调 6.4/10 | 创新 0.5/2 | 严谨 0.8/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 0.7/1.5 | 开源 1.2/1.5 | 复现 0.4/0.5 | 工程 1.2/1.5 ✅ 6.4/10 | 前50% | #语音翻译 | #参数高效微调 | #语音识别 #指令微调 | arxiv 👥 作者与机构 第一作者：Anand Kamble（Florida State University） 第二作者：Aniket Tathe（University of Illinois Urbana-Champaign） 通讯作者：未明确说明。 💡 毒舌点评 这是一份诚实的系统复现报告，它把NAVER LABS 2025的旧船票勉强贴上了IWSLT 2026的新船，工程上中规中矩。但作为一篇论文，它几乎没有任何方法层面的新贡献：三阶段训练是照搬的，合成数据是Gemma生成的，且最关键的是——这10万条数据造出来了却没被用在主实验结果里，成了一个挂羊头卖狗肉的“未兑现承诺”。开源了代码却没给模型权重，这让“开源”两字的诚意大打折扣。作为共享任务基线尚可一用，作为学术论文则乏善可陈。 ...

语音/音乐/音频论文速递 2026-07-08 共分析 26 篇论文 ⚡ 今日概览 📥 抓取 26 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音属性识别 3篇 ███ #音频分类 3篇 ███ #语音合成 3篇 ███ #语音识别 3篇 ███ #声源定位 2篇 ██ #音乐生成 2篇 ██ #语音交互 1篇 █ #音频事件检测 1篇 █ 📊 论文评分排行榜（26 篇，按分数降序） 排名 论文 总分 分档 主任务 🥇 Hierarchical Acoustic-Semantic Modeling: Modality Separ 9.2分 前10% #语音交互 🥈 Propose and Attend: Training-free MLLM Grounding Confid 8.2分 前25% #音频事件检测 🥉 Music I Care About: Automated Multimodal Benchmarking o 7.8分 前25% #音乐理解 4. Escaping the Procrustean Bed: Groupwise Orthogonal Conn 7.8分 前25% #语音属性识别 5. TriA Pipeline: A Large-Scale Automatic Audio Annotation 7.4分 前50% #音频分类 6. InsideSSL: Understanding Self-Supervised Speech Represe 7.4分 前50% #语音属性识别 7. Precise Video-to-Audio Generation with Cross-Modal Alig 7.4分 前50% #音视频生成 8. WordVoice: Explicit and Decoupled Multi-Dimensional Wor 7.2分 前50% #语音合成 9. ForestIR: Physics-Informed Forest Sound Simulation for 7.2分 前50% #声源定位 10. Uncovering Latent Depression Severity for Binary Depres 7.0分 前50% #音视频理解 11. Determinantal point process sampling for bioacoustic ac 6.9分 前50% #音频分类 12. From Sinhala to Dhivehi: Cross-Lingual Transfer Learnin 6.6分 前50% #语音识别 13. Goodbye Equal Error Rate, Hello Local Information Discl 6.5分 前50% #语音转换 14. BlueMagpie-TTS: A Token-Efficient Tokenizer, Language M 6.5分 前50% #语音合成 15. Fréchet Distance Loss on Speech Representations for Tex 6.5分 前50% #语音合成 16. NAVER LABS System Re-implementation for the IWSLT 2026 6.4分 前50% #语音翻译 17. Few-Shot Class-Incremental Audio Classification Using P 6.3分 前50% #音频分类 18. Gemma 4 Technical Report 6.2分 前50% #语音识别 19. Revisiting the Relation Between Language Model Perplexi 6.0分 前50% #语音识别 20. Multimodal Video-to-Music Recommendation via Semantic R 5.4分 后50% #音乐检索 21. Designing Maintainable Hybrid Generative Systems: A Qua 5.3分 后50% #音乐生成 22. Learning-based Physics-Constrained Neural Kernel for So 5.2分 后50% #声源定位 23. Distributed Multichannel Wiener Filtering for Topology- 5.1分 后50% #语音增强 24. Flow Matching-Based Speech Source Separation with Best- 4.9分 后50% #语音分离 25. Umm… With Transformers? Insights from Filled Pause Us 4.8分 后50% #语音属性识别 26. From Textural Counterpoint to Feature Encoding: A Multi 2.1分 后50% #音乐生成 📋 论文列表 🥇 Hierarchical Acoustic-Semantic Modeling: Modality Separation and Semantic Coherence for Full-Duplex SLMs 9.2/10 | 创新 1.8/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 ...

📄 CARD: Cross-component Audio Representation Distillation for Encoder-Free Audio Captioning #音频字幕生成 #知识蒸馏 #LoRA #音频理解 #参数高效微调 6.3/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 1/1.5 ✅ 6.3/10 | 前50% | #音频字幕生成 | #知识蒸馏 | #LoRA #音频理解 | arxiv 👥 作者与机构 第一作者：Ganesh Pavan Kartikeya Bharadwaj Kolluri（University of Kent, UK） 通讯作者：未明确标注 作者列表：Ganesh Pavan Kartikeya Bharadwaj Kolluri（University of Kent）、Yuchen Zhang（University of Kent; Queen Mary University of London）、Michael Kampouridis（University of Kent）、Ravi Shekhar（University of Kent; Queen Mary University of London） 💡 毒舌点评 这篇论文提出了一个有趣且直觉合理的洞察：在蒸馏编码器知识到无编码器模型时，将低层感知表征给投影器、高层语义表征给语言模型，这种"按需分配"的策略确实有效。然而，尽管消融实验干净地证明了蒸馏位置的重要性，模型在AudioCaps上与保留编码器的基线仍有11个CIDEr-D点的巨大鸿沟，无编码器方法的实用化依然道阻且长，且全文未提及代码和模型的开源承诺，让"摆脱编码器"这个卖点在复现面前变得脆弱。 ...

📄 DELTA-TTS: Adapting Autoregressive Model into Diffusion Language Model for Text-to-Speech #语音合成 #扩散模型 #参数高效微调 #低资源 7.5/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.5/10 | 前25% | #语音合成 | #扩散模型 | #参数高效微调 #低资源 | arxiv 👥 作者与机构 第一作者：Junwon Moon（未说明） 通讯作者：未说明 作者列表：Junwon Moon、Seungbeom Kim、Yejin Lee、Hoseong Ahn、Sewoong Park、Heeseung Kim、Kyuhong Shim（七位作者均未说明所属机构，但从致谢与主观评测部分可推断其隶属韩国学术机构） 💡 毒舌点评 本文把“先做容易的”这条直觉从文本领域搬运到语音合成，工程上灵巧干净，仅用585小时数据就在WER上掀翻了自家骨干和若干数据量百倍于己的对手。但数据量的鸿沟是荣耀也是隐忧，零开源更是让所有这些漂亮数字只能停留在纸面上，社区无法验证，只能姑妄听之。 📌 核心摘要 要解决的问题：传统自回归（AR）文本转语音（TTS）模型采用严格的从左到右依次生成语音token的方式，推理速度随序列线性增长，且无法利用未来上下文信息，导致在序列起始等证据不足的位置置信度极低，容易产生幻觉和错误累积。 方法核心：提出DELTA-TTS，一个基于LoRA的轻量级适配框架。它冻结预训练的AR TTS骨干网络，通过增加双向注意力、块级LoRA适配器和Conformer风格卷积模块，将其转换为一个按置信度排序生成的离散扩散语言模型（dLLM）。 新颖性：首次将AR-to-dLLM的转换范式从文本领域迁移到语音TTS。针对语音信号强烈的局部时序相关性，引入了卷积模块来弥补全局双向注意力对局部结构建模的不足，并设计了配套的1/t加权损失和时间偏移推理调度策略，系统性地实现了“先易后难”的生成顺序。 主要实验结果：仅使用585小时的LibriTTS数据训练，在Seed-TTS test-en基准上取得了1.75%的词错误率（WER），优于其AR骨干CosyVoice3的2.02%，并超越了多个参数量和数据量远大于它的基线模型，同时推理速度提升3.3倍。 类型 模型 参数量 训练数据 (小时) Seed-TTS test-en WER (%) ↓ SIM ↑ AR CosyVoice3 0.5B 1000K Multilingual 2.02 0.692 AR Seed-TTS N/A N/A 2.25 0.762 AR VoxCPM 0.5B 1800K Multilingual 1.85 0.729 NAR MaskGCT (50 NFE) 1.1B 100K Emilia 2.62 0.714 NAR F5-TTS (32 NFE) 0.3B 100K Emilia 2.00 0.647 Ours DELTA-TTS 0.5B+94M 0.585K LibriTTS 1.75 0.688 实际意义：为工业界大规模部署的AR TTS模型提供了一条低成本（仅需15%新增参数和少量适配数据）、高效率的升级路径，能显著提升推理速度并缓解幻觉问题，尤其是在长语音合成场景下加速效果更佳（4.46倍）。 主要局限性：目标语音长度目前依赖于一个基于文本长度的启发式规则，不够鲁棒；方法目前仅在英语和CosyVoice3这一单一骨干模型上进行了验证。 🔗 开源详情 代码：否。论文中未提及代码链接。 模型权重：否。论文中未提及。 数据集： 训练数据：LibriTTS（585小时），论文中未提供下载链接。 评估数据：Seed-TTS test‑en（1088条）、LibriSpeech‑PC test‑clean Subset B（1127条），论文中未提供下载链接。 Demo：否。论文中未提及。 复现材料：否。附录A.1提供了部分实现细节（LoRA配置、卷积核大小、学习率、batch size、混合精度训练等），但未提供代码、配置文件或模型检查点。 论文引用的开源项目或资源链接： CosyVoice: https://github.com/FunAudioLLM/CosyVoice CosyVoice HuggingFace评估页: https://huggingface.co/FunAudioLLM/CosyVoice-300M Spark TTS: https://github.com/SparkAudio/Spark-TTS FireRedTTS(FireRedTTS2): https://github.com/FireRedTeam/FireRedTTS2 IndexTTS2: https://github.com/IndexTeam/IndexTTS2 Llasa: https://github.com/LlasaTeam/Llasa VoxCPM: https://github.com/VoxCMTeam/VoxCPM DiTAR: https://github.com/DiTAR-project/DiTAR MaskGCT: https://github.com/open-mmlab/Amphion/tree/main/models/tts/maskgct E2 TTS: https://github.com/SWivid/E2-TTS F5-TTS: https://github.com/SWivid/F5-TTS Whisper: https://github.com/openai/whisper faster-whisper: https://github.com/SYSTRAN/faster-whisper WavLM: https://github.com/microsoft/unilm/tree/master/wavlm SpeechMOS (UTMOS): https://github.com/tarepan/SpeechMOS LoRA (Hu et al., 2022): https://github.com/microsoft/LoRA Conformer (Gulati et al., 2020): 未提供单独开源链接（通常指ESPnet等实现） 🏗️ 方法概述和架构 DELTA-TTS的整体流程是一个将预训练AR TTS模型转换为离散扩散语言模型（dLLM）的框架。其核心思想是冻结原AR模型的主体参数，仅通过添加少量可训练模块来改变其生成范式。输入为标准零样本TTS输入（文本、提示语音等），输出为目标语音波形。 ...

📄 Evaluating the Effect of Linguistic Relatedness on Cross-Lingual Transfer in Large Multilingual Automatic Speech Recognition #语音识别 #多语言 #低资源 #迁移学习 #参数高效微调 #自监督学习 6.5/10 | 创新 1/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.5/10 | 前50% | #语音识别 | #迁移学习 | #多语言 #低资源 | arxiv 👥 作者与机构 第一作者：Andrei Florian（Princeton University） 通讯作者：Andrei Florian（Princeton University）、Happy Buzaaba（Princeton University） 作者列表：Andrei Florian（Princeton University）、Cynthia Jayne Amol（Maseno University）、Hope Kerubo Ombaba（Maseno University）、Xiaoyu Cui（Princeton University）、Boniface Mwau（Maseno University）、Biatus Maina Kamau（Maseno University）、Lilian Diana Awuor Wanzare（Maseno University）、Christiane Fellbaum（Princeton University）、Happy Buzaaba（Princeton University） 💡 毒舌点评 这是一篇经典的"证伪"论文，作者严谨地证明了在小模型上成立的假设，在大模型上并不成立。六因素受控实验设计堪称方法论范本，但结论的毁灭性力量也扫到了论文自身的价值：如果语言相关性完全没用，那告诉社区此路不通的功劳，能换来多大影响？更致命的是，它只告诉你船漏了，却没给新船。纯负面结果的研究，在顶会博弈中注定处于弱势。 ...

📄 Listen, Think, Transcribe: Continuous Latent Test-Time Scaling for ASR #语音识别 #参数高效微调 #低资源 #自监督学习 7.5/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.5/10 | 前25% | #语音识别 | #Adapter | #参数高效微调 #低资源 | arxiv 👥 作者与机构 第一作者：Ho Lam Chung（台湾大学，华硕） 通讯作者：Hung-yi Lee（台湾大学） 作者列表：Ho Lam Chung（台湾大学，华硕）、Yiming Chen（新加坡国立大学）、Dau-Cheng Lyu（华硕）、Hsiao-Tsung Hung（华硕）、Hung-yi Lee（台湾大学） 💡 毒舌点评 这篇论文将连续潜在测试时缩放巧妙地引入冻结ASR骨干网，稳定注入机制的设计颇具匠心，实验覆盖面广、消融充分，证明了在极小数据量下该方法明显优于传统微调。然而，WER的绝对下降幅度仅有千分之一到百分之一量级，实际收益偏薄，且所有实验都基于同一个0.6B的Qwen3-ASR模型，方法的可推广性尚存疑；此外零代码开源，令审稿人对其复现成本深感担忧。 📌 核心摘要 问题：端到端ASR模型一次前向完成转录，无法对困难输入进行额外的“思考”。本文探究能否在冻结ASR骨干网上添加连续的潜在计算环，实现输入依赖的测试时计算分配。 方法核心：LatentASR引入两个可训练模块——Latent Adapter 和 Value Head。Latent Adapter 通过有界循环更新精炼少量潜在前缀嵌入，并采用三种稳定机制（归一化、门控、固定锚点）防止冻结解码器崩溃；Value Head 预测每个话语的潜在计算效用并提前停止循环。 新颖点：不同于在全部参数上微调或修改输入分布，该方法仅训练约4M参数，保持骨干完全冻结，通过受限的、可选的残差更新在连续空间内进行迭代优化，无需中间推理文本。 主要结果：在500条话语的极小训练集下，LatentASR 是唯一不提升WER的方法，在 FLEURS (en_us) 上相对WER降低2.54% (4.900→4.776)，VoxPopuli (en) 降低0.47% (9.038→8.995)；口音/语码切换 (ASCEND) 上相对CER降低16.0% (57.81→48.55)；在30种语言的多语言评估中WER均匀下降，无过拟合。 实际意义：提供了一种无需修改预训练ASR骨干即可为其注入自适应计算量的方法，可将固定算力转变为按需分配的软调度。 主要局限：干净语音上的绝对提升很小，方法对激活集大小和构成敏感（最优窗口仅500条），未见在更大ASR模型上的验证，零开源降低了即时工业采纳的可能性，且未探讨流式/实时场景的可行性。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：论文中未提及模型权重的发布链接（如 HuggingFace 或 ModelScope） 数据集：训练使用 500 条混合样本，来源于以下公开数据集： Common Voice 16.0 FLEURS VoxPopuli LibriSpeech GigaSpeech The People’s Speech ASCEND 上述数据集均为公开可获取的研究语料，但论文未给出具体下载链接或预处理脚本的仓库地址。 Demo：论文中未提及 复现材料：论文中未提及提供训练配置、检查点或补充附录等专门复现材料；训练细节（优化器、超参数、数据构造原则）在正文第 4.1 节有描述，但未指向独立的配置文件或代码仓库。 论文中引用的开源项目： Whisper (Radford et al.) —— 原始模型为 OpenAI 发布，未提供链接，通常获取方式为 GitHub: https://github.com/openai/whisper OWSM v4 —— 基于 ESPnet 的开源语音模型，通常获取方式为 GitHub: https://github.com/espnet/espnet Qwen3-ASR (0.6B) —— 论文中作为基础模型，技术报告为 arXiv:2601.21337，未给出权重链接；通常可通过 HuggingFace 或 ModelScope 获取 Coconut (Hao et al.) —— 论文 arXiv:2412.06769，未提供项目链接 Quiet-STaR (Zelikman et al.) —— 论文 arXiv:2403.09629，未提供项目链接 Pause tokens (Goyal et al.) —— 论文发表于 ICLR 2024，未提供项目链接 （注：以上仅列出在论文中被直接引用且涉及开源工具/模型的条目，无具体链接指向作者提供的仓库时，给出常见获取渠道；没有提及的项目则写“未提及”） 🏗️ 方法概述和架构 LatentASR 在完全冻结的编码器‑解码器ASR骨干上叠加两个轻量可训练模块：Latent Adapter 和 Value Head。整体流程：给定语音a，编码器输出声学状态Z并传入解码器；在解码器输入的系统提示与需转录的文本之间，插入N个隐式前缀位置（不产生任何文本token）。Latent Adapter 逐个位置对这些隐式嵌入进行迭代精炼，Value Head 监控解码器隐状态，判断是否继续或提前停止循环。若Value Head在起始锚点判定无益，则全跳过N步，直接回退到冻结基线的输出；否则逐步执行，并可在中间任意步停下。 ...