语音合成

📄 Streaming T5-based Text-to-Speech Synthesis with Limited Lookahead #语音合成 #知识蒸馏 #自回归模型 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.7/10 | 前25% | #语音合成 | #知识蒸馏 | #自回归模型 | arxiv 👥 作者与机构 作者：Muyang Du, Jason Roche, Junjie Lai 机构：NVIDIA China, NVIDIA USA 💡 毒舌点评 这篇工作像是给“语音合成流水线”加了个“预读窗口”。想法很直接——别等整句文字吐完再开始发声，看着前面几个词就能动嘴了。技术包装上，T5架构加上精心设计的掩码和对齐模块，看起来挺唬人。但仔细想想，所谓的“有限前瞻”本质上是对注意力机制的硬约束，有点“削足适履”的味道。实验部分倒是花了不少力气，各种消融和对比，但baselines的选择和训练数据的差异（特别是与SOTA对比时）让说服力打了折扣。最让人皱眉的是“开源”部分的空白，这对于一个号称实用且解决了实际问题的工作来说，有点说不过去——你解决了延迟，却不让我们方便地验证和使用，这“实用价值”就悬在半空了。 📌 核心摘要 本文提出了S5-TTS，一个基于T5的流式文本到语音合成模型，旨在解决级联LLM-TTS系统中因TTS需要完整上下文而产生的高端到端延迟问题。S5-TTS通过引入前瞻因果掩码（lookahead-causal masking）机制和基于卷积的辅助注意力模块，实现了在有限前瞻（即每个词合成时仅能看到其自身、前面所有词和k个未来词）下的词级增量语音合成。为了补偿有限前瞻造成的自然度损失，作者采用了交错多源蒸馏（Interleaved Multi-Source Distillation， IMSD）策略，利用全上下文的T5-TTS作为教师模型，同时使用配对的文本-音频数据和经过ASR过滤的合成文本数据进行监督。实验表明，当k=2时，S5-TTS在可懂度（WER）和说话人相似度（SSIM）上与全上下文T5-TTS相当，主观质量（MOS）接近，同时显著降低了端到端语音响应延迟。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：论文中使用了LibriTTS、HiFiTTS和UltraChat-200k数据集，但未提供这些数据集的具体下载链接、处理脚本或合成数据的详细获取方式。 Demo：https://s5-tts.github.io/ 复现材料：论文中提及了详细的训练配置（GPU型号、批量大小、优化器、学习率等），但未提供完整的训练代码、配置文件或检查点下载链接。 论文中引用的开源项目：T5-TTS, NeMo, phonemizer, Parakeet-TDT, E2-TTS, FireRedTTS, MaskGCT, CosyVoice, Llama 3.3 70B, Ollama。论文引用了这些项目，但未提供直接链接，也未说明S5-TTS的开源实现依赖于其中哪些项目的官方代码库。 🏗️ 方法概述和架构 S5-TTS的核心架构是基于T5的编码器-解码器Transformer，专为流式合成设计。 ...

📄 Synthesizing the Lombard Effect: Multi-Level Control of Speech Clarity and Vocal Effort in TTS #语音合成 #流匹配 7.2/10 | 创新 1.4/2 | 严谨 0.9/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.2/10 | 前50% | #语音合成 | #流匹配 | arxiv 👥 作者与机构 Seymanur Akti, Alexander Waibel。单位：卡尔斯鲁厄理工学院 (KIT), 卡内基梅隆大学 (CMU), KIT Campus Transfer (KCT)。 💡 毒舌点评 这篇工作在“模拟朗伯效应”这个实际问题上动了心思，双轴控制的概念也直观。但作为顶会论文，细节经不起推敲。伪标签的定义像“拍脑袋”，词级控制把 \(\beta\) 拉到 1.5 超出范围，理论依据一句“为了感知显著性”就带过了，这很不严谨。实验基线用简单信号处理，这有点欺负人，和最新的神经网络可控TTS比比看？作者自己都承认WER在极端条件下可能失效，但又拿它作为主要可懂度指标，结论的基石就有点晃。总的来说，想法不错，但打磨和验证的功夫还差火候，离“扎实”的距离比评分显示的要远。 ...

📄 Word Lengthening as a Function of Utterance Position: A Multi-Corpus Study #语音合成 #语音识别 8.1/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.1/10 | 前25% | #语音合成 | #语音识别 | arxiv 👥 作者与机构 作者：Mateo Cámara\(^{1}\), José Luis Blanco\(^{1}\), Juan Ignacio Godino-Llorente\(^{3}\), Jeung-Yoon Choi\(^{2}\), Stefanie Shattuck-Hufnagel\(^{2}\) 机构： \(^{1}\) Signal Processing Applications Group, Information Processing & Telecomm. Center, Universidad Politécnica de Madrid, Spain \(^{2}\) Speech Communication Group, Research Laboratory of Electronics, Massachusetts Institute of Technology, USA \(^{3}\) Bioengineering and Optoelectronics Lab., Universidad Politécnica de Madrid, Spain ...

📄 A Survey of Full-Duplex Spoken Dialogue Systems: Architectural Hierarchy, Interaction Ontology, and Decision State Machine #语音合成 #语音识别 #自监督学习 #数据集 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 0.6/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.4/10 | 前50% | #语音合成 | #自监督学习 | #语音识别 #数据集 | arxiv 👥 作者与机构 作者：Jingyu Lu, Yuhan Wang, Jianming Luo, Yifu Chen, Tianle Liang, Shengpeng Ji, Ziyue Jiang, Xiaoda Yang, Yu Zhang, Xize Cheng, Chenyuhao Wen, Changhao Pan, Haoxiao Wang, Chen Ye, Jian Wu, Xiaoxi Jiang, Guanjun Jiang, Zhou Zhao。 机构：浙江大学（1），阿里巴巴通义事业群（2），腾讯混元团队（3），字节跳动（4）。 ...

📄 FlowEdit: Associative Memory for Lifelong Pronunciation Adaptation in Flow-Matching TTS #语音合成 #语音增强 #参数高效微调 #持续学习 #低资源 #数据增强 #多语言 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前25% | #语音合成 | #参数高效微调 | #语音增强 #持续学习 | arxiv 👥 作者与机构 作者：Harshit Singh (1), Ayush Pratap Singh (2), Nityanand Mathur (3) 机构：1 University Of Maryland, 2 TU Darmstadt, 3 Smallest AI 联系邮箱：nityanandmathur@gmail.com ...

📄 How Do Instructions Shape Speech? Cross-Attention Attribution for Style-Captioned Text-to-Speech #语音合成 #扩散模型 #流匹配 7.7/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0/1.5 | 复现 0.2/0.5 | 工程 1/1.5 ✅ 7.7/10 | 前50% | #语音合成 | #扩散模型 | #流匹配 | arxiv 👥 作者与机构 Nityanand Mathur, Wasim Hamees, Apoorv Madha, Sameer Singh, Akshat Khurana, Sudarshan Mandloi, Nityanand Kamath Smallest.ai 💡 毒舌点评 论文提出了一个有价值的问题：风格描述中的词语如何影响语音合成。将DAAM适配到语音领域（具体是流匹配模型）的思路是新颖的，且实验规模（3600组合）值得肯定。 然而，“可解释性”工作的核心在于解释的深度和普适性。本文的解释停留在“统计关联”层面（如方差低=全局调节），缺乏对机制本身的因果探索（如注意力编辑实验）。所揭示的规律（早期步骤重要）在扩散模型中并非全新发现。 最大的硬伤在于其“可复现性”和“可扩展性”。分析完全基于单一、未公开的商业模型（CapSpeech），使用的是精心构造的合成提示（120个模板化句子）。这严重限制了结论的泛化能力。读者无法验证、复现或在自己的模型上应用该方法。 部分分析结论（如函数token在后期步骤重要性上升）虽然有趣，但缺乏更深入的解释，只是现象描述。整体而言，这篇论文像是一份详尽的“模型行为观察报告”，而非一篇能提供新方法或深刻洞见的可解释性研究。 📌 核心摘要 本文首次将扩散模型注意力归因方法（DAAM）适配到语音合成领域，用于分析风格描述词如何影响基于流匹配的TTS模型（CapSpeech-TTS）的输出。通过对大量（风格描述，文本转录）组合生成的跨注意力图进行系统性分析，论文发现：风格标记通过注意力机制扮演全局调节角色，其注意力模式在时间上分布均匀，与生成语音的基频和能量具有语义一致的统计相关性，且其影响力在生成过程的早期ODE步骤和深层Transformer层中达到峰值。 ...

📄 Improving Code-Switching ASR with Code-Mixing Guided Synthetic Speech #语音识别 #数据增强 #语音合成 7.6/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.6/10 | 前25% | #语音识别 | #数据增强 | #语音合成 | arxiv 👥 作者与机构 作者：Yue Heng Yeo, Haoyang Li, Yizhou Peng, Shreyas Gopal, Hexin Liu, Leibny Paola Garcia-Perera, Hardik B. Sailor, Jeremy H. M. Wong, Eng Siong Chng 机构：1 College of Computing and Data Science, Nanyang Technological University, Singapore；2 Institute for Infocomm Research (I2R), A*STAR, Singapore；3 HLT-COE & CLSP, Johns Hopkins University, USA；4 Google DeepMind, Singapore 💡 毒舌点评 这篇论文的出发点很明确：用合成数据解决代码切换ASR的数据稀缺问题。但问题在于，整个框架的复杂性是否必要？引入一个新的声学指标 CMI_speech，并用DPO进行多目标优化，听起来很高大上。但仔细一看，核心创新点——那个所谓的“声学层面的语言混合度量”——依赖于一个带语言对齐损失（LAL）训练的Whisper模型来生成伪标签。这本身就是一个巨大的假设：这个伪标签生成器的准确性有多高？论文完全没有评估这个“裁判”本身的可靠性。如果裁判是瞎的，那用它来评判选手（合成语音）的好坏，结果就值得怀疑了。此外，实验只在单一的SEAME数据集上进行，这个数据集虽然经典，但能否代表所有代码切换场景？论文缺乏在更广泛或多语言数据集上的泛化验证，说服力打了折扣。总的来说，方法设计有一定的巧思，但关键环节的验证不足，使得整个框架像是在“沙堆上建塔”。 ...

📄 Interpreting Content and Speaker Characteristics in Factorised Self-Supervised Subspaces #自监督学习 #语音合成 5/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 0.7/1.5 | 清晰 1/1 | 影响 0.3/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.2/1.5 📝 5/10 | 后50% | #语音合成 | #自监督学习 | arxiv 👥 作者与机构 Kyle Janse van Rensburg, Herman Kamper. 机构未明确说明，但论文通讯作者邮箱包含 sun.ac.za， 可能来自南非的大学（如斯泰伦博斯大学）。 💡 毒舌点评 这篇论文像一份详尽的“解剖报告”，对WavLM特征经SVD分解后的“零件”（维度）进行了细致的测量和功能标注。优点是做得扎实、系统，把相关性和干预实验都做了一遍。但问题在于，它主要是在应用已有的分析工具（SVD， PCA， 相关性分析）去“观察”和“标注”一个已知方法（[11]）产生的结果，而不是提出新的分析范式或理论洞见。核心贡献更偏向于“验证”和“描述”而非“创新”。干预实验听起来酷炫，但本质上是对“调节旋钮”（维度值）的粗暴测试，且严重受限于声码器的质量，极端情况下的失真让结论的说服力打折扣。最遗憾的是，没有将这些“可操控维度”与语音领域成熟的声学参数控制（如F0、共振峰控制）进行对比或联系，显得有些闭门造车，对于语音社区的实际价值需要进一步论证。 📌 核心摘要 本文研究了通过SVD分解自监督语音（WavLM）特征得到的内容子空间（C）和说话者子空间（S）中，各个维度所编码的信息。分析发现，内容空间的前几个维度主要编码强度、高次共振峰和浊音信息，而音高被编码在一个较后的维度。说话者空间中，方差最大的维度与平均音高、性别和抖动强相关，后续维度编码高频谱变化。干预实验表明，独立或联合操控这些特定维度，能够定向改变合成语音的相应声学特性（如音高和强度），实现一定范围的语音特性控制。 🔗 开源详情 代码：论文中未提及公开代码仓库。 模型权重：论文未提及发布新的模型权重，研究基于已发布的WavLM模型。 数据集：使用了公开数据集 Libri-Light（中等分区）和 LibriSpeech（train-clean-100, dev-clean, test-clean）。获取链接：https://huggingface.co/datasets/librispeech_asr。 Demo：提供了音频演示页面： https://sltanonymous707.github.io/slt_demo_page_2026/。 复现材料：论文提及了具体实验参数（N=8192, r=64, WavLM-Large第六层特征），但未提供完整的代码、训练配置或附录。 论文中引用的开源项目：WavLM（https://github.com/microsoft/unilm/tree/master/wavlm）， HiFi-GAN（https://github.com/jik876/hifi-gan）， Parselmouth（https://github.com/YannickJadoul/Parselmouth）， Librosa（https://github.com/librosa/librosa）， Scikit-learn（https://github.com/scikit-learn/scikit-learn）。 🏗️ 方法概述和架构 本文的方法核心在于分析一个已有SVD因子分解框架在SSL特征上的应用效果，具体分为“分析方法”和“干预验证方法”两部分。 ...

📄 Investigating Human-Model Discrepancies in Speech Quality Assessment via Acoustic and Prosodic Perturbations #语音合成 #自监督学习 #数据增强 6.9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.9/10 | 前25% | #语音合成 | #自监督学习 | #数据增强 | arxiv 👥 作者与机构 第一作者：Masato Takagi (名古屋工业大学) 通讯/共同作者：Masaya Kawamura, Reo Shimizu, Yuma Shirahata (均为LY Corporation) 机构：1 Nagoya Institute of Technology, Japan; 2 LY Corporation, Japan ...

📄 Low-Burden Data Augmentation for Dysarthric ASR via Zero-Shot Voice Cloning #语音识别 #数据增强 #低资源 #语音合成 #迁移学习 8.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 8.7/10 | 前25% | #语音识别 | #数据增强 | #低资源 #语音合成 | arxiv 👥 作者与机构 Satwinder Singh: DeepNet Discovery Network, University of Auckland, New Zealand Qianli Wang: University of Auckland, New Zealand Zihan Zhong: University of Auckland, New Zealand Clarion Mendes: University of Illinois Urbana-Champaign, USA Mark Hasegawa-Johnson: University of Illinois Urbana-Champaign, USA Waleed Abdulla: University of Auckland, New Zealand Seyed Reza Shahamiri: DeepNet Discovery Network 💡 毒舌点评 这篇工作直击构音障碍ASR的痛点——数据稀缺，想法很直接：既然真实数据难采，那就用现成的“克隆”技术造点。实验也做得像样，跑通了从合成到微调的全流程，甚至挖了挖数据量的“甜点”和跨库泛化。但仔细一看，这更像是一个扎实的“技术可行性验证”而非突破性研究。核心工具（Higgs Audio V2, Whisper）都是别人的，创新主要在应用层面。最让人皱眉的是，所有结论都建立在TORGO这个只有8个说话人的小池塘里，就像用8个病例来验证一种新药的普适疗效，说服力天然受限。对于克隆数据为何对中重度患者更有效、为何数据过量会变差，分析止步于“可能因为…”，缺乏更硬的声学证据。作者们坦承了数据集规模的问题，但没有充分探讨这可能带来的结论偏差。总的来说，这是一篇合格的应用型工作，为工具箱增添了一种新方法，但离真正令人信服的、可推广的解决方案还有距离。 ...