语音合成

📄 LISE : Listenable Interpretable Speaker Embeddings #说话人验证 #说话人识别 #语音合成 6.8/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.1/1.5 | 复现 0.4/0.5 | 工程 0.3/1.5 ✅ 6.8/10 | 前50% | #说话人验证 | #说话人识别 | #语音合成 | arxiv 👥 作者与机构 Xiaoliang Wu：University of Southampton, United Kingdom; The Hong Kong Polytechnic University, Hong Kong SAR, China Chongxin Gan：The Hong Kong Polytechnic University, Hong Kong SAR, China Ke Liu：University of Edinburgh, United Kingdom Peter Bell：University of Edinburgh, United Kingdom Jennifer Williams：University of Southampton, United Kingdom 💡 毒舌点评 这篇论文试图解决一个真实且重要的问题：让黑盒的说话人嵌入变得“可听”（Listenable），即人类可以通过听觉验证其组件的含义。这个想法很有价值，尤其是设计了严谨的感知实验来验证，这比多数只做自动指标的可解释性工作要扎实。然而，方法的创新性稍显不足，核心是现有非负矩阵分解（NMF）技术在特定约束下的应用。作者很诚实地讨论了局限，但部分讨论（如语言混淆）可能比实际影响更值得强调。总的来说，这是一篇工整、动机明确、实验设计用心的入门级可解释性论文，离顶级会议（如NeurIPS）对方法创新或理论深度的要求还有距离，但是一篇质量不错的领域会议（如Interspeech）论文。 ...

📄 On the Effect of Segmentation Width and Cluster Size on Speech Resynthesis and Continuation in Generative Spoken Language Models #语音合成 #语音生成 #自监督学习 #低资源 #数据增强 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 ✅ 7.4/10 | 前25% | #语音合成 | #自监督学习 | #语音生成 #低资源 | arxiv 👥 作者与机构 Shunsuke Kando (东京大学) Wataru Nakata (庆应义塾大学) Shinnosuke Takamichi (东京大学) Yusuke Miyao (庆应义塾大学) ...

📄 Physics-Informed Neural Operator for Speech Production Analysis #语音合成 #自监督学习 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 0.8/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.7/1.5 ✅ 6.7/10 | 前50% | #语音合成 | #自监督学习 | arxiv 👥 作者与机构 Yokota, Kazuya (1) Luan, Xinmeng (2) Mohapatra, Debasish Ray (3) Scavone, Gary (2) Fels, Sidney (3) 1 Department of Mechanical Engineering, Nagaoka University of Technology, Japan 2 Schulich School of Music, McGill University, Canada 3 Department of Electrical and Computer Engineering, University of British Columbia, Canada ...

📄 Streaming T5-based Text-to-Speech Synthesis with Limited Lookahead #语音合成 #知识蒸馏 #自回归模型 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.7/10 | 前25% | #语音合成 | #知识蒸馏 | #自回归模型 | arxiv 👥 作者与机构 作者：Muyang Du, Jason Roche, Junjie Lai 机构：NVIDIA China, NVIDIA USA 💡 毒舌点评 这篇工作像是给“语音合成流水线”加了个“预读窗口”。想法很直接——别等整句文字吐完再开始发声，看着前面几个词就能动嘴了。技术包装上，T5架构加上精心设计的掩码和对齐模块，看起来挺唬人。但仔细想想，所谓的“有限前瞻”本质上是对注意力机制的硬约束，有点“削足适履”的味道。实验部分倒是花了不少力气，各种消融和对比，但baselines的选择和训练数据的差异（特别是与SOTA对比时）让说服力打了折扣。最让人皱眉的是“开源”部分的空白，这对于一个号称实用且解决了实际问题的工作来说，有点说不过去——你解决了延迟，却不让我们方便地验证和使用，这“实用价值”就悬在半空了。 📌 核心摘要 本文提出了S5-TTS，一个基于T5的流式文本到语音合成模型，旨在解决级联LLM-TTS系统中因TTS需要完整上下文而产生的高端到端延迟问题。S5-TTS通过引入前瞻因果掩码（lookahead-causal masking）机制和基于卷积的辅助注意力模块，实现了在有限前瞻（即每个词合成时仅能看到其自身、前面所有词和k个未来词）下的词级增量语音合成。为了补偿有限前瞻造成的自然度损失，作者采用了交错多源蒸馏（Interleaved Multi-Source Distillation， IMSD）策略，利用全上下文的T5-TTS作为教师模型，同时使用配对的文本-音频数据和经过ASR过滤的合成文本数据进行监督。实验表明，当k=2时，S5-TTS在可懂度（WER）和说话人相似度（SSIM）上与全上下文T5-TTS相当，主观质量（MOS）接近，同时显著降低了端到端语音响应延迟。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：论文中使用了LibriTTS、HiFiTTS和UltraChat-200k数据集，但未提供这些数据集的具体下载链接、处理脚本或合成数据的详细获取方式。 Demo：https://s5-tts.github.io/ 复现材料：论文中提及了详细的训练配置（GPU型号、批量大小、优化器、学习率等），但未提供完整的训练代码、配置文件或检查点下载链接。 论文中引用的开源项目：T5-TTS, NeMo, phonemizer, Parakeet-TDT, E2-TTS, FireRedTTS, MaskGCT, CosyVoice, Llama 3.3 70B, Ollama。论文引用了这些项目，但未提供直接链接，也未说明S5-TTS的开源实现依赖于其中哪些项目的官方代码库。 🏗️ 方法概述和架构 S5-TTS的核心架构是基于T5的编码器-解码器Transformer，专为流式合成设计。 ...

📄 Synthesizing the Lombard Effect: Multi-Level Control of Speech Clarity and Vocal Effort in TTS #语音合成 #流匹配 7.2/10 | 创新 1.4/2 | 严谨 0.9/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.2/10 | 前50% | #语音合成 | #流匹配 | arxiv 👥 作者与机构 Seymanur Akti, Alexander Waibel。单位：卡尔斯鲁厄理工学院 (KIT), 卡内基梅隆大学 (CMU), KIT Campus Transfer (KCT)。 💡 毒舌点评 这篇工作在“模拟朗伯效应”这个实际问题上动了心思，双轴控制的概念也直观。但作为顶会论文，细节经不起推敲。伪标签的定义像“拍脑袋”，词级控制把 \(\beta\) 拉到 1.5 超出范围，理论依据一句“为了感知显著性”就带过了，这很不严谨。实验基线用简单信号处理，这有点欺负人，和最新的神经网络可控TTS比比看？作者自己都承认WER在极端条件下可能失效，但又拿它作为主要可懂度指标，结论的基石就有点晃。总的来说，想法不错，但打磨和验证的功夫还差火候，离“扎实”的距离比评分显示的要远。 ...

📄 Word Lengthening as a Function of Utterance Position: A Multi-Corpus Study #语音合成 #语音识别 8.1/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.1/10 | 前25% | #语音合成 | #语音识别 | arxiv 👥 作者与机构 作者：Mateo Cámara\(^{1}\), José Luis Blanco\(^{1}\), Juan Ignacio Godino-Llorente\(^{3}\), Jeung-Yoon Choi\(^{2}\), Stefanie Shattuck-Hufnagel\(^{2}\) 机构： \(^{1}\) Signal Processing Applications Group, Information Processing & Telecomm. Center, Universidad Politécnica de Madrid, Spain \(^{2}\) Speech Communication Group, Research Laboratory of Electronics, Massachusetts Institute of Technology, USA \(^{3}\) Bioengineering and Optoelectronics Lab., Universidad Politécnica de Madrid, Spain ...

📄 A Survey of Full-Duplex Spoken Dialogue Systems: Architectural Hierarchy, Interaction Ontology, and Decision State Machine #语音合成 #语音识别 #自监督学习 #数据集 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 0.6/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.4/10 | 前50% | #语音合成 | #自监督学习 | #语音识别 #数据集 | arxiv 👥 作者与机构 作者：Jingyu Lu, Yuhan Wang, Jianming Luo, Yifu Chen, Tianle Liang, Shengpeng Ji, Ziyue Jiang, Xiaoda Yang, Yu Zhang, Xize Cheng, Chenyuhao Wen, Changhao Pan, Haoxiao Wang, Chen Ye, Jian Wu, Xiaoxi Jiang, Guanjun Jiang, Zhou Zhao。 机构：浙江大学（1），阿里巴巴通义事业群（2），腾讯混元团队（3），字节跳动（4）。 ...

📄 FlowEdit: Associative Memory for Lifelong Pronunciation Adaptation in Flow-Matching TTS #语音合成 #语音增强 #参数高效微调 #持续学习 #低资源 #数据增强 #多语言 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前25% | #语音合成 | #参数高效微调 | #语音增强 #持续学习 | arxiv 👥 作者与机构 作者：Harshit Singh (1), Ayush Pratap Singh (2), Nityanand Mathur (3) 机构：1 University Of Maryland, 2 TU Darmstadt, 3 Smallest AI 联系邮箱：nityanandmathur@gmail.com ...

📄 How Do Instructions Shape Speech? Cross-Attention Attribution for Style-Captioned Text-to-Speech #语音合成 #扩散模型 #流匹配 7.7/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0/1.5 | 复现 0.2/0.5 | 工程 1/1.5 ✅ 7.7/10 | 前50% | #语音合成 | #扩散模型 | #流匹配 | arxiv 👥 作者与机构 Nityanand Mathur, Wasim Hamees, Apoorv Madha, Sameer Singh, Akshat Khurana, Sudarshan Mandloi, Nityanand Kamath Smallest.ai 💡 毒舌点评 论文提出了一个有价值的问题：风格描述中的词语如何影响语音合成。将DAAM适配到语音领域（具体是流匹配模型）的思路是新颖的，且实验规模（3600组合）值得肯定。 然而，“可解释性”工作的核心在于解释的深度和普适性。本文的解释停留在“统计关联”层面（如方差低=全局调节），缺乏对机制本身的因果探索（如注意力编辑实验）。所揭示的规律（早期步骤重要）在扩散模型中并非全新发现。 最大的硬伤在于其“可复现性”和“可扩展性”。分析完全基于单一、未公开的商业模型（CapSpeech），使用的是精心构造的合成提示（120个模板化句子）。这严重限制了结论的泛化能力。读者无法验证、复现或在自己的模型上应用该方法。 部分分析结论（如函数token在后期步骤重要性上升）虽然有趣，但缺乏更深入的解释，只是现象描述。整体而言，这篇论文像是一份详尽的“模型行为观察报告”，而非一篇能提供新方法或深刻洞见的可解释性研究。 📌 核心摘要 本文首次将扩散模型注意力归因方法（DAAM）适配到语音合成领域，用于分析风格描述词如何影响基于流匹配的TTS模型（CapSpeech-TTS）的输出。通过对大量（风格描述，文本转录）组合生成的跨注意力图进行系统性分析，论文发现：风格标记通过注意力机制扮演全局调节角色，其注意力模式在时间上分布均匀，与生成语音的基频和能量具有语义一致的统计相关性，且其影响力在生成过程的早期ODE步骤和深层Transformer层中达到峰值。 ...

📄 Improving Code-Switching ASR with Code-Mixing Guided Synthetic Speech #语音识别 #数据增强 #语音合成 7.6/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.6/10 | 前25% | #语音识别 | #数据增强 | #语音合成 | arxiv 👥 作者与机构 作者：Yue Heng Yeo, Haoyang Li, Yizhou Peng, Shreyas Gopal, Hexin Liu, Leibny Paola Garcia-Perera, Hardik B. Sailor, Jeremy H. M. Wong, Eng Siong Chng 机构：1 College of Computing and Data Science, Nanyang Technological University, Singapore；2 Institute for Infocomm Research (I2R), A*STAR, Singapore；3 HLT-COE & CLSP, Johns Hopkins University, USA；4 Google DeepMind, Singapore 💡 毒舌点评 这篇论文的出发点很明确：用合成数据解决代码切换ASR的数据稀缺问题。但问题在于，整个框架的复杂性是否必要？引入一个新的声学指标 CMI_speech，并用DPO进行多目标优化，听起来很高大上。但仔细一看，核心创新点——那个所谓的“声学层面的语言混合度量”——依赖于一个带语言对齐损失（LAL）训练的Whisper模型来生成伪标签。这本身就是一个巨大的假设：这个伪标签生成器的准确性有多高？论文完全没有评估这个“裁判”本身的可靠性。如果裁判是瞎的，那用它来评判选手（合成语音）的好坏，结果就值得怀疑了。此外，实验只在单一的SEAME数据集上进行，这个数据集虽然经典，但能否代表所有代码切换场景？论文缺乏在更广泛或多语言数据集上的泛化验证，说服力打了折扣。总的来说，方法设计有一定的巧思，但关键环节的验证不足，使得整个框架像是在“沙堆上建塔”。 ...