扩散模型

📄 Joycent: Diffusion-based Accent TTS without Accented Phone Prediction #语音合成 #扩散模型 #自监督学习 #数据增强 6.8/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.8/10 | 前50% | #语音合成 | #自监督学习 | #扩散模型 #数据增强 | arxiv 👥 作者与机构 作者：Xintong Wang, Ye Wang。机构未明确提及。 💡 毒舌点评 这篇论文解决的是一个实际问题：如何更自然地合成带口音的语音，而不是依赖笨拙的两阶段文本转换。想法直接，用扩散模型和端到端的方式绕过口音音素预测，是个合理的思路。WhisAID的设计，特别是加入GRL来解耦说话人信息，显示了作者对问题本质（口音与身份纠缠）的理解。然而，论文的亮点主要集中在“做了这个事”和“在特定任务上比基线好”，而非带来了颠覆性的方法论创新。核心方法（扩散TTS + 条件注入）并非原创，创新主要在于针对口音TTS场景的特定组件整合和应用。实验上，只验证了新加坡华语这一个目标口音，严重限制了结论的普适性。作者自称“显著优于”，但基线选择（MacST依赖第三方GPT生成文本和商业API合成，CosyVoice3仅做了基础微调）使得比较的公平性和说服力打折扣。WhisAID提取的“口音嵌入”到底学到了什么，除了分类和相似度外，缺乏更深入的分析。总的来说，这是一篇扎实的“系统论文”或“应用论文”，但距离顶会所追求的突破性贡献还有距离。 📌 核心摘要 Joycent是一种基于扩散模型的口音语音合成框架，它绕过了传统方法中需要先预测口音音素序列的步骤。系统直接接收标准音素序列、一个说话人参考音频和一个目标口音参考音频，输出带有该目标口音的语音。其核心是两个关键组件：WhisAID（用于从参考音频中提取纯化的口音嵌入）和一个修改后的Grad-TTS文本编码器（通过CLN将口音和说话人信息注入语言表示）。实验表明，该方法在合成新加坡华语口音时，在口音相似度等关键指标上优于基于文本转换或指令的基线方法，同时保持了与基线相当的说话人相似度。 🔗 开源详情 代码：https://github.com/oshindow/Joycent-code 模型权重：论文中未提及单独发布的模型权重链接。预训练模型依赖包括Whisper、FACodec等。 数据集： Magichub Multi-Accents corpus: https://magichub.com/datasets/ （需从平台获取） Magichub-SG dataset: https://magichub.com/datasets/singaporean-chinese-conversational-speech-corpus （需从平台获取） AISHELL-3: 论文未提供链接，为公开数据集。 CSMSC: https://www.data-baker.com/open_source.html Demo：未提及在线演示链接。 复现材料：论文提供了详细的实验设置、超参数和训练步数，结合开源代码，基本可以复现主要实验。复现主要依赖论文描述、代码和公开的预训练模型/数据集。 🏗️ 方法概述和架构 Joycent的整体架构基于Grad-TTS，并包含两个主要部分：口音与说话人信息解耦提取模块（WhisAID）和融合这些信息的口音TTS生成模块（Joycent）。其流程如论文图1所示。 ...

📄 MUNI: Multimodal Unified Latent Diffusion for Coherent Any-to-Any Generation #语音生成 #音频生成 #多模态模型 #扩散模型 #流匹配 #变分推断 #变分自编码器 6.9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0.1/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 6.9/10 | 前50% | #语音生成 | #变分推断 | #音频生成 #多模态模型 | arxiv 👥 作者与机构 作者：Kyeongmin Yeo, Yunhong Min, Minhyuk Sung 机构：KAIST 💡 毒舌点评 本文立意不错，试图从变分推断第一性原理出发解决多模态生成中的“一致性”痛点。理论分析部分逻辑清晰，提出了三个潜在空间准则并设计了相应的路由目标，这种“讲道理”的方式值得肯定。实验也表明其在无条件联合生成的一致性指标上有显著提升。然而，论文的核心创新点在于理论分析和目标设计，而实现这些目标的架构（编码器、解码器、先验）本身并无革命性变化。此外，理论证明依赖于多个理想化假设，其现实适用性存疑。最遗憾的是，缺少了对自身关键设计选择（如路由策略、不同聚合规则）的消融实验，使得理论分析与实际性能提升之间的因果链条不够坚固。在影响力方面，对于本领域的读者而言，这项工作的直接可借鉴性有限，更像一个针对视觉主导的多模态生成的“特解”。 📌 核心摘要 MUNI是一个面向任意多模态生成（any-to-any generation）的统一框架。它扩展了联合训练的单模态潜在扩散模型到多模态场景，核心在于两点：1）架构上，引入模态特定的编码器、表达力强的解码器和一个共享的流匹配先验；2）目标上，设计了一个路由训练目标，该目标通过非混合聚合、目标解耦的自重建以及仅在留一子集上训练先验等策略，使共享潜在变量同时满足一致性充分、预测充分和最小性这三个准则。实验在合成和真实图像-文本-音频数据上进行，结果表明MUNI在条件生成任务上不弱于强基线，而在更难的无条件联合生成任务上，其生成的模态间一致性显著优于现有方法。 ...

📄 Unified Audio Generation and Editing via Joint Condition Modeling and Progressive Training #音频生成 #扩散模型 #生成对抗网络 8.7/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.7/10 | 前25% | #音频生成 | #生成对抗网络 | #扩散模型 | arxiv 👥 作者与机构 Haocheng Dong：中国科学技术大学电子工程与信息科学系、中国电信人工智能研究院（TeleAI）。 Yuheng Lu：天津大学人工智能学院认知计算与应用天津市重点实验室、中国电信人工智能研究院（TeleAI）。 Cheng Gong, Shansong Liu, Xiao-Lei Zhang, Xuelong Li：中国电信人工智能研究院（TeleAI）。 💡 毒舌点评 这篇论文瞄准了一个实际痛点：音频生成与编辑模型的碎片化。作者提出的统一框架思路清晰，将扩散Transformer（DiT）适配为统一骨架，并通过联合条件建模与因子化位置嵌入处理不同任务的输入，有一定工程巧思。然而，论文在“统一”的深度上仍有欠缺，更像一个“多任务模型”而非真正的“统一范式”。任务特定注意力掩码这一关键设计被轻描淡写，缺乏原理性论证，令人怀疑其必要性与通用性。实验部分，虽然与SOTA模型对比数据亮眼，但编辑任务数据集是人工合成的，其真实世界泛化能力存疑。此外，论文声称“可扩展性”优势，但并未提供长音频或多参考音频的验证，这一宣称显得空洞。总体而言，这是一项扎实的工程应用研究，但理论洞察和实验验证的深度（尤其在编辑任务）未能匹配其雄心勃勃的标题。 📌 核心摘要 本文针对现有音频生成（如文本到音频，TTA）与编辑任务模型相互独立的现状，提出了一个名为AudioWeave的统一模型。该模型基于扩散Transformer（DiT）骨架，无需引入额外的任务特定模块，即可处理文本到音频生成和基于指令的音频编辑（需参考音频）两大类任务。核心方法包括：1）联合条件建模：将参考音频潜在序列与目标音频潜在序列沿序列维度拼接，形成统一的音频输入流；2）因子化位置嵌入：将位置信息分解为全局序列间位置和局部序列内位置，以区分不同序列（文本、目标音频、参考音频）并保持其内部时序结构；3）渐进式多阶段训练策略：先在纯TTA数据上训练基础模型，再混合TTA与编辑数据进行微调，以缓解任务竞争与灾难性遗忘。实验表明，在TTA任务及六种音频编辑任务上，AudioWeave的性能与多种任务特定模型相当，验证了该统一框架的有效性。 ...

📄 FoleyGenEx: Unified Video-to-Audio Generation with Multi-Modal Control, Temporal Alignment, and Semantic Precision #语音合成 #多模态模型 #扩散模型 #数据增强 7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 ✅ 7/10 | 前50% | #语音合成 | #数据增强 | #多模态模型 #扩散模型 | arxiv 👥 作者与机构 作者：Shiyao Wang, Xijuan Zeng, Hui Wang, Shiwan Zhao, Feng Deng, Chen Zhang, Yong Qin。机构：南开大学先进交叉科学研究院，快手科技。论文注明工作于王诗瑶在快手科技实习期间完成。 ...

📄 Lip Forcing: Few-Step Autoregressive Diffusion for Real-time Lip Synchronization #自回归模型 #扩散模型 #流式处理 6.8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 6.8/10 | 前50% | #语音合成 | #自回归模型 | #扩散模型 #流式处理 | arxiv 👥 作者与机构 论文标题: Lip Forcing: Few-Step Autoregressive Diffusion for Real-time Lip Synchronization arXiv ID: 2606.11180 作者: Paul Hyunbin Cho, Jinhyuk Jang, SeokYoung Lee, Joungbin Lee, Siyoon Jin, Heeseong Shin, Jung Yi, Yunjin Park, Chulmin Park, Seungryong Kim† 机构: 1KAIST AI, 2AIPARK ...

📄 PianoKontext: Expressive Performance Rendering from Deadpan Context #音乐生成 #流匹配 #扩散模型 9.1/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 0.9/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 9.1/10 | 前50% | #音乐生成 | #流匹配 | #扩散模型 | arxiv 👥 作者与机构 Dmitrii Gavrilev （机构未在提供的原文中明确提及） 💡 毒舌点评 这篇论文的出发点很巧，把“如何让钢琴弹得有感情”这个玄学问题，转化成了“如何把死气沉沉的MIDI合成音频变得好听”这个工程问题。思路清晰，像用DTW在潜在空间对齐数据这招，算是个实用的小trick。但是，作者你这实验做得也太“精打细算”了吧？就一个MAESTRO子集、一张RTX 4090卡，就想定义“表现力演奏”的未来？连个人类主观听感测试都舍不得做，就敢在结论里谈“音乐性”？这跟用泡面调料包评测米其林餐厅有啥区别。最后那个“缺乏理想 articulation”的自我批评倒是挺诚实，但光承认问题不解决，顶会审稿人可不会买账。 📌 核心摘要 本文提出了PianoKontext，一个用于表现力钢琴演奏渲染（EPR）的潜在流匹配模型。其核心思想是将问题建模为以合成的死板音频为条件，在潜在空间中生成变长、富有表现力的钢琴音频。关键方法包括：1）利用动态时间规整（DTW）在预训练的Music2Latent模型的潜在空间中，对齐MIDI分数合成的死板音频与真实表现力音频，构建训练数据对；2）采用借鉴自FLUX Kontext的DiT架构，通过拼接条件序列和噪声化的目标序列，并使用2D旋转位置编码（RoPE）进行联合自注意力建模，以学习两者间的依赖关系。实验表明，与无监督基线CFG Bridge相比，PianoKontext在音频质量（FAD/KAD）和内容保真度（Pitch DTW、对齐精确率/召回率）上均有提升。 🔗 开源详情 代码仓库：github.com/realfolkcode/pianokontext 提供代码，有助于复现方法。未提供模型权重或完整数据集。 🏗️ 方法概述和架构 PianoKontext的方法可分为数据准备和模型架构两大部分，整体流程如图1所示。 ...

📄 Inside the Latent Flow: Causal Deciphering of Attention Dynamics in Audio Separation Foundation Models #扩散模型 #语音分离 7.3/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.1/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.3/10 | 前50% | #语音分离 | #扩散模型 | arxiv 👥 作者与机构 Yuxuan Chen: Jilin University Haoyuan Xu: Hunan University Peize He: University of Electronic Science and Technology of China 💡 毒舌点评 这篇论文像一份非常精致的建筑结构分析报告——它精准测量了一座特定建筑（SAM Audio）的钢筋承重和管线布局，甚至基于此提出了优化管线排布的建议（LSAC），但整份报告的说服力建立在“其他建筑可能也这样”的模糊假设之上。作者的方法论工具箱（因果干预）堪称豪华，实验设计滴水不漏（统计检验规范），但结论的翅膀被牢牢拴在SAM Audio这一个树桩上。所谓“双通路机制”和“异步收敛”更像对模型行为的精细描述而非深刻的机理揭示，而“先验抑制”的证据链更是薄弱得像是基于一个巧合的观测。最致命的是，在模型权重、代码、复现细节全部缺位的情况下，这份报告更像是一个封闭的黑箱性能测评，而非开放的科学发现。 ...

📄 Optimality of FSQ Tokens for Continuous Diffusion for Categorical Data with Application to Text-to-Speech #扩散模型 #语音合成 7.3/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.3/10 | 前50% | #语音合成 | #扩散模型 | arxiv 👥 作者与机构 论文作者为Vadim Popov, Wenju Gu, Tasnima Sadekova, Georgii Aparin, Assel Yermekova。作者所属机构未在论文中明确说明。 💡 毒舌点评 这篇论文试图为“连续扩散分类数据”这个略显尴尬的混血儿（CDCD）寻找最佳的“灵魂容器”（潜在空间）。理论部分像在为一场精心设计的约会（扩散路径的KL散度）量体裁衣，结论是“FSQ这套西装最合身”。实验部分则直接把这身行头拉到语音合成这个高级秀场（TTS）走秀，结果发现，不仅比原来的自回归西装（CosyVoice2的LLM）更合身，跑得还更快，身材（模型）更苗条。理论部分的“最佳性”证明在高维时有点“理论不够，实验来凑”的意思，而TTS实验的胜利，很大程度上是“非自回归”对“自回归”的结构性胜利，FSQ本身有多大功劳，论文自己都给了“扰动对比”留了后门。总的来说，一篇不错的工程理论结合论文，但离“最佳”的封号还有距离，更适合被看作一个有启发性的工作。 📌 核心摘要 本文研究了用于生成分类数据的连续扩散模型（CDCD）的潜在空间结构。作者通过理论分析发现，潜在空间中token嵌入的几何结构可以通过逆向扩散路径度量之间的Kullback-Leibler散度来表征。他们证明了有限标量量化（FSQ）编码本在该度量下具有最优或近优性质，并提出了“最佳精度假设”，即在最优训练的扩散模型中，FSQ潜在空间能最大化token预测准确率。为验证理论，作者训练了基于CDCD的文本到语音（TTS）模型，发现使用FSQ token的模型在性能和效率上均优于其自回归（LLM）基线模型（CosyVoice2），其DiT骨干网络小10倍，推理速度快5倍以上。 ...

📄 Speech Meets ELF: Audio Conditional Continuous-Target Diffusion for Speech Recognition and Translation #语音识别 #语音翻译 #扩散模型 #流匹配 8.3/10 | 创新 1.7/2 | 严谨 1.4/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.3/10 | 前25% | #语音识别 | #语音翻译 | #扩散模型 #流匹配 | arxiv 👥 作者与机构 论文作者包括 Xuanchen Li（共同第一作者）， Tianrui Wang（共同第一作者）， Yuheng Lu， Zikang Huang， Yu Jiang， Chenghan Lin， Chenrui Cui， Ziyang Ma， Xingyu Ma， Chunyu Qiang， Guochen Yu， Xie Chen， Longbiao Wang， Jianwu Dang（通讯作者）。机构在作者列表中未明确标注，但根据通讯作者信息及论文常见模式，推测主要来自小米和相关合作机构。 ...

📄 HoliDubber: Holistic Video Dubbing for Complex Acoustic Scenes via Text-Guided Audio Synthesis #语音合成 #音频生成 #多模态模型 #扩散模型 #自监督学习 9/10 | 创新 1.6/2 | 严谨 1.4/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 9/10 | 前10% | #语音合成 | #自监督学习 | #音频生成 #多模态模型 | arxiv 👥 作者与机构 Wenhao Guan (厦门大学, 上海创新研究院), Yifan Duan (上海交通大学), Junxi Liu (上海交通大学), Yu Gu (未来工场), Feng Dang (未来工场), Kaidi Wang (厦门大学), Qingyang Hong (厦门大学), Lin Li (厦门大学), Xie Chen (上海交通大学, 上海创新研究院) ...