📄 AVTok: 1D Unified Tokenization for Holistic Audio-Video Generation #多模态模型 #语音合成 #自回归模型 #模型压缩 6.5/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0/0.5 | 工程 1/1.5 ✅ 6.5/10 | 前25% | #语音合成 | #模型压缩 | #多模态模型 #自回归模型 | arxiv 👥 作者与机构 作者：Kien T. Pham, I Chieh Chen, Qifeng Chen, Long Chen (通讯作者)。 机构：香港科技大学（The Hong Kong University of Science and Technology）。 ...
📄 ZONOS2 Technical Report #语音合成 #多语言 #自回归模型 10/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 10/10 | 前25% | #语音合成 | #多语言 | #自回归模型 | arxiv 👥 作者与机构 作者：Gabriel Clark, Sofian Mejjoute, Mohamed Osman, George Close, Beren Millidge 机构：Zyphra 💡 毒舌点评 这篇技术报告读起来像一份精心包装的产品发布说明书，而非一篇严谨的学术论文。最大的槽点在于“过度声明”与“选择性对比”：摘要中声称“state-of-the-art naturalness, prosody, and voice cloning fidelity”，但结果表（IV, V）显示，在关键指标如WER和UTMOS上，ZONOS2在多个语言上显著落后于闭源模型（如Eleven Labs V3, Gemini 3.1 Flash）和部分开源模型（如Fish S2 Pro, VoxCPM 2）。其所谓“竞争力”高度依赖自家提出的ZTTS1-Eval基准，而在这个基准上，其“Quality Mode”虽提升了一些指标，但往往以牺牲说话人相似度为代价（对比表IV/ V 中“8B”与“Quality Mode”行）。此外，将80%以上的英文训练数据（图3）归因于“公开语音语料库、播客”等，却未提供这些数据集的任何链接或开源协议，使得“开源”光环下的数据透明度大打折扣，存在“数据黑箱”的嫌疑。讨论部分（VII）对MoE训练不稳定性的承认倒是挺实在的。 ...
📄 A Generalized Formalism of Auto-Regressive Decoding for Speech Processing #自回归模型 4.1/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 0/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0/0.5 | 工程 0.4/1.5 📝 4.1/10 | 后50% | #自回归模型 | #自监督学习 | arxiv 👥 作者与机构 Julia Gachot, Philipp Allgeuer, Marie S. Bauer, Stefan Wermter Knowledge Technology, Department of Informatics, University of Hamburg, Germany 💡 毒舌点评 一篇典型的“理论先行，实验为零”的宣言式论文。作者试图用一套四步走的通用框架来统一自回归解码这个看似简单却包罗万象的领域。框架本身逻辑自洽，归纳得也挺规整，就像给一堆形状各异的解码算法强行套上了一个统一的乐高底板。问题在于，这个底板到底结不结实？好不好用？能搭出比现有积木城堡更漂亮的东西吗？论文通篇没有回答。它只告诉你“我有个好想法”，但不证明这个想法比别人现有的好。在顶会，光有想法是不够的，你得用扎实的实验（哪怕只是在一个小任务上的消融）来证明这个想法的威力。把“消融研究方法学”当贡献提出来，却自己不做一个示例，这多少有点空手套白狼的意思。对于一篇自称面向“语音处理”的论文，里面关于语音的专属讨论却少得可怜，更像是披着语音外衣的通用序列生成综述。整体来说，是一篇有潜在价值但远未成熟的工作，更像一篇position paper或workshop论文，离正式的contribution paper还有距离。 ...
📄 AudioCALM: Continuous Autoregressive Language Modeling for Universal Audio Generation #语音合成 #音频生成 #音乐生成 #自回归模型 #流匹配 7.9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.3/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.9/10 | 前25% | #语音合成 | #音频生成 | #音乐生成 #自回归模型 | arxiv 👥 作者与机构 作者：Huadai Liu, Kaicheng Luo, Wen Wang, Qian Chen, Bin Ma, Xiangang Li, Wei Xue 机构：香港科技大学 (HKUST), 通义团队, 阿里巴巴集团 (Tongyi Fun Team, Alibaba Group) ...
📄 Streaming T5-based Text-to-Speech Synthesis with Limited Lookahead #语音合成 #知识蒸馏 #自回归模型 6.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.7/10 | 前25% | #语音合成 | #知识蒸馏 | #自回归模型 | arxiv 👥 作者与机构 作者：Muyang Du, Jason Roche, Junjie Lai 机构：NVIDIA China, NVIDIA USA 💡 毒舌点评 这篇工作像是给“语音合成流水线”加了个“预读窗口”。想法很直接——别等整句文字吐完再开始发声，看着前面几个词就能动嘴了。技术包装上，T5架构加上精心设计的掩码和对齐模块，看起来挺唬人。但仔细想想，所谓的“有限前瞻”本质上是对注意力机制的硬约束，有点“削足适履”的味道。实验部分倒是花了不少力气，各种消融和对比，但baselines的选择和训练数据的差异（特别是与SOTA对比时）让说服力打了折扣。最让人皱眉的是“开源”部分的空白，这对于一个号称实用且解决了实际问题的工作来说，有点说不过去——你解决了延迟，却不让我们方便地验证和使用，这“实用价值”就悬在半空了。 📌 核心摘要 本文提出了S5-TTS，一个基于T5的流式文本到语音合成模型，旨在解决级联LLM-TTS系统中因TTS需要完整上下文而产生的高端到端延迟问题。S5-TTS通过引入前瞻因果掩码（lookahead-causal masking）机制和基于卷积的辅助注意力模块，实现了在有限前瞻（即每个词合成时仅能看到其自身、前面所有词和k个未来词）下的词级增量语音合成。为了补偿有限前瞻造成的自然度损失，作者采用了交错多源蒸馏（Interleaved Multi-Source Distillation， IMSD）策略，利用全上下文的T5-TTS作为教师模型，同时使用配对的文本-音频数据和经过ASR过滤的合成文本数据进行监督。实验表明，当k=2时，S5-TTS在可懂度（WER）和说话人相似度（SSIM）上与全上下文T5-TTS相当，主观质量（MOS）接近，同时显著降低了端到端语音响应延迟。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：论文中使用了LibriTTS、HiFiTTS和UltraChat-200k数据集，但未提供这些数据集的具体下载链接、处理脚本或合成数据的详细获取方式。 Demo：https://s5-tts.github.io/ 复现材料：论文中提及了详细的训练配置（GPU型号、批量大小、优化器、学习率等），但未提供完整的训练代码、配置文件或检查点下载链接。 论文中引用的开源项目：T5-TTS, NeMo, phonemizer, Parakeet-TDT, E2-TTS, FireRedTTS, MaskGCT, CosyVoice, Llama 3.3 70B, Ollama。论文引用了这些项目，但未提供直接链接，也未说明S5-TTS的开源实现依赖于其中哪些项目的官方代码库。 🏗️ 方法概述和架构 S5-TTS的核心架构是基于T5的编码器-解码器Transformer，专为流式合成设计。 ...
📄 One-Step Token-to-Waveform Generation with MeanFlow in Latent Space #语音合成 #生成模型 #自回归模型 #流匹配 #扩散模型 #Transformer 9.3/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 🔥 9.3/10 | 前10% | #语音合成 | #Transformer | #生成模型 #自回归模型 | arxiv 👥 作者与机构 作者：Zheqi Dai, Guangyan Zhang, Zhen Ye, Jingyu Li, Haolin He, Chunyat Wu, Yiwen Guo, Qiuqiang Kong 机构：1 The Chinese University of Hong Kong, Hong Kong SAR, China; 2 LIGHTSPEED, Tencent, Hong Kong SAR, China; 3 The Hong Kong University of Science and Technology, Hong Kong SAR, China; 4 Independent Researcher ...
📄 Towards Robust Generative Speech Enhancement Using Vector Quantisation-Based Neural Audio Codec #语音增强 #自回归模型 #生成模型 5.9/10 | 创新 1.2/2 | 严谨 1.1/1.5 | 实验 0.8/1.5 | 清晰 1/1 | 影响 0.6/1.5 | 开源 0.1/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 📝 5.9/10 | 前50% | #语音增强 | #自回归模型 | #生成模型 | arxiv 👥 作者与机构 Haixin Zhao, Nilesh Madhu IDLab, Ghent University - imec, Belgium 💡 毒舌点评 这篇工作就像用精美的瑞士军刀去切黄油。作者搭建了两个结构对称、理论分析看似漂亮的框架（cNAC-SE和dNAC-SE），然后通过详尽的消融实验证明了一件大家其实模模糊糊知道的事：在连续空间预测回归值并套个VQ壳子，通常比预测离散分类值要稳。论文的理论分析部分（第2.4节和图3、4）是其最大亮点，用Voronoi cell和PCA图解释了连续建模为何“漂移”更小，这一点讲得漂亮且直观。然而，实验部分的问题暴露了其野心的边界：所有对比基线要么是几年前的，要么是自己家族的变体（dNAC-SE）。Table 3 中与SOTA的对比中，最好的cNAC-SE模型相对于SELM、StoRM等方法的优势并不明显（例如在Real Recordings的BAK和OVL上），尤其是在被其视为核心创新的“鲁棒性”方面（带混响测试集），优势幅度有限。作者声称取得了“leading performance”，但在没有与最新（2025-2026年）的强力生成模型（如基于Flow Matching或Consistency Model的SE方法）正面较量时，这个宣称显得底气不足。此外，论文将大量篇幅用于解释一个相对直观的现象，而忽略了对计算开销这一明确提到的限制的深入分析或缓解方案。整体感觉是：一个扎实的、分析透彻的中游工作，试图包装成一个突破性的工作，但实验对比的“护城河”挖得太浅。 ...
📄 BayLing-Duplex: Native Full-Duplex Speech Dialogue with a Single Autoregressive LLM #语音合成 #语音识别 #自回归模型 9/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 🔥 9/10 | 前10% | #语音合成 | #语音识别 | #自回归模型 | arxiv 👥 作者与机构 论文有三位作者：Qingkai Fang、Shoutao Guo、Yang Feng。他们都隶属于中国科学院计算技术研究所（ICT/CAS）的智能信息处理重点实验室、中国科学院AI安全重点实验室以及中国科学院大学。 💡 毒舌点评 这篇论文在“如何让LLM学会实时对话”这个问题上给出了一个相当聪明的答案。它没有像Moshi那样另起炉灶搞一套复杂的双流并行架构，而是巧妙地在现有的单工LLM（GLM-4-Voice）上“打补丁”——通过精心设计的多通道交错序列和四个特殊令牌，把“什么时候该说话、什么时候该闭嘴、什么时候该被打断”这些复杂决策，统统变成了LLM最擅长的“下一个词预测”游戏。这个想法非常优雅，工程上也极其友好，40万样本微调就能从单工变全双工，成本控制堪称典范。实验结果也足够亮眼，尤其是在轮流和打断的成功率上碾压了Moshi，证明了“内化决策”的有效性。然而，它的软肋也很明显：所有实验都在干净、无噪、单人的合成语音上进行，这就像在无菌实验室里测试越野车，真正开上马路（复杂现实环境）表现如何，谁也不知道。此外，0.8秒的固有延迟虽然被提及，但分析深度不足，对于追求极致响应速度的应用来说，这可能是一个硬伤。总体而言，这是一篇工程思维出色、架构设计巧妙的工作，但其宣称的“原生全双工”能力，还需要在更“脏”的真实世界数据中经受考验。 📌 核心摘要 本文提出了BayLing-Duplex，一个基于单一自回归大语言模型（LLM）的原生全双工语音对话系统。该系统通过一种创新的多通道交错序列布局，将用户语音、助手文本和助手语音三个流以固定块大小交错组织，并引入[SILENCE]、[ASSISTANT]、[PAD]、[EPAD]四个对话状态特殊令牌。这一设计将全双工对话中的轮流说话和打断决策，完全转化为标准LLM的下一个令牌预测任务，无需任何额外的分类头、状态机或外部语音活动检测（VAD）模块。模型以GLM-4-Voice为骨干，仅通过在40万全双工合成样本上进行有监督微调（SFT）和直接偏好优化（DPO）两阶段训练，便实现了从单工到全双工的能力转换。实验表明，BayLing-Duplex在轮流说话成功率（92.0%）和打断成功率（100%）上大幅超越了基线模型Moshi，并在语音问答等任务上保持了与单工版本相当或更优的性能，验证了全双工建模并未以牺牲回复质量为代价。 🔗 开源详情 代码：https://github.com/BayLing-Models/BayLing-Duplex 模型权重：论文中未直接提供独立的模型权重下载链接，但根据摘要中的信息，代码和模型已发布于上述GitHub仓库。模型基于GLM-4-Voice检查点训练。 数据集：论文中描述的数据集为基于Alpaca和UltraChat数据集，通过Llama-3.3-70B-Instruct改写并使用CosyVoice合成的多轮对话语音语料，后被转换为全双工格式。原始合成数据集的获取链接论文中未提及。 Demo：论文中未提及。 复现材料：论文中提供了详细的训练配置。SFT阶段：在400K全双工样本上训练1个epoch，批量大小32，峰值学习率1e-5，使用带10%预热的余弦学习率调度。DPO阶段：训练200步，峰值学习率3e-7，β=0.5，λ_ftx=0.5，使用带5%预热的余弦学习率调度。训练代码基于LLaMA-Factory。但检查点文件的具体下载链接论文中未提及。 论文中引用的开源项目： GLM-4-Voice: https://github.com/THUDM/GLM-4-Voice Whisper-large-v3: https://github.com/openai/whisper CosyVoice: https://github.com/FunAudioLLM/CosyVoice LLaMA-Factory: https://github.com/hiyouga/LLaMA-Factory 🏗️ 方法概述和架构 BayLing-Duplex的核心架构是在已有的GLM-4-Voice单工语音LLM基础上，通过设计一种新颖的序列布局来赋予其全双工能力，而不引入新的网络模块。 ...
📄 Lip Forcing: Few-Step Autoregressive Diffusion for Real-time Lip Synchronization #自回归模型 #扩散模型 #流式处理 6.8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 6.8/10 | 前50% | #语音合成 | #自回归模型 | #扩散模型 #流式处理 | arxiv 👥 作者与机构 论文标题: Lip Forcing: Few-Step Autoregressive Diffusion for Real-time Lip Synchronization arXiv ID: 2606.11180 作者: Paul Hyunbin Cho, Jinhyuk Jang, SeokYoung Lee, Joungbin Lee, Siyoon Jin, Heeseong Shin, Jung Yi, Yunjin Park, Chulmin Park, Seungryong Kim† 机构: 1KAIST AI, 2AIPARK ...
📄 ANCHOR: Autoregressive Non-intrusive Chunk-Ordered Refinement for Joint Multi-Resolution Speech Quality Modeling #语音质量评估 #自回归模型 #多任务学习 #流式处理 8/10 | 创新 1.4/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.4/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 8/10 | 前25% | #语音质量评估 | #多任务学习 | #自回归模型 #流式处理 | arxiv 👥 作者与机构 Zhuoyan Tao (University of Southern California, USA), Jiatong Shi (Carnegie Mellon University, USA), Hye-jin Shim, Shinji Watanabe ...
📄 Overcoming Decoder Inconsistencies in Whisper for Dravidian and Low-Resource Languages #语音识别 #低资源 #多语言 #自回归模型 6.2/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 ✅ 6.2/10 | 后50% | #语音识别 | #低资源 | #多语言 #自回归模型 | arxiv 👥 作者与机构 作者：Venkata Kumar Tripathi, Chowdam Kumar, Pankaj Wasnik 机构：Media Analysis Group, Sony Research India 邮箱：kumud.tripathi@sony.com, chowdam.kumar@sony.com, pankaj.wasnik@sony.com 💡 毒舌点评 这篇论文切中了多语言ASR中一个真实且重要的痛点：Whisper等模型在达罗毗荼语上的表现显著落后于印地语等。作者通过语言学分析将问题归因于形态复杂性导致的解码器注意力失衡，这个动机是合理且有启发性的。提出的Weighted-Attention和Self-Conditioning是直接针对这一问题的工程化尝试，方法本身是合理且可理解的。然而，最大的问题在于贡献的“天花板”较低。两个模块都是对现有Transformer解码器的微小调整（门控和残差连接），创新深度有限。实验规模（仅微调解码器、使用Medium模型、8种印度语言+2种泛化语言）和与当前最强基线（如Whisper-large-v3或专有SOTA）的差距分析不足，使得结论的说服力打了折扣。更关键的是，完全未开源，对于一项声称解决“公平性”问题的工作来说，这限制了其社会影响力和可复现性。总的来说，这是一篇扎实的、解决特定问题的工作，但离顶会论文所期望的突破性贡献仍有距离。 ...
📄 TLDR: Compressing Audio Tokens for Efficient Autoregressive Text-to-Speech #语音合成 #自回归模型 #参数高效微调 #模型压缩 8.2/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.2/10 | 前25% | #语音合成 | #参数高效微调 | #自回归模型 #模型压缩 | arxiv 👥 作者与机构 Yejin Lee, Junwon Moon, Hyoeun Kim, Hyunjin Choi：成均馆大学（Sungkyunkwan University） Heeseung Kim：首尔市立大学（University of Seoul） Kyuhong Shim：成均馆大学（Sungkyunkwan University） 💡 毒舌点评 这篇论文的立意很好，直击了当前AR-TTS模型“又慢又占内存”的痛点。方法设计上，“换汤不换药”（用patch替代token）的思路虽然不算石破天惊，但胜在实用，能直接嫁接到现有模型上，工程价值明显。然而，几个“但是”不得不提：1) 实验上有点“温室里的花朵”，只在CosyVoice3这一个“温室”里做实验，数据也是相对纯净的LibriTTS，面对更多样、更嘈杂的现实数据时，性能如何是个问号；2) “固定patch大小”像是给模型戴上了镣铐，语音的疏密变化明显，自适应patch才是更优雅的解法；3) 主观评测就找了25个英语母语者，这个样本量在顶会论文里略显寒酸，说服力打了折扣。总的来说，这是一篇扎实的工程优化论文，但离“令人眼前一亮”的理论突破或全面系统的实验验证还有距离。 ...
📄 dots.tts Technical Report #语音合成 #流匹配 #自回归模型 #多语言 #低资源 #数据增强 #模型压缩 9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.1/1.5 🔥 9/10 | 前25% | #语音合成 | #数据增强 | #流匹配 #自回归模型 | arxiv 👥 作者与机构 作者：Shi Lian, Changtao Li, Bohan Li, Hankun Wang, Da Zheng, Junfeng Tian, Yufeng Ma, Colin Zhang, Kai Yu。 机构：dots团队，小红书公司（Xiaohongshu Inc.），上海交通大学X-LANCE实验室。 ...
📄 Read What You Hear: Reference-Free Hypotheses Evaluation with Acoustic Discrepancy #语音识别 #语音合成 #自回归模型 #无监督学习 #鲁棒性 #多任务学习 8.6/10 | 创新 1.7/2 | 严谨 1.4/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 🔥 8.6/10 | 前25% | #语音识别 | #多任务学习 | #语音合成 #自回归模型 | arxiv 👥 作者与机构 作者：Zhihan Li, Hankun Wang, Yiwei Guo, Bohan Li, Kai Xie, Yu Chen（论文中作者列表顺序与此不同，但姓名与邮箱可对应） 机构：X-LANCE Lab, School of Computer Science, Shanghai Jiao Tong University, China；MoE Key Lab of Artificial Intelligence, Jiangsu Key Lab of Language Computing, China（合作机构） ...
📄 LiveBand: Live Accompaniment Generation in the Audio Domain #对抗训练 #自回归模型 #生成对抗网络 8/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8/10 | 前25% | #音乐生成 | #对抗训练 | #自回归模型 #生成对抗网络 | arxiv 👥 作者与机构 索尼计算机科学实验室（Sony Computer Science Laboratories, SCS Paris） 💡 毒舌点评 这篇论文瞄准了一个非常具体且困难的实际问题：如何在零前瞻（lookahead）的严格实时约束下，根据混合音频流生成伴奏。它提出的解决方案核心思想——用对抗训练替代自回归损失以消除教师强制偏差——是清晰且合理的。然而，论文的评估部分存在显著的漏洞，严重削弱了其结论的可信度。主观测试中，低质量锚点在“一致性”上的得分竟高于基线模型，这一反常结果未得到任何解释或讨论，暴露出实验设计的重大缺陷。此外，FAD等客观指标在部分配置下优于真实音频，这更可能指向评估指标的局限性或生成模式的坍塌，而非模型真的超越了人类水平，但论文对此缺乏批判性分析。在声称解决了“根本性障碍”之前，先得把自家后院的篱笆扎牢。技术细节扎实，但实验论证链条的这一环太薄弱了。 📌 核心摘要 问题背景：解决在严格因果约束和实时延迟要求下，根据实时输入的混合音频（mix）生成高质量音乐伴奏（accompaniment）的任务。传统方法依赖教师强制训练，导致训练与推理间存在分布偏移（暴露偏差），需要未来信息前瞻（lookahead）来维持一致性。 核心方法：提出LiveBand系统，它在一个预训练的因果音频自编码器（CoDiCodec的因果变体）的连续潜在空间中训练一个因果Transformer生成器。生成器每一步仅接收因果可用的混合上下文和独立高斯噪声，不接收之前生成的目标隐状态，从而在训练时即可实现与推理完全匹配的序列生成，消除了暴露偏差。对抗性训练由一个非因果的卷积判别器提供序列级监督，评估完整生成序列的真实性。 主要贡献：1. 提出首个无需未来信息前瞻的严格因果Transformer，用于实时音乐伴奏生成。2. 通过设计实现了训练与推理的完全匹配（平行掩码前向传播与自回归推理等价），无需序列回滚即可消除教师强制带来的暴露偏差。3. 提出一种自适应梯度惩罚权重（AdaGP），通过维持目标判别器优势来稳定对抗训练，减少超参数调整。 实验数据集：主要使用Slakh2100数据集的官方划分。另有一个基于约2万条非合成多轨立体声录音的内部语料库，仅用于训练一个CLAP条件变体（LiveBand_int）。 评估指标：使用Fréchet Audio Distance（FAD，VGGish和CLAP嵌入空间，↓）、节拍对齐F1分数（BA F1，↑）、COCOLA（衡量混合-伴奏一致性，包括full/harm/perc版本，↑）等客观指标，并进行了主观听音测试评估音频质量和混合一致性。同时报告了从第10秒到第20秒生成内容的指标漂移（Δ）。 主要结果：在Slakh2100基准测试上，LiveBand（包括τ=0, 0.1, 1秒前瞻）在所有客观指标上均优于自回归基线模型StreamMusicGen（SMG）。即使在τ=1秒的强前瞻设置下，LiveBand的BA和COCOLA指标仍优于SMG在τ=0（严格同步）下的表现。在20秒生成中，LiveBand表现出极低或有利的指标漂移，而SMG性能随时间下降。主观测试显示LiveBand在质量和混合一致性上显著优于SMG。在消费级硬件（RTX 3090）上，配合torch.compile，系统可实现实时推理（RTF > 1）。 代码与数据：论文提供了演示页面链接：https://sonycslparis.github.io/liveband-companion。未提供训练代码、模型权重或数据集下载链接。 资源需求：在单块RTX 3090 GPU上，使用bfloat16混合精度，训练约75万次迭代（约1周）。生成器和判别器各约1.5亿参数。 局限性：论文承认生成的音频保真度与真实音频相比仍有提升空间。实验设计（如主观测试锚点）存在可讨论的问题。 伦理考量：论文提及了该技术在作者权、对音乐家影响及潜在滥用方面的伦理问题。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：论文中未提及 数据集：主要使用 Slakh2100 数据集（论文中引用了其官方 train/test split [48]）。另有一个基于约20k首非合成多轨立体声录音的内部语料库，用于训练CLAP条件变体，但该内部数据集未公开。Slakh2100 数据集是公开的，可通过其原论文或官方渠道获取。 Demo：https://sonycslparis.github.io/liveband-companion 复现材料：论文中详细描述了模型架构超参数、训练细节（如优化器设置、学习率、批大小、训练迭代次数、硬件等），但未提供具体的训练脚本、配置文件或检查点下载链接。 论文中引用的开源项目： CoDiCodec：论文中引用了其因果音频自编码器变体 [40]（“retraining a causal variant of CoDiCodec”）。未提供直接链接。 R3GAN：论文中引用了该相对论GAN框架 [24]（“We adopt R3GAN”）。未提供直接链接。 BeatThis：用于节拍对齐评估 [52]。 Madmom：用于节拍对齐评估 [53]。 COCOLA：用于衡量mix-accompaniment对齐度 [54]。 （注：论文未提供以上所有引用项目的具体URL。） 🏗️ 方法概述和架构 LiveBand系统旨在解决实时、因果的音乐伴奏生成问题，其方法核心在于消除训练与推理的不匹配，并利用序列级监督。整个系统在预训练的因果音频自编码器的连续隐空间内操作。 ...
📄 AnyMo: Scaling Any-Modality Conditional Motion Generation with Masked Modeling #多模态模型 #自回归模型 #数据增强 7/10 | 创新 2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 0/1.5 ✅ 7/10 | 前50% | #多模态模型 | #数据增强 | #自回归模型 | arxiv 👥 作者与机构 作者：Yiheng Li (中国科学院计算技术研究所, 中国科学院大学)，Zhuo Li (独立作者)，Ruibing Hou (中国科学院计算技术研究所)，Yingjie Chen (北京大学)，Hong Chang (中国科学院计算技术研究所, 中国科学院大学)，Hao Liu (独立作者)，Shiguang Shan (中国科学院计算技术研究所, 中国科学院大学) 通讯作者：Hao Liu (lewes6369@gmail.com) 💡 毒舌点评 这篇论文试图解决运动生成领域的一个“贪心”问题：想要一个模型吃下所有条件（文本、语音、音乐、轨迹），还想要数据足够大、模型能缩放。野心不小，也确实做出了些东西。数据集OmniHuMo规模号称最大，这算是个实在的工程贡献，对社区后续研究有价值。AnyMo框架的设计思路清晰，把R-FSQ和并行掩码建模结合起来处理多流token，算是一个合理的技术集成。缩放研究展示了从111M到3B参数的效果趋势，尤其是文本任务上FID的显著下降，验证了 scaling law 在这个任务上的有效性。 ...
📄 Towards Streaming Synchronized Spatial Audio Generation via Autoregressive Diffusion Transformer #自回归模型 #扩散模型 #多模态模型 #对比学习 ✅ 6.5/10 | 前50% | #自回归模型 | #对比学习 | #扩散模型 #多模态模型 | arxiv 学术质量 6.5/7 | 影响力 7.0/2 | 可复现性 0.2/2 | 置信度 高 👥 作者与机构 作者：Ke Lei, Yu Zhang, Changhao Pan, Xueyi Pu, Wenxiang Guo, Ruiqi Li, Zhou Zhao。论文中未明确提及作者所属机构。（审校注：根据其arXiv提交历史及相关信息，通常隶属于阿里巴巴集团，但本文原文未明确声明） 💡 毒舌点评 概念包装大于实质新颖：将“分块生成”（Patch-wise generation）包装为“流式自回归扩散Transformer”，听起来高大上，但其核心思想——用一个较小的局部扩散模型（LocDiT）在自回归生成的语义条件下进行块内去噪——在语音和音频生成领域已有先例。创新更多体现在具体架构的组合，而非范式突破。 “流式”宣传需打折：论文反复强调0.21s的首块延迟，但报告了总推理时间为9.13s（生成10秒音频）。这意味着在生成完第一个chunk（约0.5秒音频）后，用户需等待约8.9秒才能获得完整音频。这种“流式”对实时交互的支持非常有限，更像是一种延迟优化的序列生成，而非真正的低延迟流式传输。 实验对比存在“田忌赛马”：将SwanSphere（1.09B参数）与多个级联管线（如MMAudio+AS）和一个参数更小的专用模型（ViSAGe, 0.36B）对比，并声称全面超越，说服力有限。更公平的对比应与最新、参数量相当的端到端空间音频模型进行。 ODPO的必要性存疑：消融实验显示ODPO将FD从133.91降至120.28。虽然有效，但奖励函数设计（空间误差、语义相似度、保真度）高度依赖外部预训练模型（ImageBind, Audiobox Aesthetics），这引入了额外的复杂性和偏差。论文并未探讨这些奖励模型本身的局限性如何影响最终生成质量。 数据集构建与评估的“自产自销”：SwanSphere数据集由论文作者自己构建，测试集也从中划分。虽然附录提供了细节，但使用自己构建、自己评估的数据集来证明方法优越性，存在固有的乐观偏差。跨数据集泛化能力（如YT360-Test）虽然有所展示，但仍是同一评估体系下的结果。 “通用”方法的狭窄适用性：尽管声称适用于VR/AR等沉浸式场景，但模型输入严格限定于全景视频+文本，输出为FOA。这与当前市场上更通用的双耳渲染或基于对象的音频格式存在差距。技术路线过于专精，可能限制其实际应用广度。 📌 核心摘要 本文提出SwanSphere，一个统一的流式框架，用于从全景视频和文本提示生成高保真第一阶环绕声（FOA）空间音频。该框架旨在解决现有技术在生成质量与推理延迟之间的权衡，以及从多模态输入中捕捉精确空间信息的困难。其核心贡献包括：1) 提出因果自回归扩散Transformer架构，通过将语义规划（自回归语言模型）与局部声学渲染（局部扩散Transformer）解耦，实现流式高质量生成；2) 设计空间视频-音频对比学习（SVAC）策略，通过四类物理感知的正负样本对齐视频与音频编码器的空间语义表征；3) 引入多目标在线直接偏好优化（ODPO），从空间、语义和保真度三个维度对齐生成结果与人类偏好；4) 开发基于多模态大语言模型（MLLM）的自动化空间字幕标注管道，以缓解空间音频数据稀缺问题。实验表明，SwanSphere在视频到空间音频和文本到空间音频任务上，在语义保真度、空间精度和主观评估方面均优于现有基线模型，同时实现了更低的首块生成延迟。 ...
📄 Decoding Strategies for Diffusion-Based ASR: A Systematic Evaluation of Confidence-Based Thresholding #扩散模型 #自回归模型 ✅ 6.8/10 | 前50% | #语音识别 | #扩散模型 | #自回归模型 | arxiv 学术质量 4.6/7 | 影响力 1.2/2 | 可复现性 1/2 | 置信度 中 👥 作者与机构 Jeong Hun Yeo: KAIST (韩国科学技术院)，通讯/主要联系作者。 Minsu Kim: Google DeepMind (东京)，合作者（论文注明贡献为咨询角色）。 Hyeongseop Rha: KAIST。 Yong Man Ro: KAIST，通讯作者。 💡 毒舌点评 这是一篇“工整”但缺乏突破性的实证分析论文。作者们非常聪明地选择了一个“安全区”——用已有的扩散语言模型解码策略，在另一个领域（ASR）进行“搬家”式验证，并套用了一套听起来高大上的分析框架（NLL不确定性轨迹）。论文最大的问题在于创新性的严重不足：三种解码策略本身均非本文提出，核心贡献仅在于“比较”和“解释”。将论文包装成“系统评估”虽有一定价值，但本质上是在填补一个由先前研究（主要是DLM在NLP中的应用）留下的、并非关键的知识空白。实验仅在单一、干净的LibriSpeech数据集上进行，严重限制了结论的普适性和影响力，作者自己也承认了这点，但审稿人必须强调这极大地削弱了其作为“系统评估”的分量。分析部分看似精细，但核心洞察（ASR置信度分数高度集中）更像是一种现象观察而非深刻的机制解析。总而言之，这是一篇合格的、中规中矩的领域应用分析，但离顶会要求的“significant contribution”尚有距离。 📌 核心摘要 本文针对基于扩散语言模型（DLM）的自动语音识别（ASR）解码策略进行了系统性评估。研究比较了三种解码方案：固定数量解码（top-k）、静态置信度阈值解码和动态置信度阈值解码，在准确率（WER）与速度（RTF）的权衡上，阈值策略（尤其是静态阈值）显著优于固定数量解码。作者提出使用基于负对数似然（NLL）的不确定性轨迹来量化分析并行解码的逐轮进展。研究发现，ASR任务中置信度分数高度集中于高值区域（>90%的令牌置信度超过0.9），这解释了阈值策略为何能高效利用早期高置信度令牌，从而加速解码。静态阈值策略在块大小为4、阈值\(C=0.95\)时，达到了接近自回归基线的WER（2.81% vs. 2.78%），同时速度快1.7倍。 🔗 开源详情 代码：论文指出可通过其arXiv页面（https://arxiv.org/abs/2605.29613v1）上的“Code”按钮访问作者提供的代码仓库。但在论文正文、参考文献或附录中均未直接给出代码仓库的URL。 模型权重： Whisper-medium.en：在HuggingFace Hub公开，链接如 https://huggingface.co/openai/whisper-medium.en。 LLaDA-8B-Instruct：在HuggingFace Hub公开，链接如 https://huggingface.co/MLNLPCN/LLaDA-8B-Instruct。 论文训练的Whisper-LLaDA模型：未提供下载链接。 数据集： LibriSpeech：公开数据集，可从 https://www.openslr.org/12 获取。 GSM8K：公开数据集，可从 https://huggingface.co/datasets/gsm8k 获取。 复现材料：论文提供了主要的训练超参数（100k步，8xA6000 GPU），但未提供���整的训练脚本、详细配置或预训练检查点。完整复现强烈依赖作者未在文中详述的代码仓库。 🏗️ 方法概述和架构 本文采用并评估的基线DLM-ASR系统为 Whisper-LLaDA。其核心架构包含以下组件： ...
📄 Unified Synthesis of Compositional Speech and Sound from Free-Form Text Prompts #语音合成 #多任务学习 #自回归模型 #生成模型 #对比学习 #多模态模型 #数据增强 🔥 8/10 | 前25% | #语音合成 | #多任务学习 | #自回归模型 #生成模型 | arxiv 学术质量 6/7 | 影响力 1.5/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 第一作者：Yuyue Wang（中国人民大学） 通讯作者：Xihua Wang（中国人民大学） 机构：中国人民大学 💡 毒舌点评 一篇动机明确、架构清晰的工作，定义了‘自由文本到统一音频生成’这一有潜力的任务，并提出了一个不错的解决方案。然而，如同许多初次尝试定义新任务的工作，其‘统一’的光环在实验部分略显褪色。基线选择过于保守，仅与较早的VoiceLDM和流水线方法对比，对近期涌现的AudioBox、Fugatto等强力竞争对手视而不见，这让其‘优越性’的宣称打了折扣。实验部分更像是精心设计的‘能力展示’而非公平‘竞技场’，尤其是主观评估样本量仅50个，说服力有限。论文的‘未来工作’比‘当前工作’更有吸引力。整体是一篇扎实但不够大胆的论文，创新有余，验证不足。 📌 核心摘要 本文针对“自由文本提示生成统一音频”这一新任务，提出了PlanAudio框架。该任务旨在直接从自然语言提示合成包含语音、音效及其复合交互的统一音频流。PlanAudio是一个基于自回归LLM的统一模型，其核心创新是引入“语义潜在思维链”机制，在连续语义空间进行隐式规划，以桥接高语义理解与低层声学生成。模型采用单一Transformer骨干，直接处理文本，无需外部文本编码器或重写模块。作者还构建了专用的复合音频评估基准PlanAudio-Bench。实验表明，PlanAudio在复合场景下优于基线方法，并在单独音效和语音任务上保持竞争力。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重的公开链接。 数据集：论文中提及基于以下公开数据集构建训练数据，并合成了新的基准数据集。具体获取方式如下： AudioSet: 论文用于合成复合音频数据，未提供数据集本身的直接链接。 AudioCaps: 论文用于声音生成评估，未提供链接。 WavCaps: 论文用于声音生成，未提供链接。 LibriTTS: 论文用于语音生成评估，未提供链接。 PlanAudio-Bench：论文中提出的新基准测试集，论文中未提及公开获取链接。 Demo：论文中未提及。 复现材料：论文中未提及训练配置、检查点等复现材料的公开链接。 论文中引用的开源项目： Qwen2.5-1.5B: 作为模型初始化的基础LLM。 链接: https://huggingface.co/Qwen/Qwen2.5-1.5B AudioCraft tokenizer: 用于将音频离散化为分层标记。 链接: https://github.com/facebookresearch/audiocraft AF3Encoder (Audio Flamingo 3 Encoder): 用于提取语义表示。 论文中未提供具体链接。 Whisper: 用于生成转录。 论文中未提供具体链接。 Gemini-2.5 Pro: 用于数据标注和文本改写。 论文中未将其列为开源项目。 🏗️ 方法概述和架构 PlanAudio是一个端到端的自回归LLM框架，旨在直接从自由形式文本提示生成包含语音和音效的统一音频波形。其核心架构（如图2所示）基于单一Transformer骨干（初始化自Qwen2.5-1.5B），将文本、潜在规划特征和离散音频token组织成一个统一序列进行处理。 ...
📄 CosyEdit2: Speech-Editing-Oriented Reinforcement Learning Unlocks Better Zero-Shot TTS #语音编辑 #强化学习 #多模态模型 #自回归模型 #语音识别 #数据增强 ✅ 7.2/10 | 前25% | #语音编辑 | #强化学习 | #多模态模型 #自回归模型 | arxiv 学术质量 7.2/7 | 影响力 7.5/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 Junyang Chen (陈俊阳), Yuhang Jia (贾宇航), Hui Wang (王辉), Jiaming Zhou (周佳明), Yongchang Gan (甘永昌), Yong Qin (覃勇)。 机构：南开大学计算机科学学院（1），南开大学人工智能学院（2）。通讯作者：chenjunyang@mail.nankai.edu.cn, qinyong@nankai.edu.cn。第一作者与通讯作者标注。 💡 毒舌点评 摘要写得像广告文案，充满了“substantially”、“deeper”、“unlocks”这类形容词。方法部分看似复杂，但核心就是给GRPO换了一套更适合编辑任务的奖励函数。实验结果在多个benchmark上看起来都不错，但仔细一想，和SOTA的差距有时只有零点几个百分点，而且很多baseline其实并不强。最有趣的是，这篇论文发现一个编辑模型居然能提升其基础TTS模型的性能，这到底是编辑任务的特殊性，还是仅仅因为用更多数据（虽然是构造的）和RL微调了一遍LLM？此外，声称“首个编辑导向的奖励组合”需要打上问号，因为相关工作ECPA已经用了GRPO，奖励设计思路有重叠。代码、模型权重均未开源，复现门槛极高。 📌 核心摘要 本文提出了CosyEdit2，一个基于两阶段后训练框架的语音编辑模型。第一阶段使用监督微调（SFT）在配对编辑数据上初始化模型能力。第二阶段引入编辑导向的组相对策略优化（GRPO），核心创新在于使用无需目标语音的构造数据（将任意TTS语料转换为编辑提示）和针对编辑任务设计的多奖励信号（内容正确性、声学保持、说话人一致性）对语言模型进行强化学习。实验表明，该模型在语音编辑任务上达到了与强基线可比或更优的性能，尤其在声学一致性方面表现突出，并且其获得的强化学习优化能力能够意外地提升基础模型的零样本TTS性能，揭示了两个任务间的相互促进关系。 🔗 开源详情 代码：论文未提供CosyEdit2的代码仓库链接。演示页面 https://cjy1018.github.io/CosyEdit2 主要用于展示音频样本，未提及包含代码。 模型权重： CosyEdit2模型：论文中未提供CosyEdit2（包括各阶段微调后的LLM、Flow、BigVGAN）的权重下载链接。 CosyVoice2模型：作为基础模型，其链接为 https://huggingface.co/FunAudioLLM/CosyVoice2-0.5B。 数据集： GigaEdit-S：阶段一训练数据，源自GigaSpeech-S，未提供独立下载链接。 LibriTTS / LibriTTS-R / YODAS2：用于训练BigVGAN的混合数据集。论文引用了LibriTTS，但提供的Hugging Face链接 https://huggingface.co/datasets/keithito/lj_speech 实际是LJ Speech，并非LibriTTS，此处表述有误。YODAS2和Ming-Freeform-Audio-Edit等评估集均未提供链接。 VoiceBank-DEMAND-16k：用于声码器重建实验，链接为 https://huggingface.co/datasets/JacobLinCool/VoiceBank-DEMAND-16k。 SEED-TTS-EVAL：评估基准，链接为 https://github.com/bytedance/Seed-TTS-Eval。 Demo：提供了音频样本演示页面 https://cjy1018.github.io/CosyEdit2。 复现材料： 训练细节与模型配置：附录B-D详细描述了架构、超参数和训练流程，是复现的关键信息。 评估脚本与指标：提及使用了评估脚本和指标（WER, SS, DNSMOS, MCD），但未提供具体评估代码。 论文中引用的开源项目：包括CosyVoice2、Qwen2.5、WhisperX、BigVGAN（提供链接 https://huggingface.co/nvidia/bigvgan_v2_22khz_80band_256x）、nlpaug、RoBERTa、pymcd等。 🏗️ 方法概述和架构 CosyEdit2构建于CosyVoice2的语音-语言建模骨干之上，将其零样本提示式接口重构为语音编辑任务。其架构包含五个核心模块：文本分词器、语音分词器、自回归文本-语音语言模型（LLM）、条件流匹配模型（Flow）和BigVGAN声码器。 ...