Towards Unified Song Generation and Singing Voice Conversion with Accompaniment Co-Generation

📄 Towards Unified Song Generation and Singing Voice Conversion with Accompaniment Co-Generation #语音合成 #多任务学习 #扩散模型 7.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0.2/1.5 | 复现 0.2/0.5 | 工程 0.6/1.5 ✅ 7.7/10 | 前25% | #语音合成 | #多任务学习 | #扩散模型 | arxiv 👥 作者与机构 作者:Ziyu Zhang, Chunyu Qiang, Xiaopeng Wang, Yuxin Guo, Kang Yin, Wenjie Tian, Jingbin Hu, Tianlun Zuo, Zhao Guo, Teng Ma, Yuzhe Liang, Chen Zhang, Lei Xie 机构:1 Northwestern Polytechnical University, China; 2 Kuaishou Technology, China; 3 Beijing Institute of Technology, China; 4 Institute of Automation, Chinese Academy of Sciences, China; 5 University of Science and Technology of China, China; 6 Shanghai Jiao Tong University, China 邮箱:ziyu_zhang@mail.nwpu.edu.cn, lxie@nwpu.edu.cn ...

2026-06-08 · 更新于 2026-08-17 · 2 min · 386 words

VoxCPM2 Technical Report

📄 VoxCPM2 Technical Report #语音合成 #语音克隆 #多语言 9.5/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 🔥 9.5/10 | 前50% | #语音合成 | #语音克隆 | #多语言 | arxiv 👥 作者与机构 核心贡献者:Yixuan Zhou, Guoyang Zeng, Xin Liu, Xiang Li, Renjie Yu, Jiancheng Gui, Jiaheng Wu, Ziyang Wang, Xudong Shen, Runchuan Ye, Zhisheng Zhang, Jiuyang Zhou, Bingsong Bai, Weiyue Sun, Mengyuan Deng, Qundong Shi, Zhiyong Wu, Zhiyuan Liu 其他贡献者:Biyuan Lin, Caixian Chen, Chao Jia, Chenzhe Jing, Daixi Zeng, Jiayi Zhang, Jie Zhou, Jilong Ma, Jie Sun, Ling Zheng, Minmin Fan, Siyuan Huang, Shuo Wang, Susu Bai, Wenxi Yang, YingJiao Wang, Yitong Wang, Zhen Luo, Zhizheng Yang, Zhong Zhuang 机构:清华大学深圳国际研究生院人机语音交互实验室(THUHCSI),清华大学自然语言处理实验室(THUNLP),ModelBest ...

2026-06-08 · 更新于 2026-08-17 · 5 min · 1038 words

An Ultra-Low-Bitrate Neural Speech Codec with Plain-to-Pseudo Synergistic Vector Quantization

📄 An Ultra-Low-Bitrate Neural Speech Codec with Plain-to-Pseudo Synergistic Vector Quantization #语音合成 #低资源 7.7/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.7/10 | 前25% | #语音合成 | #低资源 | arxiv 👥 作者与机构 Xiao-Hang Yang, Fei Liu, Rui-Chen Jiang, Jian-Qing Gao, Zhen-Hua Ling, Ji Wu 机构:中国科学技术大学 (1), 科大讯飞 (2), 清华大学 (3) 💡 毒舌点评 这篇论文解决的是一个真实且重要的问题:如何在比特率压到极限(0.5 kbps)时还能保持语音质量。P2PSVQ的思路——用预测来模拟量化——确实巧妙,相当于“脑补”出了额外的细节,且不花带宽。这比单纯堆大模型(如BigCodec)要优雅。然而,论文的软肋在于“验证”部分。主观测试样本量小,难以服众;对比FSQ方法(SQCodec)时,对方官方代码不支持0.5 kbps,这成了一个无法验证的“借口”。更关键的是,伪VQ的引入让模型复杂度(参数量)翻了三倍多,虽然FLOPs增长不多,但推理时的内存占用和延迟可能是个隐患,论文却对此轻描淡写。消融实验揭示了一个尴尬事实:伪VQ加多了,基本token信息变少,预测反而变难,质量会掉。这使得核心设计(伪VQ数量)的选择更像是在走钢丝。总体而言,一个不错的idea,但支撑它的实验和分析还不够扎实,像是匆忙毕业的作品。 ...

2026-06-05 · 更新于 2026-08-17 · 2 min · 302 words

CoSTA: Cognitive-State-Conditioned TTS Data Augmentation Using ASR Transcripts for Alzheimer's Disease Detection

📄 CoSTA: Cognitive-State-Conditioned TTS Data Augmentation Using ASR Transcripts for Alzheimer's Disease Detection #语音合成 #语音识别 #自监督学习 #低资源 #数据增强 6.5/10 | 创新 1.4/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 0.7/1.5 | 开源 0.3/1.5 | 复现 0.4/0.5 | 工程 0.7/1.5 ✅ 6.5/10 | 前50% | #语音合成 | #自监督学习 | #语音识别 #低资源 | arxiv 👥 作者与机构 作者:Yin-Long Liu, Yuanchao Li, Yiming Wang, Yue Li, Rui Feng, Jiaxin Chen, Shaobo Liu, Liu He, Yuang Chen, Jiahong Yuan, Zhen-Hua Ling 机构:中国科学技术大学,爱丁堡大学 ...

2026-06-05 · 更新于 2026-08-17 · 1 min · 160 words

F3-Tokenizer: Taming Audio Autoencoder Latents for Understanding and Generation

📄 F3-Tokenizer: Taming Audio Autoencoder Latents for Understanding and Generation #语音合成 #音频生成 #语音识别 #自监督学习 #多任务学习 7.2/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 0.8/1 | 影响 0.7/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.9/1.5 ✅ 7.2/10 | 前25% | #语音合成 | #自监督学习 | #音频生成 #语音识别 | arxiv 👥 作者与机构 Dinghao Zhou, Xingchen Song, Di Wu, Pengyu Cheng, Shengfan Shen, Sixiang Lv。第一作者单位为南京大学,第二作者单位为WeNet开源社区。论文标注作者贡献相等。 💡 毒舌点评 这篇论文的工作量扎实,试图解决音频标记器在“理解”与“生成”目标间的固有矛盾,技术路线清晰。但“新颖性”的成色需要仔细考量,其核心组件(归一化瓶颈、RQ-MTP、流匹配头)均为已有技术的组合与适配,缺少原理层面的根本性突破。更令人皱眉的是,作为一篇顶会论文,在“开源”和“可复现性”上的表现堪称“裸奔”——不提供代码、模型权重或详细的训练配置,这让所有令人印象深刻的实验结果都成了“黑箱表演”,极大地削弱了其可验证性和社区贡献度。实验部分虽然全面,但在生成任务上与最新SOTA(如Qwen3-TTS、Ming-Omni系列)的比较略显取巧,Token Rate不统一且SIM分数缺失,难以进行公平对比。总体来说,这是一篇完成度不错、但“诚意”不足的“应用整合式”论文。 ...

2026-06-05 · 更新于 2026-08-17 · 2 min · 355 words

FoeGlass: Simple In-Context Learning Is Enough for Red Teaming Audio Deepfake Detectors

📄 FoeGlass: Simple In-Context Learning Is Enough for Red Teaming Audio Deepfake Detectors #大语言模型 #音频生成 #语音合成 #数据增强 7.5/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.9/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 ✅ 7.5/10 | 前25% | #音频生成 | #数据增强 | #大语言模型 #语音合成 | arxiv 👥 作者与机构 作者:Sepehr Dehdashtian, Jacob H. Seidman, Vishnu Naresh Boddeti, Gaurav Bharaj 机构:未明确说明作者所属机构。 💡 毒舌点评 优点: ...

2026-06-05 · 更新于 2026-08-17 · 5 min · 911 words

GLASS: GRPO-Trained LoRA for Acoustic Style Steering in Zero-Shot Text-to-Speech

📄 GLASS: GRPO-Trained LoRA for Acoustic Style Steering in Zero-Shot Text-to-Speech #语音合成 #强化学习 #参数高效微调 8.2/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.2/10 | 前25% | #语音合成 | #强化学习 | #参数高效微调 | arxiv 👥 作者与机构 作者:Jaehoon Kang, Yejin Lee, Kyuhong Shim 单位:Department of Artificial Intelligence, Sungkyunkwan University, Korea 联系邮箱:{morateng, yj.lee, khshim}@skku.edu 💡 毒舌点评 “这篇工作就像给一个功能完备的智能音箱装上了几个精心调校的‘情绪旋钮’。思路清晰、模块化做得不错,实验也扎实地证明了‘旋钮’拧得动。但旋钮种类目前只有两个(语速和音高),且背后的‘电机’(奖励函数)设计得有点简陋——主要靠查字数(WER)和量音调(F0),这让‘情绪’的丰富性大打折扣。最大的槽点在于,作者自己都承认在组合多个旋钮时可能会‘翻车’(过冲),这使得其宣称的‘可组合性’打了折扣。整体而言,是一篇合格的工程优化论文,离‘优雅的学术突破’还差那么点意思。” ...

2026-06-05 · 更新于 2026-08-17 · 3 min · 519 words

MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models

📄 MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models #语音识别 #多模态模型 #语音合成 8.4/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.4/10 | 后50% | #语音识别 | #多模态模型 | #语音合成 | arxiv 👥 作者与机构 论文标题:MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models 作者:Luong Tien, Abraham Tamas, Kim Junae, Kaur Amar, Omari Rollin, Haffari Gholamreza, Vu Trang, Qu Lizhen, Phung Dinh 机构:1 Monash University, Australia; 2 Defence Science and Technology Group, Australia ...

2026-06-05 · 更新于 2026-08-17 · 2 min · 393 words

SpeechJBB: Probing Safety Alignment and Comprehension in Large Audio Language Models under Code-Switched Speech

📄 SpeechJBB: Probing Safety Alignment and Comprehension in Large Audio Language Models under Code-Switched Speech #语音识别 #多语言 #语音合成 #数据集 7.3/10 | 创新 1.5/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.3/1.5 | 复现 0.3/0.5 | 工程 0.5/1.5 ✅ 7.3/10 | 前25% | #语音识别 | #多语言 | #语音合成 #数据集 | arxiv 👥 作者与机构 Virginia Ceccatelli1,2, Yejin Jeon1,2, David Ifeoluwa Adelani1,2,3。1 Mila - Quebec AI Institute, 2 McGill University, Canada, 3 Canada CIFAR AI Chair. ...

2026-06-05 · 更新于 2026-08-17 · 6 min · 1150 words

Task-Vector Arithmetic for Emotional Expressivity Control in Language-Model-Based Text-to-Speech

📄 Task-Vector Arithmetic for Emotional Expressivity Control in Language-Model-Based Text-to-Speech #语音合成 7.9/10 | 创新 1.5/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.9/10 | 前25% | #语音合成 | #参数高效微调 | arxiv 👥 作者与机构 Daniel O. Brito 和 Arnaldo Candido Junior 机构:圣保罗州立大学“儒利奥·德梅斯基塔·菲尔霍”(UNESP)生物科学、文学与精确科学研究所,巴西圣若泽-杜里奥普雷图。 💡 毒舌点评 这篇论文做了一件有趣的事:在语音合成领域,它没有卷参数量,而是去卷一个“情感向量”应该加在哪儿。作者很诚实,先试了改模型权重、改编解码器嵌入、改离散Token,结果都不行,最后发现最有效的居然是直接在说话人嵌入(x-vector)上做算术。这就像发现想让一个演员表现出愤怒,与其重写他的大脑(权重),不如调整他的“气质签名”(x-vector)来得直接。方法上,这是一个清晰的、基于排除法的实证研究,并且提出了一个训练免费的跨说话人情感迁移方案。主要短板在于实验范围较窄(只在一个模型上验证),且部分评估指标(如emotion2vec)在跨语言场景下可能饱和,使得结论的普适性和绝对性能评估打了折扣。总的来说,它提供了一个巧妙的、低成本的实用思路,但离定义一个新范式还有距离。 📌 核心摘要 本文研究了在基于语言模型的大规模文本到语音(LM-TTS)系统中,任务向量算术(Task-Vector Arithmetic)是否能实现跨说话人的情感控制。通过一个系统性消除研究,作者在Qwen3-TTS-12Hz-1.7B模型上测试了四种候选操作对象:模型权重(通过LoRA微调)、连续编解码器嵌入、离散编解码器Token以及由ECAPA-TDNN编码器产生的说话人嵌入(x-vector)。研究发现,情感韵律的主要载体是x-vector,而非模型权重或Token。基于此,作者提出了一种无需训练的方法:在x-vector空间进行多说话人均值质心算术。具体地,情感向量 \(\tau_{\text{emo}}\) 定义为情感与中性x-vector的质心差,并应用于目标说话人的中性x-vector:\(\mathbf{x}_{\text{new}} = \mathbf{x}(\text{target}, \text{neutral}) + \alpha \cdot \tau_{\text{emo}}\)。使用ESD(英语)提取 \(\tau\),在emoUERJ(巴西葡萄牙语)上进行跨语言验证,结果显示,在英语未见说话人上,情感相似度(EECS)平均提升+0.29;在巴西葡萄牙语未见说话人上,提升+0.09。该方法在保持身份(WavLM SECS ≳0.88)和可懂度(WER ≈0)方面表现良好。这些结果为解决基于Token的TTS架构与质心算术的不兼容性提供了初步证据,表明当算术操作迁移至说话人嵌入时,该方法是可行的。 ...

2026-06-05 · 更新于 2026-08-17 · 3 min · 431 words