语音编辑

📄 UniSAE: Unified Speech Attribute Editing on Speaker, Emotion and Low-Level Content via Discrete Phonetic Posteriorgram Modelling #语音合成 #语音编辑 #扩散模型 #数据增强 7.3/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.3/10 | 前50% | #语音合成 | #数据增强 | #语音编辑 #扩散模型 | arxiv 👥 作者与机构 第一作者 Chuanbo Zhu 与合作者 Wuyou Zhou, Rongxiu Zhong, Shilei Zhang, Kun Qian 来自上海交通大学。通讯作者 Yike Guo 与 Wei Xue 同样来自上海交通大学，并关联北京通用人工智能研究院（BigAI）。 ...

📄 RIVET: Robust Idempotent Voice Attribute Editing #语音编辑 #语音转换 #低资源 8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 🔥 8/10 | 前50% | #语音转换 | #语音编辑 | #低资源 | arxiv 👥 作者与机构 Dareen Alharthi, Bhuvan Koduru, Rita Singh, Bhiksha Raj 卡内基梅隆大学 (Carnegie Mellon University) 💡 毒舌点评 这篇工作的出发点不错，抓住了语音编辑在大数据时代的一个真实痛点——脏标签。用“幂等性”这剂药方听起来也挺高大上，直觉上说得通。但仔细一看，这药方的“药效”和“适用症”证明得不够扎实。最大的问题是，作者自己搭了个简易擂台（去掉核心损失的自身架构），就宣布自己赢了。这就像只跟昨天的自己比赛，说服力打折扣。而且，对“年龄”这个属性，药效好像不太灵（在EARS上甚至变差了），论文却轻描淡写带过，没给出像样的病理分析。方法部分对模型“怎么做手术”的细节描述比较模糊，光给了个公式和示意图，让人不清楚这“潜在表示空间”的约束到底落在VITS的哪个部位。总之，想法有价值，但就像一篇刚完成初步临床试验的新药报告：看到了希望，但离证明其广泛有效性和弄清所有副作用，还有不少路要走。 📌 核心摘要 本文针对语音属性编辑模型因训练数据中的标签噪声而导致编辑不稳定和身份漂移的问题，提出了RIVET训练框架。其核心在于利用幂等性原理（\(f(f(x)) = f(x)\)）作为正则化。具体实现上，RIVET在模型的编码潜在表示空间（同时针对说话人嵌入和语音潜在表示）施加一致性约束，通过最小化原始编码与“编辑-重建”再编码之间的差异，使模型在噪声标签下也能学习到稳定的映射。实验表明，该方法能有效提升模型在自然噪声（GLOBE）和可控合成噪声（EARS）下的编辑成功率和说话人身份保持能力，尤其是在性别编辑和对抗噪声方面效果显著。 🔗 开源详情 代码：https://github.com/DareenHarthi/rivet (提供了完整的训练和评估代码) 模型权重：论文中未提及提供预训练模型权重。 数据集：论文使用GLOBE和EARS数据集，但未提供直接获取链接，需从官方渠道获取。 Demo：论文中未提及。 复现材料：论文中包含主要的训练细节（如优化器、学习率），但未提供具体的配置文件或脚本。 🏗️ 方法概述和架构 RIVET是一个端到端训练的语音属性编辑框架，其核心组件包括三个部分：说话人编码器、属性编辑模块和语音生成器，并通过引入幂等性损失进行联合优化。 ...

📄 MMAE: A Massive Multitask Audio Editing Benchmark #语音编辑 #多任务学习 #基准测试 7.5/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.5/10 | 前50% | #语音编辑 | #多任务学习 | #基准测试 | arxiv 👥 作者与机构 论文作者众多，包括Ziyang Ma, Ruiqi Yan, Ruiyang Xu等30余人。论文未明确说明所有作者的具体所属机构。 💡 毒舌点评 这篇论文的工作定位有点尴尬。作为一个“Benchmark”论文，它自称是“首个全面的评估测试台”，但问题在于：1. 它只提出了一个数据集和一个评估框架，并没有提出新的模型或算法。这本质上是一篇“资源论文”，而非“方法论文”，在顶会上通常处于竞争劣势。2. 从给出的实验结果看（EMR<5%，复杂任务为0%），它更像是一份给现有模型判了“死刑”的诊断报告，但报告本身并未提供“治病”的方法。3. 论文最大的价值在于定义了问题空间（7种模态、6级复杂度、8种操作）和评估标准，但这种分类工作是否具备足够的洞察力和普适性，值得怀疑。它更像是一个庞大的工程分类清单，而非深刻的科学发现。4. 论文声称解决了“评估基础设施滞后”的问题，但评估框架（基于rubric分解为17,741个标准）的具体设计、验证过程和有效性论证在摘要中完全缺失，使得其核心贡献的可靠性存疑。5. “人机协作”构建数据集的具体流程未说明，是让人标注还是用模型生成后校对？这直接影响数据质量。总的来说，这是一篇工整但平庸的资源型论文，缺乏让顶会审稿人眼前一亮的理论或技术火花。 📌 核心摘要 MMAE是一个面向通用指令式音频编辑的大规模多任务评测基准。它旨在解决当前音频编辑评估体系分散、局限于简单任务和特定子领域的不足。基准包含2000个高保真样本，涵盖7种音频模态，并建立了一个从基本修改到多轮推理的6级任务复杂度分类体系。其核心创新在于提出了一种基于评分标准（rubric）的评估框架，将开放式任务分解为数万个可验证的标准，以精确评估模型的指令遵循和上下文一致性。对现有模型的评估表明，当前系统在精确编辑方面表现极差，暴露了显著的性能瓶颈。 🔗 开源详情 代码：论文中声称发布了基于Python的评估框架，但未提供任何具体的代码仓库链接（如GitHub URL）。 模型权重：论文未提及发布任何模型权重。本文是介绍一个评测基准，而非新训练的模型。 数据集：论文中声称包含2,000个样本，但未提供任何具体的下载链接或数据托管页面（如HuggingFace， ModelScope）。 Demo：未提及在线演示链接。 复现材料：未提及。 论文中引用的开源项目：论文提到了“Nano-banana 2”和“Gemini-Omni”作为相关工作的例子，但未提供这些项目的具体链接或完整名称。 🏗️ 方法概述和架构 MMAE并非一个算法模型，而是一个用于评测音频编辑模型的基准体系。其核心方法架构包含两个紧密耦合的部分：任务与数据的分类体系，以及配套的自动化评估框架。 ...

📄 SpeechEditBench: A Bilingual Multi-Attribute Benchmark for Instruction-Guided Speech Editing #语音编辑 #多任务学习 8.7/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.7/10 | 前25% | #语音编辑 | #多任务学习 | arxiv 👥 作者与机构 Hanlin Zhang (香港城市大学计算机科学系， 共同第一作者)， Daxin Tan (华为Leibniz研究中心AI实验室， 共同第一作者)， Dehua Tao (华为Leibniz研究中心AI实验室)， Xiao Chen (华为Leibniz研究中心AI实验室， †共同通讯作者)， Haochen Tan (华为Leibniz研究中心AI实验室)， Linqi Song (香港城市大学计算机科学系， †共同通讯作者)。 ...

📄 CosyEdit2: Speech-Editing-Oriented Reinforcement Learning Unlocks Better Zero-Shot TTS #语音编辑 #强化学习 #多模态模型 #自回归模型 #语音识别 #数据增强 ✅ 7.2/10 | 前25% | #语音编辑 | #强化学习 | #多模态模型 #自回归模型 | arxiv 学术质量 7.2/7 | 影响力 7.5/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 Junyang Chen (陈俊阳), Yuhang Jia (贾宇航), Hui Wang (王辉), Jiaming Zhou (周佳明), Yongchang Gan (甘永昌), Yong Qin (覃勇)。 机构：南开大学计算机科学学院（1），南开大学人工智能学院（2）。通讯作者：chenjunyang@mail.nankai.edu.cn, qinyong@nankai.edu.cn。第一作者与通讯作者标注。 💡 毒舌点评 摘要写得像广告文案，充满了“substantially”、“deeper”、“unlocks”这类形容词。方法部分看似复杂，但核心就是给GRPO换了一套更适合编辑任务的奖励函数。实验结果在多个benchmark上看起来都不错，但仔细一想，和SOTA的差距有时只有零点几个百分点，而且很多baseline其实并不强。最有趣的是，这篇论文发现一个编辑模型居然能提升其基础TTS模型的性能，这到底是编辑任务的特殊性，还是仅仅因为用更多数据（虽然是构造的）和RL微调了一遍LLM？此外，声称“首个编辑导向的奖励组合”需要打上问号，因为相关工作ECPA已经用了GRPO，奖励设计思路有重叠。代码、模型权重均未开源，复现门槛极高。 📌 核心摘要 本文提出了CosyEdit2，一个基于两阶段后训练框架的语音编辑模型。第一阶段使用监督微调（SFT）在配对编辑数据上初始化模型能力。第二阶段引入编辑导向的组相对策略优化（GRPO），核心创新在于使用无需目标语音的构造数据（将任意TTS语料转换为编辑提示）和针对编辑任务设计的多奖励信号（内容正确性、声学保持、说话人一致性）对语言模型进行强化学习。实验表明，该模型在语音编辑任务上达到了与强基线可比或更优的性能，尤其在声学一致性方面表现突出，并且其获得的强化学习优化能力能够意外地提升基础模型的零样本TTS性能，揭示了两个任务间的相互促进关系。 🔗 开源详情 代码：论文未提供CosyEdit2的代码仓库链接。演示页面 https://cjy1018.github.io/CosyEdit2 主要用于展示音频样本，未提及包含代码。 模型权重： CosyEdit2模型：论文中未提供CosyEdit2（包括各阶段微调后的LLM、Flow、BigVGAN）的权重下载链接。 CosyVoice2模型：作为基础模型，其链接为 https://huggingface.co/FunAudioLLM/CosyVoice2-0.5B。 数据集： GigaEdit-S：阶段一训练数据，源自GigaSpeech-S，未提供独立下载链接。 LibriTTS / LibriTTS-R / YODAS2：用于训练BigVGAN的混合数据集。论文引用了LibriTTS，但提供的Hugging Face链接 https://huggingface.co/datasets/keithito/lj_speech 实际是LJ Speech，并非LibriTTS，此处表述有误。YODAS2和Ming-Freeform-Audio-Edit等评估集均未提供链接。 VoiceBank-DEMAND-16k：用于声码器重建实验，链接为 https://huggingface.co/datasets/JacobLinCool/VoiceBank-DEMAND-16k。 SEED-TTS-EVAL：评估基准，链接为 https://github.com/bytedance/Seed-TTS-Eval。 Demo：提供了音频样本演示页面 https://cjy1018.github.io/CosyEdit2。 复现材料： 训练细节与模型配置：附录B-D详细描述了架构、超参数和训练流程，是复现的关键信息。 评估脚本与指标：提及使用了评估脚本和指标（WER, SS, DNSMOS, MCD），但未提供具体评估代码。 论文中引用的开源项目：包括CosyVoice2、Qwen2.5、WhisperX、BigVGAN（提供链接 https://huggingface.co/nvidia/bigvgan_v2_22khz_80band_256x）、nlpaug、RoBERTa、pymcd等。 🏗️ 方法概述和架构 CosyEdit2构建于CosyVoice2的语音-语言建模骨干之上，将其零样本提示式接口重构为语音编辑任务。其架构包含五个核心模块：文本分词器、语音分词器、自回归文本-语音语言模型（LLM）、条件流匹配模型（Flow）和BigVGAN声码器。 ...

📄 CosyEdit2: Speech-Editing-Oriented Reinforcement Learning Unlocks Better Zero-Shot TTS #语音合成 #强化学习 #语音编辑 #零样本 #自回归模型 #数据增强 🔥 8/10 | 前50% | #语音合成 | #强化学习 | #语音编辑 #零样本 | arxiv 学术质量 5.6/7 | 影响力 1.6/2 | 可复现性 0.8/2 | 置信度 高 👥 作者与机构 论文作者为Junyang Chen, Yuhang Jia, Hui Wang, Jiaming Zhou, Yongchang Gan, Yong Qin。机构为南开大学计算机科学学院和人工智能学院。 💡 毒舌点评 这篇论文的工作量扎实，实验全面，还“意外”挖到了一个金矿——编辑训练竟能反哺TTS，这发现本身就有价值。但问题在于：1. 架构上基本是前作的“拼装车”（CosyEdit/CosyVoice2），核心创新集中在训练策略上，作为顶会工作，架构层面的新意略显不足。2. 对于“为什么编辑能提升TTS”这个最有趣的问题，解释停留在“现象观察+合理推测”层面，缺乏如注意力分析或探针实验等机制层面的深入挖掘，让人不够过瘾。3. GRPO仅用3000条数据训练，奖励函数里一堆超参数（k_w, α, k_m, δ, γ, λ等）的设定依据是“人耳听辨”，这既让人怀疑是否过拟合了这个小数据集，也降低了方法的可复现性和理论美感。总的来说，是一篇扎实的工程性工作，但理论深度和解释力上差点意思。 📌 核心摘要 针对监督微调（SFT）在语音编辑中存在的配对数据缺陷和优化目标粗粒度问题，本文提出CosyEdit2模型。该模型采用两阶段后训练框架：第一阶段通过SFT进行能力初始化；第二阶段提出编辑导向的组相对策略优化（GRPO），在无需人工构建目标语音的“无目标语音”数据上进行训练，奖励函数综合考虑了内容正确性、声学保留和说话人一致性。大量实验表明，CosyEdit2不仅在多项语音编辑基准上取得领先性能，还意外地显著提升了骨干模型的零样本语音合成能力，并且这种提升能跨语言迁移，揭示了语音编辑与合成任务在底层能力上的深刻联系。 🔗 开源详情 代码：论文中未提及代码仓库或开源计划。 模型权重：论文中未提及预训练模型或微调检查点的公开下载链接。 数据集： 训练数据： GigaEdit-S：论文中使用的250小时编辑数据集，未提供独立公开链接。 LibriTTS / LibriTTS-R：公开数据集。获取链接：https://www.openslr.org/60 , https://www.openslr.org/108 。 YODAS2：用于引入野外声学条件的YouTube语音数据集，未提供独立链接。 GigaSpeech-XL：用于构造GRPO提示的TTS语料。获取链接：https://github.com/speechcolab/gigaspeech 。 评估数据集： Ming-Freeform-Audio-Edit：语音编辑评估基准，未提供独立链接。 RealEdit：来自VoiceCraft的评估基准，未提供独立链接。 CV3-EVAL：来自CosyVoice3的评估套件，未提供独立链接。 SEED-TTS-EVAL：公开TTS评估基准。获取链接：https://github.com/bytedance/seed-tts-eval 。 VoiceBank-DEMAND：用于声码器重建实验。获取链接：https://datashare.ed.ac.uk/handle/10283/2791 。 Demo：音频样本主页：https://cjy1018.github.io/CosyEdit2 。 复现材料：论文附录详细提供了两阶段训练的超参数、优化设置、硬件信息（两块H800 GPU）和奖励函数设计细节，但未提供完整的训练脚本、配置文件或预训练检查点。 🏗️ 方法概述和架构 CosyEdit2的整体架构与训练流程如图1所示。 ...

📄 SpongeBob: Sync-Aware Harmonious Audio-Visual Generative Editing #语音编辑 #多模态模型 🔥 8.6/10 | 前25% | #语音编辑 | #多模态模型 | arxiv 学术质量 6.6/7 | 影响力 1.5/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 Sen Liang, Cong Wang, Fengbin Guan, Zhentao Yu, Yiting Lu, Yuanzhi Wang, Yuan Zhou, Xin Li, Zhibo Chen。单位为中国科学技术大学（University of Science and Technology of China）和腾讯混元（Tencent Hunyuan）。 💡 毒舌点评 这篇工作在“音视频联合编辑”这个相当具体的交叉赛道上做得相当扎实，堪称一次系统性的“工程+科研”组合拳。优点很明显：抓住了现有级联方法“各玩各的”这个痛点，提出了端到端的双向交互框架，并且用一套自洽的自动化数据流水线解决了训练数据稀缺这个老大难问题，还贴心地搭建了专门的评测集SpongeBob-Bench。消融实验和用户研究做得也比较规范。但缺点也不容忽视：1）框架深度绑定了特定的视频生成基础模型（Wan2.2）和音频VAE（MMAudio），通用性存疑；2）虽然叫“音视频联合编辑”，但论文更偏重“视频编辑+同步音频生成”，对音频模态本身的编辑能力（如改变音色、保持韵律）着墨不多，音频更像是视频编辑的“附属产物”；3）实验中使用的部分基线（如AvED）是零样本方法，对比说服力略弱；4）作者在局限性中提到的长视频处理和推理效率问题，在实际应用中可能非常突出。总的来说，这是一篇完成度很高、在特定子领域有推动作用的工作，但离解决更广泛的、高质量的“音视频任意编辑”还有距离。 📌 核心摘要 本文提出了SpongeBob，首个基于双向跨模态交互的端到端音视频联合编辑框架。针对现有编辑方法因模态解耦导致的音视频失同步与上下文冲突两大问题，SpongeBob采用双流Diffusion Transformer (DiT)架构进行统一去噪。其核心设计包括：1) 同步感知编辑机制，通过双向跨模态注意力实现交互，通过统一三路时间位置编码（RoPE）实现时间对齐，并利用掩码引导的非对称空间路由实现空间约束。2) 上下文感知模块，通过视觉上下文注意力和声学上下文注意力两个零初始化交叉注意力层，使目标音频能感知未编辑的视觉背景和基础音频，防止语义冲突。3) 同步保持训练与引导（SPTG）策略，包含四种训练模式（联合编辑、音频驱动、视频驱动、上下文为空）和两阶段推理引导（上下文冲突解决与时间同步增强）。为解决训练数据稀缺问题，论文构建了一个六阶段可扩展数据管道，从无标签网络视频中自动合成了约40万样本的Subject-level数据集。同时提出了SpongeBob-Bench进行系统评估。实验表明，该方法在SpongeBob-Bench上全面超越所有基线，在Sync-C和Ctx-F1上分别取得了30%和12.5%的提升。 🔗 开源详情 代码：论文未提供代码链接。 模型权重：论文未提供模型权重下载。 数据集：论文提及构建了约40万样本、总时长约390小时的数据集，但未提供下载地址或开源协议。 Demo：提供了项目主页 https://hy-spongebob.github.io/。 复现材料：论文在附录B（Implementation Details）和正文第4节提供了极其详细的训练与推理配置，包括模型架构（基于Wan2.2-TI2V-5B和MMAudio的VAE）、训练超参数（240 GPUs， batch size 240， 学习率1e-5， 10K步）、数据配置、SPTG的引导强度等，可作为复现参考。 论文中引用的开源项目：Wan2.2-TI2V-5B, MMAudio, Grounding DINO, SAM2, Gemini, SAM-Audio, pyannote, AudioBox-Aesthetics, CLAP, ImageBind, AvED, VACE, HunyuanVideo-Foley, Coherent, Chatterbox-Turbo, Stable Audio Open。其中部分项目有知名开源实现，但论文本身未提供具体链接。 🏗️ 方法概述和架构 SpongeBob的核心是一个双流Diffusion Transformer (DiT)架构，旨在单一去噪过程中同时编辑视频和合成同步音频，实现双向跨模态交互。该架构基于Wan2.2-TI2V-5B构建，输入包括参考图像、带掩码的条件视频（即上下文）和视觉噪声，通过交叉注意力注入文本描述来引导原始视频片段的重建。音频流则从音频噪声中重建目标音频，其条件包括音频描述、语音文本以及通过专门交叉注意力层输入的基础音频（即目标音频分离后的环境音）。目标音频被分为语音和非语音流处理：语音任务中，音频描述固定，语音文本提供具体内容；非语音事件中，音频描述提供语义描绘，语音文本为空。 ...

📄 Mind the Pause: Disfluency-Aware Objective Tuning for Multilingual Speech Correction with LLMs #语音编辑 #大语言模型 #多语言 #对比学习 ✅ 6.5/10 | 前25% | #语音编辑 | #大语言模型 | #多语言 #对比学习 | arxiv 学术质量 5.5/8 | 影响力 0.5/2 | 可复现性 0.5/1 | 置信度 中 👥 作者与机构 第一作者：Deepak Kumar (IIT Patna) 通讯作者：未说明 作者列表：Deepak Kumar (IIT Patna), Baban Gain (IIT Patna), Asif Ekbal (IIT Patna) 💡 毒舌点评 亮点：论文提出的“先标注，再用LLM在对比学习约束下改写”的多阶段流水线思路清晰，将token级的信号与生成模型的能力相结合，为解决语音转录后处理提供了一个逻辑自洽且易于理解的框架，特别聚焦于多语言场景。 短板：实验部分仅针对三种印度语言展开，缺乏与当前强大的通用文本纠错或改写LLM方法（如基于T5/BART的纠错模型）的细致对比，削弱了方法先进性的说服力；此外，作为核心创新点的对比学习具体实现细节在摘要中描述不足。 📌 核心摘要 要解决什么问题：自动语音识别（ASR）的转录文本中常含有填充词、重复、错误起始等不流畅片段，降低了可读性，并可能损害下游应用（如聊天机器人、语音助手）的性能。现有基于删除的方法会破坏语法结构和语义连贯性。 方法核心是什么：提出一个多语言的纠正流程。首先，一个序列标注器（如BiLSTM-CRF）识别并标记出不流畅的token。然后，这些标记信号被用作指令，指导一个大语言模型（LLM）进行指令微调，将原始转录改写为流畅文本。为了进一步提高可靠性，训练中引入了一个对比学习目标，惩罚模型生成不流畅token，鼓励其保留语法和意义。 与已有方法相比新在哪里：1) 区别于以往仅关注检测或删除不流畅token的方法，本方法执行全面的“改写”。2) 将序列标注器的输出作为LLM指令微调的引导信号，形成两阶段流水线。3) 引入对比学习作为辅助目标，直接约束LLM的生成过程以避免不流畅现象。 主要实验结果如何：论文未提供具体的数值结果。但根据摘要，实验在印地语、孟加拉语和马拉地语三种语言上进行，显示该方法“一致性改进”了包括多语言序列到序列模型在内的强基线，并强调了仅检测策略的不足。 实际意义是什么：为处理多语言（尤其是可能低资源）的语音转录后处理提供了一个实用、可扩展的解决方案，有助于提升语音驱动NLP系统的可靠性。 主要局限性是什么：实验仅限于三种印度语言，其对更广泛语言的适用性有待验证；摘要中未提及与当前强大的通用文本纠错或改写LLM方法的详细对比。 🔗 开源详情 代码：https://github.com/deepak-kumar-98/Mind-the-Pause 模型权重：未提及 数据集：未提及 Demo：未提及 复现材料：未提及 论文中引用的开源项目：未提及 🏗️ 方法概述和架构 本文提出一个名为“Mind the Pause”的多阶段多语言语音转录纠错流水线。该系统并非一个单一的端到端模型，而是一个由多个组件协同工作的两阶段框架。 ...