把检测器放进声码器训练:内生对抗语音合成解读
该文把语音伪造检测器作为可微反馈冻结后接入声码器微调,用合成保真损失加权检测损失直接生成易被判为真人的语音,并在白盒、黑盒和主客观质量上验证了效果与代价。
该文把语音伪造检测器作为可微反馈冻结后接入声码器微调,用合成保真损失加权检测损失直接生成易被判为真人的语音,并在白盒、黑盒和主客观质量上验证了效果与代价。
TTSonic 要解决用同一套语音分词器、语义语言模型和声学流匹配模型组合出零样本合成、克隆、转换和指令控制等任务的问题,关键做法是把语义韵律规划和音色声学渲染分开,实验在多个中英文基准上显示内容准确率和说话人相似度具有竞争力,但英文指令跟随仍弱于最强基线。
共分析 28 篇语音/AI 论文
论文用 OmniVoice 零样本克隆训练集儿童声音合成儿童语音,再微调 Whisper-small,在 ENNI 上合成数据单独把词错误率从 19.8% 降到 16.4%,与真实数据合用则与纯真实数据相当,而跨语料泛化主要靠同一文本的多说话人声学多样性而非文本覆盖量。
针对成人睡前叙述音频证据混杂且最强对照试验为阴性的问题,论文把确定性规划、四阶段注意力渐弱、结构词表声学三层门限与隔离机制组成多语言生成管线,五故事试点显示响度达标但法语日语印地语实际时长分别偏短约 13%、24%、38%,且不声称任何临床疗效。
针对字符输入与 12.5 赫兹离散声码器对齐时会丢掉短辅音的问题,论文用 50 赫兹先展开再下采样到 12.5 赫兹的办法做合成,在单说话人 Idayu 数据上把字符错误率从 27.11% 降到 21.86%,平均意见分从 4.12 提高到 4.30,但结论只在该数据和评测条件下成立。
EmpDPO 用现成重读检测器先给真实语音打伪标签做监督微调,再用同一检测器从模型采样中挑出好坏偏好对做扩散模型偏好优化,只用 5171 对和 1 万步就在六种语言上让目标词的重读更明显,同时保持自然度和音质。
本文用 12.8 小时众包语音把不支持爱尔兰语的 Qwen3-TTS 适配成匿名单音色,再用词典编成的发音评价模型做一轮择优微调,把跨语料可懂度做到 CER 0.159,同时用同一评价模型量出语料中仅 229 段偏 Ulster 口音因而做不出少数口音。
论文用自动语音识别加自然语言处理加语音合成的级联把说话人声音和文本中的个人身份信息一起去掉,在保持可懂度和接近离线系统隐私水平的同时把 utterence 起始端到端延迟做到 717 ms 量级,代价是流式切分带来的字错率上升和对识别错误的敏感。
论文把同一录音中选哪段做提示当作选择问题,用四个零样本模型的几十万条合成输出衡量可懂度、自然度和说话人相似度,并训练只听候选音频的小网络按词错率排序选提示,在不合成时接近逐个试合成的效果。
共分析 47 篇语音/AI 论文
ImageTTS 把对数梅尔谱图变成伪 RGB 图后冻住图像 VAE、只微调 FLUX.2 的 DiT 做条件流匹配,在受控对比中验证了表征与先验迁移,再用约 100K 小时数据在零样本和指令控制合成上达到可比基线的语言准确率,但说话人相似度仍受冻住 VAE 限制。
LeanTTS 把中文发音前端、流匹配声学模型和 Vocos 声码器一起压缩到 18.9M 参数,用参考音频做零样本克隆、用说话人标签做固定音色定制,在 Seed-TTS-Eval 上验证了质量、相似度和 CPU 实时率之间的取舍。
论文解决流式推理中把模型切成几个持续运行大内核的问题,用常规执行画像加独立算子实测来排序候选切分,在三个模型十三个模型批量组合上选出实测最快设计,代价是只做排序代理而不精确预测绝对时延。
Uni-Stream 用时间对齐的流式交错序列把识别与合成放在同一个解码器模型里,先分别适配再联合训练,在约 4 万小时英文数据上接近专用流式模型的识别与合成水平,但表示探测显示语音与文本仍处在不同子空间。
共分析 80 篇语音/AI 论文
EmoFI-TTS 用一张人脸图像同时推断情绪类别和三级强度、用另一段参考音频决定说话人音色,再用强度门控的残差模块增强梅尔谱,在说话人不重叠的 MEAD 测试上达到 64.4% 客观强度准确率,代价是仍依赖离散强度标注训练且 L1(最弱)强度段绕开增强。
论文用同一批句子的真人录音测出评估用识别器自身的漏检率,再用三个识别器家族逐词核验,证明标准往返转写的罕见词错误被高估两到三倍,而单识别器掩码是有偏的修正。
RubatoCodec 用保留比固定的事件预算和潜变量变化加波形频谱通量决定的边界,在低事件率下以自适应切分提升重建可懂度和预测质量,并用显式时长支持流式合成,代价是需要传输时长边信息且波形细节仍落后于最强基线。
共分析 58 篇语音/AI 论文