用三条正交低秩分支把连续情感装进预训练语音模型
该文针对零样本语音合成中连续且随时间变化的情感控制问题,提出把效价唤醒优势三路低秩更新与正交约束注入主干并用 Flow-DGPO 做偏好对齐,在约 50 小时训练数据上提升情感跟随的同时保持可懂度和说话人相似度,但跨语言提示下说话人相似度仍有差距。
该文针对零样本语音合成中连续且随时间变化的情感控制问题,提出把效价唤醒优势三路低秩更新与正交约束注入主干并用 Flow-DGPO 做偏好对齐,在约 50 小时训练数据上提升情感跟随的同时保持可懂度和说话人相似度,但跨语言提示下说话人相似度仍有差距。
针对目标情感与文本语义冲突时情感表达下降的问题,该研究用文本情感替代无条件分支并按不一致程度动态调整引导强度,再把引导信号蒸馏回模型,最强证据是在中性参考下情感识别准确率从 50.63% 提升到 59.55% 且词错误率降到 3.76%,代价是推理期曾需要外部大模型判断和双路解码。
针对四川话低资源识别中方言词被高频普通话同音词替换的排序错误,DASR-CPO 在 LoRA 微调后用挖掘出的普通话混淆做跨度级无参照偏好优化,在 4.53 小时数据上把字错率从 24.85% 降到 22.58%、实体 F1 从 72.82 提到 74.15,代价是依赖词表覆盖与非说话人无关划分。
针对英-普通话混说转写中漏语言、翻代转写和幻觉三类失败,该工作用 10 万对真值选优对合成翻错拒答做直接偏好优化,在分布内最高相对降低 89.6% 混合错误率,在分布外 SEAME 上最高降低 20.0%,代价是仅覆盖翻译类拒答且未验证其他能力是否退化。
针对扩散情感语音只推高目标情感而缺少对竞争情感建模的问题,Emo-BPO 用同文本倒序情感对联合学习对齐与对比两个分数分支并在推理以后段增强的对比引导组合它们,在 ESD 与 EmoVoiceDB 上把情感相似度做到 99.23、平均自动情感识别准确率做到 0.87,代价是可懂度仍略逊于自回归大模型基线。
针对编解码语音合成后训练中多指标加权融合导致候选区分度弱的问题,论文用识别机器味输出的 ChatScorer 加间隔偏好构造来保留差距明显的样本,实验显示排序偏好优化在稳定性和坏样本率上优于基线,而代价是丢弃较多提示且在线强化在小数据下仍落后。
针对多事件缺失与时序颠倒问题,该工作用音频大模型分别核验事件存在与事件顺序来构造偏好对并做直接偏好优化,在 AudioCaps 与多事件叙事基准上提升联合指令跟随准确率,同时保持可比的音频质量与分布指标。
针对中文流匹配语音合成中重音数据少且韵律难控的问题,该工作在 F5-TTS 上加重音编码器并依次做有监督微调、直接偏好优化和基于小波韵律工具奖励的在线强化学习,主测试上显著度从 0.86 提升到 1.45 而词错误率稳定在 1.63% 左右,代价是说话人相似度微降且奖励仍依赖客观显著度工具。
针对日语书面与口语风格差异导致语音大模型输出不适合语音合成的问题,该研究用直接偏好优化做口语风格对齐,在 SpokenElyza 上相对提升约 18% 而书面任务 Elyza 仅相对下降约 5%。
该研究用连续语音特征作条件、以解码器自回归生成离散语音令牌统一语音恢复、目标说话人提取与语音分离,并用两阶段偏好微调提升感知质量,代价是全 utterance 条件与自回归解码效率限制。
论文把序数情绪识别改写为双语音比较任务,用语义描述加 GeMAPS 声学证据生成比较推理轨迹,再经有监督微调与直接偏好优化训练 Qwen2.5-Omni-3B,在 MSP-Podcast 上以约 5% 语句量的 10k 对训练超越 240k 对训练的排序基线,而推理轨迹在跨域与跨情绪上带来更稳的泛化与可解释性。
DiffRhythm 2 用块内并行、块间自回归的分块流匹配解决长歌曲词声对齐难题,以 5 Hz 音乐变分自编码器支撑 210 秒建模,并用随机块表示对齐与跨对偏好优化提升结构与综合偏好,最强证据是 Mulan-T 0.40 与 PER 0.13,代价是低帧率压缩限制重建上限与人声精细度仍弱于商业系统。
针对多人混合中抽取目标说话人的任务,GenTSE 用语义级与声学级两段解码器语言模型分工建模,并用冻结模型条件训练缩小训练与推理的输入差异、用直接偏好优化提升感知质量,在 Libri2Mix 上感知质量优于同类生成式基线,但可懂度仍不及最强判别式对照且偏好优化带来轻微可懂度和说话人相似度代价。
针对同声传译语音到语音翻译中为等上下文而频繁停顿的问题,论文用银牌偏好直接偏好优化在 Hibiki 上降低块间静音比,主证据是长短语音基准上静音比下降而翻译质量和延迟基本保持,代价是短语音上 BLEU 与 COMET 略低于基线。
针对音频字幕依赖成对标注且自动指标与人意不一致的问题,该研究用成对偏好训练 CLAP 嵌入上的奖励模型再做自批判强化微调,在挑战样本上获得更高人类胜率,代价是需要额外偏好标注且长句奖励投机需用长度惩罚抑制。
针对印度初学者母语混英语代码词的口语提问,CodeVaani 用分语种语音识别加代码感知转写修正再接代码模型作答,在 500 条真人语音上把词错率降到 8.1% 左右并获得超 89% 公平以上评价,代价是依赖双 H100 异步流水线且未验证多轮与延迟。
针对中英会话语码切换数据稀缺问题,该工作用语音级 CMI 连同可懂度和自然度做多评价偏好学习来优化 CosyVoice2 合成,再把合成语音与真实语音混合微调 Whisper 等识别模型,在 SEAME 上把混合错误率降到 DevMAN 8.9% 与 DevSGE 14.2%,代价是依赖伪帧语言标签与多模型打分流水线。
针对平均意见分标度受评分人和测试协议影响而噪声大的问题,PrefSQA 研究完全不看 MOS 的成对偏好预测,用语义声学双编码器加不确定性温度、损伤注意力与批内非匹配参考头建模,并在 MOS 衍生、低噪声仿真与真人偏好数据上验证,显示高质量数据才能让结构改进显现,但小间隔样本仍是主要误差来源。
针对零-shot 流匹配语音合成训练目标与听感评价脱节的问题,该工作用两个模型分别学偏好与非偏好分布并配合改进的无分类器引导采样,在 Seed-TTS 中英文集上同时降低词错误率、提升说话人相似度,代价是推理需运行双模型并依赖小规模代理偏好数据。
针对多轮多模态对话中风格稀疏且易漂移说话人音色的问题,论文用显式风格指令拆开感知与合成,并用迭代拒绝采样与上下文偏好优化对齐生成器,在保持音色与可懂度的同时提升指令遵循与情境适配,但细粒度句内动态仍未解决。