把声音映射到语义空间:关键词规整与负样本推开如何让未见属性可预测
该文把说话人属性预测从 44 类固定分类改写为对大语言模型嵌入的余弦对齐,并用关键词追加收紧流形、用前 k 负样本损失拉开拥挤区,在 LibriTTS-P 上闭集 F1 达到 0.7625 且同义词零样本基本不掉点,代价是依赖单一语料与特定嵌入维度。
该文把说话人属性预测从 44 类固定分类改写为对大语言模型嵌入的余弦对齐,并用关键词追加收紧流形、用前 k 负样本损失拉开拥挤区,在 LibriTTS-P 上闭集 F1 达到 0.7625 且同义词零样本基本不掉点,代价是依赖单一语料与特定嵌入维度。
针对十种诱发范式各需专用模型且简单混训不增益的问题,论文用 Qwen2.5-Omni 语音大模型加 10 个 DoRA 专家动态路由统一建模,在 1223 名青少年数据上把平均准确率从单范式 0.628 提升到 0.656 并改善未见范式泛化与校准,代价是专家数、负载均衡与温度缩放都需仔细配置且个别范式仍不占优。
针对歌曲生成缺零样本音色克隆而歌声转换缺人声伴奏协同的问题,UniSinger 用多模态扩散变换器加跨任务说话人空间与四阶段课程掩码统一两任务,在发音错误率和音色相似度上取得最优,但伴奏联合建模仍带来可测的基线指标下降。
论文把逐字与意图两种转写策略显式为解码器前缀标签并配对监督,用监督交叉注意力做词级对齐、用转写提示做补全,在英语训练零样本德语上把不流畅事件 F1 从约 10% 提升到 90% 以上,代价是需要成对转写与词边界监督及两阶段微调。
论文把闭集语音内容因子化扩展为通用线性映射,用最小二乘求通用语音到内容矩阵并以数秒目标语音估计说话人矩阵,在保持可懂度和自然度的同时付出说话人相似度弱于闭集与检索基线的代价。
针对少见说话风格上零样本语音合成出现域偏移而失真的问题,VoiceTTA 在推理时冻结主模型、只用组相对偏好优化更新轻量可学习前缀,并以基频与能量变异系数差异加说话人相似度和可懂度为奖励做在线适配,最强证据是在五类少见场景平均上取得词错误率 3.12 与说话人相似度 0.64 的同时保持自然度,代价是每个说话人需做 50 步候选采样与奖励计算的测试时优化开销 …
针对开放词汇声音事件检测中仅用查询向量检索而缺乏语义理解的问题,该文提出语义锚点加双向注意力和查询增强,在 AudioSet-Strong 稀有类上报告 34.9 的 PSDSr 并在 DESED 零样本上报告 44.1 的 PSDS1,代价是引入 400 个锚向量与两层双向解码等额外结构。
论文在韩语情景剧训练、真实诈骗电话测试的跨域条件下比较 4 维域不变韵律特征与冻结的 HuBERT、wav2vec2.0,报告零样本下 4 特征达到 69.5% F1 而 HuBERT 在 5 样本下达到 94.2% F1,代价是后者需要真实样本与约 94M 参数的计算量。
针对双流式文本到语音需要准确对齐与低延迟序列组织的问题,论文用基于 CTC 的音素对齐替代 MFA 并提出双词交织,在单说话人流式与多说话人零样本任务上报告了更低词错误率,代价是长度拼接变体首包延迟更高而特征堆叠变体质量略低。
针对自回归编解码语言模型串行解码慢、非自回归模型文本对齐弱的矛盾,DLLM-TTS 在 X-Codec2 单码流上做条件块离散扩散,以 0.6B 参数和 20K 小时数据在 Seed-TTS-eval 上报告 WER 2.25% 与 SIM 0.750,代价是块串行与多步去噪仍需权衡速度与质量。
该研究把冻结语音编码器的多层向量序列变成两两内积的二维自注意力权重图再用可训练 VGG-19 做多标签口吃检测,在中英德零样本评估中保留单语 F1 的 77-98% 并在词重复上超过最优模型,但在阻塞延长等声学主导类型上落后约 10-23%。
针对中日两个零样本语音分类任务,论文显示仅靠多语言离散国际音标词元训练的模型会失效,而用连续发音特征向量做分类能显著提升稀有音的召回,但送气用单帧最优、鼻音部位用段平均最优,时间聚合方式必须按线索的持续性选择。
针对零样本跨语言语音情绪识别中语言失配与无目标标注问题,论文用有监督对比拉齐跨语言同情绪表示并用说话人对抗去说话人线索,在九组零样本任务上平均 UAR 达 82.26%,代价是仍需多语言有标注训练数据且未闭合与有监督上限的差距。
针对流式零样本变声在小块下质量退化与参考音频敏感问题,MeanVC 2 用未来感受分块与通用音色令牌编码器实现 40 毫秒块稳定转换,报告显示端到端首包延迟从 211 毫秒降到 110 毫秒左右,但单步解码的计算量略有增加。
针对一步零样本语音转换中固定重型内容编码器成为推理瓶颈的问题,MeanVoiceFlow2 用可训练轻量内容编码器与学生平均速度网络联合学习,以转换蒸馏加真实数据重建、扩散判别器混合对抗和教师引导条件增强为手段,在保持说话人相似度的代价约束下把推理实时率降低约 9 倍并提升感知质量。
针对同一声音可被多种文本描述、同一文本可对应多种声音的多对多含糊性,MixProLAP 用波形叠加与文本拼接构造语义超集并施加多级包含损失,在 AudioCaps 与 ClothoV2 零样本检索上提升音频到文本召回,但文本到音频方向存在不对称与轻微代价。
针对语音大模型中高资源语种翻译好而低资源与零样本语种差的表示不可比问题,POTSA 冻结编码器与大模型只训练 Q-Former 并用偏置补偿加令牌级最优传输做跨语言对齐,在 FLEURS 五语种平均提升 1.29 BLEU 且零样本平均提升 2.93 BLEU,代价是每语种需 10 小时平行语音并引入额外对齐损失与层调度。
针对局部 token 残留说话人信息与韵律丢失的矛盾,SDP-Codec 用连续 vq-wav2vec 特征加紧凑单码本做内容瓶颈、归一化 F0 注入与软标签基频重建恢复韵律,并在单阶段训练下以 0.45-0.52 kbps 取得可比的重建与更强的零样本变声,但 16 kHz 大模型的重建词错误率仍高于部分基线。
针对语音驱动开放集检测中配对数据稀缺与文本中转误差传播问题,Speech2See 用 Grounding DINO 与 HuBERT 先验加 QSA 压缩和 MoLE 微调实现端到端听声定位,在 COCO 闭集达 56.2 AP、零样本达 42.7 AP,但语音连续性与说话人变化仍使长尾与文本上界存在差距。
StyleStream 用带文本监督和 45 码紧瓶颈的去风格器抽取内容,再用非自回归扩散变换器重上目标风格,在 3000 对测试上把可懂度和三种风格相似度做到最高,代价是需要 5 秒目标上下文和 600 毫秒分块带来的约 1 秒端到端延迟。