把扰动关进掩蔽阈里:STM 如何用硬约束换掉反复调参的质量损失
针对只需数秒语音即可克隆的 VC/TTS 滥用问题,STM 把扰动放在频域幅度谱上并用心理声学掩蔽阈做硬钳位,仅优化扰动去逼近目标说话人嵌入,在白盒实验中以 80 步迭代取得可比或更高的声纹拒绝率,同时把黑盒可迁移保护保留在 71.50% 而把生成耗时降到 2.19 对 3.48 秒每句的量级。
针对只需数秒语音即可克隆的 VC/TTS 滥用问题,STM 把扰动放在频域幅度谱上并用心理声学掩蔽阈做硬钳位,仅优化扰动去逼近目标说话人嵌入,在白盒实验中以 80 步迭代取得可比或更高的声纹拒绝率,同时把黑盒可迁移保护保留在 71.50% 而把生成耗时降到 2.19 对 3.48 秒每句的量级。
针对联合音视频模型只输出单条混音而难以分源控制的问题,Soundwich 在冻结流匹配模型上并行生成多条音频干声并共享一条视频轨,主基准上窗口成功率达 93.1% 且窗外活动降至 1.7%,代价是多干声带来显存与耗时增长且复杂重叠场景仍易受干扰。
该工作把合成语音归因做成基于样例比较的可解释分类,在 MLAAD 英语训练下用架构族标签达到 99.65% 平衡准确率并支持跨语种与开放集拒绝,但原型冗余与说话人覆盖不足仍是主要代价。
论文研究不做梯度微调能否直接用预训练 ASR 编码器做说话人无关唤醒词检测,并用 SliceGPT 式 PCA 结构化剪枝把编码器通道减半,证据是 50% 剪枝时参数约减 40% 而 EER 仅温和上升,但随机保留同等维度会使 EER 恶化到 40% 以上。
针对无声谈话视频只能看到近似唇形而无法唯一确定音素的问题,论文用训练期真值文本加注意力融合与条件流匹配生成梅尔谱,并在 LRS2/LRS3 上以同步指标领先为证据,代价是推理仍依赖唇读预测文本的准确率。
该研究用被试内四情绪判断任务比较真人陌生语音与 AI 克隆陌生或熟悉语音,报告真人语音在高兴、悲伤、生气上准确率更高且反应更快,而熟悉的 AI 语音只对高兴提高准确率却对恐惧延长反应时,心率变异性未显示出区分度。
针对手机上音频已预填而完整回答仍需逐词生成的按需理解任务,As2d 让音频条件起草者脱离目标已验证前缀独立推进并由目标验证纠正,在四机七数据集上把合并语音识别吞吐相对纯目标解码提高 42 到 76%,代价是候选供给不足时仍需目标单步推进且增益依赖覆盖率与到达时机。
针对领域实体与罕见专有名词难识别的问题,BaLEEN 用冻结语言模型加 Perceiver 瓶颈生成可预计算的层偏置注入冻结 CTC 编码器,在合成维基测试集上关键词漏识相对下降 8.7% 且词错误率相对下降 21%,代价是依赖合成语音与固定上下文预计算条件。
该文在 IEMOCAP 对话上把音量音调语速转写成文字描述与对话历史一起输入大模型,对比零样本少样本与 LoRA 微调,最强 LoRA 模型效价 CCC 达 0.7822 但 arousal 与 dominance 仍低且历史 VAD 回灌会累积误差。
针对冻结语音语言模型上情绪条件弱、单强度整体放缩难以兼顾离中性与指情绪的问题,论文提出免训练的共享分量与残差分量独立加权方法 EmoRES,在 IEMOCAP 混合情绪上把排序相关与首位命中率大幅提高,代价是仍需离线构造情绪向量库并依赖所选层与强度设置。
针对全双工对话中犹豫停顿与真实说完难以区分的问题,FD-VAD 用冻结语音编码器加轻量适配器和低秩微调语言模型对 2.56 秒因果窗口做继续或停止判断,在 TurnBench 开发集零样本下取得限定误报内最高终点召回,但中位提交延迟高于最快的轮流预测基线。
论文研究语音自监督是否必须构造精细预测目标,提出直接预测当前编码器连续表示并只用高斯正则防塌缩的 GLaS-JEPA,在 960 小时 LibriSpeech 上以 57M 参数取得冻结编码器 SUPERB 语音识别 6.89% 词错误率和槽填充 25.87% 概念错误率,但情绪识别等副语言任务仍落后且大模型扩展尚未验证。
论文引入系统级偏好准确率检验预测 MOS 能否复现人评的系统两两优劣,发现在两个增强任务上单模型最高仅 76.8%,集成与领域自适应也只在限定条件下改善,说明相关系数高不等于比选可靠。
针对新伪造机制不断出现而真实语音来源已知的更新场景,论文提出按生成机制组织任务的 RAMI 协议与非对称提示方法 RF-Prompt,在 RAMI 上取得 10.110% 平均 EER 与 10.370% 混合 EER,但离线联合训练仍更优且部分机制上基线更低。
论文用响度、内容丰富度和情感表达三组单变量受控操纵审计六个语音裁判,发现成对比较会系统性偏好更响更丰富更欢快语音而理由很少点名真正起作用的声学线索,人听校准显示部分偏好超出人类权重。
针对离散扩散语音克隆中词正确性与说话人保持未被直接优化的问题,RAWD-TTS 用识别与说话人波形奖励算组内优势并加权前向掩码重建,在 500 条俄语克隆提示上把词错误率从 3.18% 降到 2.42% 并把说话人余弦从 0.733 提到 0.748,代价是单奖励会损伤另一属性且训练奖励上升不等于评测单调变好。
该文研究精神科双人对话中按角色删除一方语音后的漏删核验问题,用四种开源权重模型在推理模式下扫描删减后音频与转写文本,最强证据是 14 个转写引导配置的或集成达到合并 F1 0.478,代价是精度仅 0.330 而召回 0.870。
针对 Qwen3-TTS 内层 MultiCodeDecoder 每帧 15 次自回归调用的主导延迟,论文复用冻结的逐位置 LM 头并只训练 3 个残差偏移向量做草稿加稀疏树验证,在保持 top-k 采样分布无损下实现约 2.47 个 token 每次调用和 2-2.2 倍实测加速,代价是每次验证调用查询长度增大带来的 10-20% 额外开销。
针对注意力模型整句依赖未来音频而难以流式化的问题,论文用年龄版本编码把每块未来视野锁定为常数块,再用逐词触发器只推迟不确定的词,在完整测试集上以 6.5% 词错率达到 306 毫秒中位延迟,代价是无预算时尾延迟高于静态基线且训练与重编码开销增加。
针对被动听语音脑电转波形只优化声学的问题,SENSE 用电极几何图编码加只在一致试次上对齐冻结语义空间的调节,在 N400 数据上以检索等表示层证据支持语义对应,但波形可懂度仍有限且自然语音只验证到表示层。