只用整条录音的说话人名单,如何学出帧级归属与干净嵌入
论文先做单说话人预训练再冻结编码器做双说话人微调,只用 utterance 级身份标签经排列不变损失学出帧级语音与说话人活动,在 AMI、VoxConverse 和 DIHARD III 上把混淆误差平均相对降低 13.7%,代价是单窗最多两人且不建模重叠语音。
论文先做单说话人预训练再冻结编码器做双说话人微调,只用 utterance 级身份标签经排列不变损失学出帧级语音与说话人活动,在 AMI、VoxConverse 和 DIHARD III 上把混淆误差平均相对降低 13.7%,代价是单窗最多两人且不建模重叠语音。
针对正面视角假设在转头时失效的问题,该工作用多视角张量融合在训练期学习跨视角唇动关联,单视角测试平均 15.718 dB,最强证据是比正面训练对照高 1.616 dB,代价是训练需同步多视角视频与少量额外计算。
针对只用少数公开模型训练导致在真实商用语音合成面前泛化不足的问题,论文用 30 个 API 约 230 小时伪造语音构造 MultiAPI Spoof 并提出在嵌套块间加滑动窗口局部注意力的 Nes2Net-LA,加入训练后把 MultiAPI 测试集等错误率从 7% 以上降到 1% 以下且在未见 API 上仍有效,代价是 API 溯源中未见类召回仍偏低。
论文把帧级语音直接映射为 22 维音系特征并以发音方式门控保证组合合法,在四种训练语言上以 91.3% 域内和 88.9% 域外平均宏 F1 超过同骨干 CTC 音素基线约 8.8 和 8.6 个点,未见语言平均从 66.9% 提升到 73.6%,代价是特征库存不含鼻化元音与腭化等对比且跨语迁移仍明显掉点。
该文要解决词级强制对齐在多语下的可扩展问题,选择融合 MMS 与无监督音素边界表示再用可学习动态规划定边界,最强证据是在 TIMIT 和 Buckeye 上超过 MFA 与 MMS 基线,代价是编码器与解码器不能联合优化且在荷兰语等未见语言上优势只在部分容差下成立。
针对歌剧等长时叙事音乐解说易幻觉、配对数据稀缺的问题,MAC 用免训练的多尺度声学与语义证据加分层上下文约束现成指令大模型,在 MQAD 取得最好成绩并在歌剧与全曲上提升情感与艺术对齐,但语义相似度与人类稀有线索覆盖仍有代价。
MuVAP 针对单通道音频加单视角视频的多人轮替问题,用角色相对投影把任意人数压缩为当前与下一持有者两角色,并用因果视听轨迹锚定全局声学预测,在连续未剪辑对话上评估静默与活跃条件下的换保持与下一说话人预测,但历史窗依赖与类别不平衡带来延迟与偏置代价。
该研究用 175 人的真实护理对话检验自然语音能否补充结构化病历做早期认知损害检测,最强组合达到 AUC 0.92 与 F1 83.08,代价是更长录音、缺失插补与小样本解释的局限。
NaVo 针对只需数秒语音即可克隆的威胁,用文本到音频扩散模型加性别与场景分组的 LoRA 模块生成可直接混合的环境声,在 17 dB 混合条件下报告了对商用克隆系统 76% 的防御成功率与跨编码器的迁移效果,代价是依赖性别分布假设与固定信噪比混合。
针对多麦克风通信中只想在接收端合成可配置指向虚拟麦克风的问题,论文提出联合空间编码与滤波的神经方向性编码,用 0.25 kbps 空间边信息加单通道参考在四麦 16 kHz 上达到与 7.5 kbps 级联基线相当或更好的 SDR 与 PESQ,代价是依赖单通道编解码质量与无混响训练条件。
针对多通道远场会议中重叠与混响导致说话人日志不稳的问题,该文在神经 FCASA 上为说话活动倾向引入贝塔先验并用变分下界代替交叉熵训练,在 AMI 上报告 DER 至少下降 3 个百分点且 JER 至少下降 4 个百分点,代价是只验证了说话人日志而未评价分离质量与计算开销。
该研究用粤语声调外在归一化双任务加脑电时频分析回答负荷下如何维持知觉恒常,发现行为准确率不受视觉负荷影响,但顶枕 alpha 同步增强与高负荷前额 delta 去同步共同支撑主动控制,代价是视觉任务准确率下降与额外抑制资源投入。
针对 4 人并发下单线索易选错人的问题,NeuroMultiSpEx 用耳脑电并行提取包络时间线索与说话人身份线索再门控融合,在 PKU 耳脑电数据上达到 9.613 dB 的 SI-SDRi 并以 82.4% 的四分类注意准确率支撑提取,代价是依赖同组说话人且试验内划分的评测条件。
针对句中停顿易被误判为结束的问题,Next-Turn 用从语音时间戳直接算出的到下一次语音起始时长做细粒度监督,在 1185 句人工标注评测上以 86.7% 的 320 ms 内准确率和 5.0% 早打断率超过声学与语义基线,但小评测集与中文单语料限制了推广结论。
该研究以三维可压缩流动仿真为基准检验一维模型中 Fant 噪声缩放因子,显示/a/正常闭合时常规值可用,而在气息声不完全闭合与/u/声道收缩下最优值明显偏移,因而一维噪声需按流动构型调整。
针对非平稳噪声下静态说话人验证泛化不足的问题,论文用全局噪声生成低秩权重、用局部噪声做帧级门控并以对比蒸馏对齐干净流形,在 VoxCeleb1 混合 MUSAN 上报告带噪平均 3.05% 与干净 1.70%,代价是 ECAPA 配置总参数增至 24.19M。
论文以 Buckeye 自发语音 262342 词例检验语义相关度对词时长的预测力,用广义加性混合模型分离出低中段促进、高段延长的 U 形效应,且该效应主要出现在低频词,最强证据是含语义相关度的 M1 取得最优 AIC 而去语义项损失 23.2,代价是高语义中心词存在竞争与规划成本且结论限于英语访谈语料。
该研究用 13100 句配对语料同时检验韵律与音段两个层面,报告全局基频压缩与局部反转增多的跨时间尺度脱钩,以及元音空间收缩到 9-30% 与齿龈协同发音减弱,且两类偏离在句间几乎不相关。
该工作用源语音的二值语音活动掩码约束固定长度修复式合成以实现唇同步配音,最强证据是帧级对齐准确率从约 73% 提升到约 96% 且主观韵律无显著下降,代价是在翻译时长严重失配时出现删读、重复或调序。
针对非言语发声合成缺乏配对真人参考与统一指标的问题,NV-Bench 用 1651 条中英野外语音与双维度协议测控指令对齐与声学逼真度,最强基线 NV-CV3 在普通话单标签上做到 PCER 27.69% 与 OCER 4.90%,但多标签与英文仍有明显差距。