把一句手术口令拆成方向、模式和步数:用顺序回归压住大步长误动作
针对韩语手术室 51 类组合口令,该研究用共享编码器加三路注意力分别预测方向、模式和步数,并以 CORAL 顺序回归学习 1-5 步幅,在留一说话人评估下达到 95.36% 联合成功率、0.0338 步 MAE 和 0.60% 灾难性错误率,代价是仅 5 人数据与预切分评测且最难说话人仍明显下滑。
针对韩语手术室 51 类组合口令,该研究用共享编码器加三路注意力分别预测方向、模式和步数,并以 CORAL 顺序回归学习 1-5 步幅,在留一说话人评估下达到 95.36% 联合成功率、0.0338 步 MAE 和 0.60% 灾难性错误率,代价是仅 5 人数据与预切分评测且最难说话人仍明显下滑。
针对病理嗓音数据稀缺与传统线性增广失效的问题,论文用临床状态词控制的 F5-TTS 合成持续元音,研究 100 到 100000 的合成规模律,最强证据是仅用 10 万合成样本训练的分类器在留存真数据上超过真数据基线并显著提升灵敏度,代价是特异度下降与远域过量合成出现非单调退化。
针对合成语音质量评估依赖人工 MOS 且跨语言跨系统泛化差的问题,TDScore 用 TTS 训练中的检查点轮次与训练损失作伪标签训练质量预测器,在法语训练、英法评测上显示轮次标签与人工 MOS 相关而损失标签更不稳定,但仍受 TTS 训练动态与饱和截断策略限制。
该研究用同一组乌尔都语录音让德语和匈牙利语听者做快速韵律转写,报告两组在重音感知上依赖不同基频走向、在语调短语边界上一致度仅为弱到中等且受发音人影响,从而不支持边界线索普遍通用的判断,其代价是样本仅四位发音人和两组听者且未纳入乌尔都语母语对照。
该研究用冻结线性探测在 26 个语料、49 层表示上做跨语料迁移,发现第 15 层跨语料 F1 最高为 0.392 而 45 层下降 24.6%,均值池化 wav2vec2 比 27 维声学特征高 41% 但后者保留 71% 性能且复杂度低 3.7×10 的 7 次方倍。
VerAno 用受限码本的自监督 VQ-VAE 过滤说话人音色、再用条件流匹配重建梅尔谱,在 VPC 2024 上以 CB128 取得隐私与内容情感兼顾的前两名综合排名,代价是码本放大后隐私下降。
针对解码器自回归语音合成中全量自注意力导致键值缓存随长度增长的问题,WAND 把条件提示词保留全局注意力、把已生成声学 token 限制在固定滑动窗口,并用全注意力教师蒸馏加课程收缩做单轮适配,在 10 秒生成上报告最高 66.2% 的缓存下降和接近常数的单步延迟,而英文词错误率保持在基线 0.2% 以内。
论文研究极低资源 Warlpiri 语识别该从哪种高资源语言迁移,用声学嵌入相似度加句法音位语法类型相似度排序候选源并以 Whisper 迁移验证,最强证据是 Assamese 迁移后词错误率 32.6%、字错误率 12.3%,代价是结论依赖 1.5 小时特定语料与固定微调流程且零样本与微调下最优相似度指标不同。
针对跨语言时自监督表示混入语言结构导致帕金森病患者被大量漏检的问题,该研究用只从健康对照估计的质心平移做表示层语言归一化,在捷克语德语西班牙语口部轮替任务上把灵敏度和 F1 大幅拉回,代价是特异度下降且德语目标增益最小。
针对只用英语训练、直接在七个未见语言上做零样本音素识别时替换错误占主导的问题,论文把识别改写为向通用发音特征空间的预测并用信息瓶颈过滤语言特异变化,报告平均音素错误率相对降低 20.56%、发音特征错误率相对降低 7.01%,代价是仍需目标语言音素清单做向量对齐且推理依赖 CTC 分段质量。
针对自然语音难以手工刻画心衰失代偿的问题,该研究用 3 天内拉近、100 天以上拉远的对比预训练学习录音表征,在 68 例入院与出院排序任务上以跨中心稳定性为主要证据,代价是小样本下差异不显著且高分辨率预训练指标更好但临床迁移更差。
针对零样本跨语言语音阿尔茨海默检测,ORBIT 用双向交叉注意融合多语言语音与文本预训练表示并以多抽头对抗与球面-双曲共识聚类抑制语言信息,在 mHuBERT+Qwen3 组合上取得 LOLO 平均 86.98% 准确率与 85.29% 宏 F1,但希腊语转写依赖 Whisper-large-v3 生成且 LTLO 仍明显低于混合训练。
针对台语语音配繁体中文硬字幕的跨语言错位问题,该工作用光学字符识别与三模态音视语言模型产出双候选、再经字符错误率过滤与视觉语言模型融合的多轮迭代框架,把金标集字幕识别字符错误率从 36.8% 降到 9.3%,并以 860 小时伪标签语料把跨语言转写错误率从 57.8% 降到 37.8%,代价是依赖共识筛选与多轮微调且初始跨域泛化较弱。
跨语言零样本合成中参考音频的源语言口音会泄漏到目标语音,本文用同一合成代理声音在两种语言下预测之差估计口音方向并在采样时减去,在 OmniVoice 等四个公开模型上实现等口音下更高的说话人相似度,代价是每步增加代理计算与每模型需小幅扫描去口音强度。
该文把跨语言文本与语音摘要统一为语义向量序列到法语摘要的生成问题,用 BGE-M3 与 SENSE 对齐的嵌入加 140M 可训练的 SBARThez 实现,在 CrossSum 低资源文本和自建 ABT-SpeechSUM 三语语音上超过级联与 mT5-large 基线,但依赖嵌入空间对齐质量且摘要多为合成参考。
针对跨语言合成中口音不可控且易连带改变音色的问题,该文用 Neucodec 离散声学词元加 Qwen2.5 自回归解码器实现合成,以 Perceiver 瓶颈加梯度反转抑制口音残留再用加权语言嵌入连续调控口音强度,在 Indic 多语言 986 小时和 L2-ARCTIC 上显示口音相似度提升而说话人相似度和 UTMOS 基本保持,但主观 MOS 细节与强度 …
针对语音到语音翻译丢失笑声哭声的问题,论文用可扩展表情合成管线加五专家混合 LoRA 与软路由解决,在英中翻译上以 76% 非言语匹配和最高人评自然度情感相似度为证据,代价是合成数据主导与英中范围验证。
该研究用冻结的自监督语音表示加音节级预分类器与词级时延后分类器做阿英重音检测,多语言联合训练保持接近单语的 97% 英文与 90% 阿语准确率,而跨语言迁移呈方向不对称且后分类器与多语言预训练表示能缩小差距,但仍低于单语基准。
针对跨语言时语言线索与说话人身份纠缠的问题,该工作用正交投影只取自监督特征中与监督嵌入互补的分量,并用流形约束的神经 PLDA 做判别优化,最终融合系统在两条测试赛道上报告等错误率为 1.39% 和 1.95%,代价是三阶段前端与两阶段后端的复杂训练流程和大规模数据依赖。
该文用英语预训练的视频 Conformer 在 OLKAVS 协议上把已见句式误差降到约 10% 上下,但人口普查显示个体误差从 1% 到 52% 不等,数分钟正面视频的低秩适配器能为高误差者挽回约 2 到 3 个点且可迁移到各视角,而嘴平面以上相机带来约 6 个点的固定加性损失。