舌头看得见却认不准:用物理一致与上下文完备治超声无声语音的抖动与粘连
针对超声舌成像的探头位移与散斑噪声及协同发音长时依赖,论文用聚类降采样加物理增强与三维卷积加双向循环建模,在儿童超声数据集的重叠与未见说话人两种划分上把词错误率降到 0.1595 与 0.0597,代价是增强幅度与掩蔽比例需小心约束且大模型在小数据上并未占优。
针对超声舌成像的探头位移与散斑噪声及协同发音长时依赖,论文用聚类降采样加物理增强与三维卷积加双向循环建模,在儿童超声数据集的重叠与未见说话人两种划分上把词错误率降到 0.1595 与 0.0597,代价是增强幅度与掩蔽比例需小心约束且大模型在小数据上并未占优。
针对歌曲生成缺零样本音色克隆而歌声转换缺人声伴奏协同的问题,UniSinger 用多模态扩散变换器加跨任务说话人空间与四阶段课程掩码统一两任务,在发音错误率和音色相似度上取得最优,但伴奏联合建模仍带来可测的基线指标下降。
论文把逐字与意图两种转写策略显式为解码器前缀标签并配对监督,用监督交叉注意力做词级对齐、用转写提示做补全,在英语训练零样本德语上把不流畅事件 F1 从约 10% 提升到 90% 以上,代价是需要成对转写与词边界监督及两阶段微调。
TriageSim 针对急诊分诊缺少真实护患语音的问题,用结构化病历加人物设定驱动多智能体对话与语音合成,生成约 800 段文本音频对齐语料,并在三模态分诊分类上只得到公平一致性,说明瓶颈在临床推理而非转写噪声。
论文用翻译加语音合成批量构造多语言语音问答数据来解决多语言指令数据稀缺问题,最强证据是微调后的 Qwen2.5-Omni 在 23 种语言上平均以 60.6% 胜率超过微调前版本,代价是合成语音自然度偏低且部分语言仍需大量人工改写翻译。
SGILE 针对原住民语言教学的低资源 TTS 问题,选择用开源 EveryVoice 工具包降低建声门槛并用 BWS 等强制选择评测降低听音人负担,论文以网页 Demo 展示不同数据量声音与 BWS 问卷流程,但正文未报告正式主观得分与统计检验。
针对北萨米语标注只有 20 小时的问题,论文比较大教师生成全部伪标签与大小模型一致过滤子集,并证明先伪标签后人工标注的两阶段微调能让 95M 小模型在域外测试上相对降低字符错误率,而混合训练与反向顺序会退化。
针对自回归语音语言模型在 50-75 Hz 下序列过长导致推理慢的问题,U-Codec 把编解码帧率压到 5 Hz 并用帧间 Transformer 与 8-100 层因子化残差量化补偿细节损失,在 LibriSpeech 重建与 LibriHeavy 零样本 TTS 上保持可比质量,代价是局部多层自回归解码仍占开销且 DAC 最高保真仍未被超越。
UG-Bench 针对大音频语言模型理解与生成割裂评价的问题,用解耦的四能力框架统一测 11 个开源大音频语言模型和 5 个专用语音生成模型,最强证据是 Qwen2-Audio 以 78.18 分居首而生成能力仍落后于专用合成模型,代价是中文标注样本不计入排名且生成只比平均意见分。
论文用变换器自动检出填充停顿并以 Mundlak 校正的广义估计方程建模近四千小时四国议会语音,复现了年龄与语速的负关联、发现南斯拉夫议会中女性更高的性别反转与情感正关联,而政治倾向与执政在野效应只在部分议会成立且代价是自动情感与自动检出的噪声会进入发生率估计。
该文用 SAP 语料先做 LoRA 无监督域适应再冻结 Wav2Vec2-Large 做 25 个 DAB 维度的层探测与可学习标量混合,报告显示最优单层随维度变化而混合优于单层,但标签偏态与时序池化限制仍在。
针对韩语 g2pk 转换慢且词边界音变建模不准的问题,论文用分层指针加递归重估的规则引擎把转换精度从 27.2% 提升到 85.7%、单句耗时从 14.98 ms 降到 3.14 ms,并用 96 个 VITS 模型的方差分析证明高精度音素输入显著降低可懂度误差而不损失音质。
针对 Whisper 类模型在低资源语言上顺序微调时的灾难性遗忘,论文提出用语言均衡回放构造整体参考梯度并做冲突投影的统一梯度投影方法,在 Whisper-large-v3 上报告平均遗忘接近零,但目标语言可塑性仍需与回放量和模型容量一起权衡。
该研究用连续语音特征作条件、以解码器自回归生成离散语音令牌统一语音恢复、目标说话人提取与语音分离,并用两阶段偏好微调提升感知质量,代价是全 utterance 条件与自回归解码效率限制。
论文把闭集语音内容因子化扩展为通用线性映射,用最小二乘求通用语音到内容矩阵并以数秒目标语音估计说话人矩阵,在保持可懂度和自然度的同时付出说话人相似度弱于闭集与检索基线的代价。
该研究让 101 名英语单语听者与冻结的英语单语 Whisper-medium.en 和 HuBERT-large-ll60k 在相同法语、日语、希腊语、泰语情绪语音上做六选一判断,发现三者都显著高于 21.4% 的机会水平,但人类偏向中性与负情绪而模型偏向快乐与惊讶,且 HuBERT 整体高出人类 6.8 个百分点。
针对分散在医院且无专家标注的临床音频诊断问题,论文提出联邦自上下文化 FSC,用聚类产生的语义空洞伪标签训练音频语言模型的上下文推理技能,2-way 2-shot 达到 71.6% 准确率并超出最强基线 9 个百分点以上,代价是更长上下文会稀释注意力且三分类明显下降。
针对多语联合微调容量不足导致的负迁移,论文把 Whisper 解码器前馈层复制为稀疏混合专家并只激活单个专家,硬路由在 10 语和 4 语上优于多语微调与 LoRA 混合专家,代价是总参数随专家数线性增长且需已知语种标识。
URGENT-MOS 针对跨数据集标注不一致与绝对质量和偏好割裂的问题,用共享特征加绝对多指标预测与自然度条件偏好模块统一建模,在多域偏好和相关性评价上更稳健,但全量 15 指标联合监督并不总是带来增益。
USAD 2.0 针对语音、通用音频与音乐教师失配问题,采用领域感知加权蒸馏先融合三个自监督专家,再用有监督专家做第二阶段对齐并以降帧率加深度扩展到 1036M 参数,在 HEAR、MARBLE 与 XARES-LLM 上取得可比或更优的可复述结果,代价是仍需依赖教师与领域标签且大模型推理成本上升。