听不清却说听清了:音频大模型转写可靠性的编码器预判
论文研究音频大模型能否预判自身转写是否可靠,发现解码器自评严重高估而冻结音频编码器表示可支撑四分类预测,在域内宏 F1 达 81.10% 且跨域保持 78.09%,代价是需按模型实测构建标签库并做边界对齐。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
论文研究音频大模型能否预判自身转写是否可靠,发现解码器自评严重高估而冻结音频编码器表示可支撑四分类预测,在域内宏 F1 达 81.10% 且跨域保持 78.09%,代价是需按模型实测构建标签库并做边界对齐。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
该研究用矩形房间大量仿真房间脉冲响应做预训练,再只用 10 个 L 形与不规则房间微调解码器,在未见过的 40 个目标房间上把均方误差降低 56%,但代价是仍依赖仿真数据与固定采样设置且未验证真实测量房间。
针对在线视听目标说话人提取中选错人且会议泛化差的问题,该研究把嘴部特征接到个性化增强模型的说话人条件输入并联合微调,在无未来帧与 20 ms 算法延迟下把 46% 的混淆降到 1.6%,并在会议上拉开分离差距与 0.57 和 0.63 MOS 整体质量提升,代价是仅在双人混合上微调且未报告设备端真实耗时。
针对重度构音障碍语音与通用模型声学失配及数据稀缺问题,论文用先做词汇域适应再只微调编码器前端的个性化 Conformer 管线,在 UASpeech 平均词错误率 21.5% 与 TORGO 平均 12.7% 上报告优于此前序列到序列方法,并以移动端采集与持续重训闭环支撑儿童使用,但重度 76.4% 基线差距、儿童数据缺失与公开可用性仍受限。
针对低资源声调语言缺少专用声学模型的问题,CrossPhon-Tonal 在发音特征映射后增加自动声调映射,在六种声调语言上达到与专家人工映射可比、并在多组上超过 3600 小时 Global English 模型的一致率,但低训练量模型与克罗地亚语等边界条件仍暴露明显短板。
针对含第三方干扰的自然双人对话在线音视目标说话人提取,该研究用语音大模型预测目标与对话伙伴的近未来活动来引导低延迟分离器,在 IEMOCAP 三人混合上三上下文联合达到平均 10.03 dB、相对基线提升 10.9%,代价是需要两遍训练、2 秒窗与 600 毫秒跳的在线调度和冻结的预测模块。
针对静音肌电缺少逐帧语音监督且样本更少的问题,该研究在保留语音导出声学与音素监督的同时增加静音到有声的输出层与隐层表示对齐,在梅尔谱目标下把词错率从 26.75% 降到 25.14%、在软语音单元目标下从 27.78% 降到 26.55%,代价是只有具备同句平行肌电对的静音样本才能计算该约束且结论依赖多种子平均与显著性检验。
针对不足 60 分钟无标注濒危语言音频的音位发现问题,该工作用类型学锚定选择爪哇语和他加禄语做 VQ-VAE 预训练再适配,在三种语言上以自一致性 NMI 和簇纯度超越 XLS-R,代价是评价仍是扰动稳定性而非对照真值转写的准确率。
该研究用 25 人 fMRI 区分干净与噪声语音,提出三阶段迁移解码框架 NeuroPAS-Net,在右侧中央前回达到 79.3% 准确率,并据此导出神经指标 NeuroPAS 对两种增强排序,但相关性经校正后并不显著且样本局限于年轻正常听力者。
在英语 MSP-Podcast 约 104 小时与台湾普通话 BIIC-Podcast 约 102 小时上用 WavLM Large 做唤醒度、效价、优势度回归,发现唤醒度用 2 小时适配即可追平 100 小时单语模型而效价需约 20 小时,且优势度测试集绝对值极低限制了结论外推。
论文把近 10 万小时英语预训练的 F5-TTS 直接在 1417 小时 11 种印度语言上微调,用对照实验显示直接微调在总体 MUSHRA 73.4 上超过混入英语与从零训练,并以 10 小时每语言保留涌现能力为代价换来零资源语言的可扩展性。
论文用单被试五十小时听觉脑磁图预训练的 Conformer 编码器,再到十八名新被试每任务约五分钟数据上微调做语音有无检测,证明任务内小幅提升而跨听觉感知与朗读产出任务提升更大,但个体差异和仅做检测任务限制了推广。
针对歌声合成检测中伴奏遮蔽与幅度谱丢失相位 discontinuity 的问题,OPERA-Net 以相位一致 CQT 捕捉瞬时频率异常并以 WavLM 语义门控抑制伴奏,在 CtrSVDD 混合 EER 做到 1.54% 而代价是双流结构与预训练依赖。
论文用 17 小时马库萨斯语和 4 小时库克群岛毛利语自然对话做 Wav2Vec2 等基础模型微调与联合训练,最好的马库萨斯单语模型中位 CER 为 16、WER 为 30 左右,人工从 ASR 改起比纯手打每分钟音频快 0.7 到 2.4 倍,但跨语言联合只带来微弱且不显著的提升。
针对非侵入感知语音解码中时空表征不足与跨被试泛化难的问题,论文提出融合 MEG 与 fMRI 并显式提取被试一致成分的 SICMD,以 43.5%、82.7% 和 93.4% 的 Top-1、Top-10 和 Rankacc 报告最高性能,代价是仍需目标被试的个性化微调与双模态配对数据。
针对构音障碍临床标注稀缺问题,该工作用 QualiSpeech 合成语音评价数据的 MOS 监督做增强,对比联合训练与先预训练再微调两种范式,报告在 SAP 可懂度与自然度上微调一致增益而联合训练主要改善自然度,同时付出可懂度标签语义失配的代价。
论文以音素受控仿真加英到日真实跨语言两路对照,检验预训练语音合成模型在微调中学习未见目标音素的能力,发现微调自然度更高但达到相同目标音素错误率需要相同或更多数据,说明预训练主要改善自然度而对音素增加帮助有限。
针对语音大模型中高资源语种翻译好而低资源与零样本语种差的表示不可比问题,POTSA 冻结编码器与大模型只训练 Q-Former 并用偏置补偿加令牌级最优传输做跨语言对齐,在 FLEURS 五语种平均提升 1.29 BLEU 且零样本平均提升 2.93 BLEU,代价是每语种需 10 小时平行语音并引入额外对齐损失与层调度。
论文研究极低资源 Warlpiri 语识别该从哪种高资源语言迁移,用声学嵌入相似度加句法音位语法类型相似度排序候选源并以 Whisper 迁移验证,最强证据是 Assamese 迁移后词错误率 32.6%、字错误率 12.3%,代价是结论依赖 1.5 小时特定语料与固定微调流程且零样本与微调下最优相似度指标不同。