直接听原声做分类又写依据:双头语音大模型如何兼顾准确与可核查
该研究用直接处理原始语音的双头语音大模型同时做认知状态分类与自然语言解释,在六个数据集任务条件下取得最高平均准确率并能迁移到未见任务,但解释监督来自模型生成且临床标签为量表阈值定义,解释只能作辅助核查。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
该研究用直接处理原始语音的双头语音大模型同时做认知状态分类与自然语言解释,在六个数据集任务条件下取得最高平均准确率并能迁移到未见任务,但解释监督来自模型生成且临床标签为量表阈值定义,解释只能作辅助核查。
在英法双语 HuBERT 等总时长对照下,增强语言判别把连续音素 ABX 从 11.6% 降到 10.4%、把 sWUGGY 从 52.1% 提到 56.7%、把 ProsAudit 词汇子任务从 68.9% 提到 72.9%,但最终离散单元无改善且过晚干预会增加语言分隔。
针对长时多方全双工对话缺数据缺评测的问题,论文用两阶段脚本合成加 IndexTTS2 渲染构建 57.6k 小时中英并行流语料并以两阶段微调 Moshi,在 MultiTalkBench 上最终分从 4.66 升到 13.15 但仍远低于人类 68.74。
论文把声道建成可微声学管道,用频域传输线求解与可微湍流门控合成元音辅音,再用神经场参数化做梯度反演,并在自监督声码与无配对语音到 MRI 视频上验证,但逆解不唯一且鼻腔未建模。
针对窄带语音缺失高频且稀疏瞬态难以恢复的问题,UDSS-BWE 用双流 Swin-1D 格型生成器建模幅度和相位,并用五个决策科学与不确定性判别器做尾部敏感监督,在 VCTK 与 MLS 法语上以 18.5M 对 72M 的参数量取得更优感知质量,代价是训练期判别分支带来的额外开销。
论文以语种识别为可控分类任务,研究仅由声学损坏引起的域偏移,构建 CWWS 小库并用 DomainBed 比较 ERM、MMD、DANN,发现域内性能不能预测跨域鲁棒性且显式域不变约束未稳定超越 ERM,并在 MMS-LID-126 大系统上验证了多样声学暴露主导鲁棒性但转移不对称、未知严重失真仍困难。
论文针对 Whisper 在无语音音频上编造句子的问题,用同一批幻觉短语的合成真人朗读做正例来配对抑制训练,在 33 组配对微调中把野外无语音词发射率中位数降低约 0.118 并把短语召回中位数提高约 0.186,最佳点把静音幻觉从 61.9% 降到 2.4%,代价是 FLEURS 多语言误差仍高于基线。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
该研究用自适应能量包络检测朗读中的浊音 burst 与停顿,把六个跨语言一致差异的时间特征按语言匹配对照标准化平均为 CTSI,在 89 例 HD 与 82 例对照中与 cUHDRS 等临床分数强相关,最高为 SDMT 的 r=-0.77,代价是仅用时长信息且未做纵向验证。
针对已很强的德英多语识别基座,论文用两步合成数据加贝叶斯低秩适配证明瓶颈在知识整合而非数据复杂度,以保持单语为代价换来语码切换词错误相对下降 32.87% 而标准微调则大幅退化。
针对非洲语言在朗读基准上被低估的部署误差问题,AfriVox-v2 用 14 种语言的自发野外对话加 10 个应用领域标注来重测现代模型,最强证据是区域优化的 Sahara-v2 在 AfriVox-v2 平均词错误率 20.49 仍显著低于通用大模型,但数字 20.32% 与命名实体 23.11% 的高误差说明关键信息转写仍不可靠。
该工作把同时传译拆成因果数据构造、自适应等待策略、解耦词义与声音的双流架构和只罚可避免延迟的指标,用约 2.7K 小时每语言对的数据在西德法转英上以可运行的自适应策略超越固定切块并降低延迟,但语音端质量仍依赖更大合成与翻译模型补强。
ARTIST 把多语言语音到语音翻译转成先预测目标端发音特征离散单元再合成波形的两段任务,用冻结的 20 码本向量量化自编码器做跨语言瓶颈并配合编码器中间 CTC 与卷积增强差分注意力解码器,在仅用短句训练却测长句的条件下以 166M 参数在 BLEU、COMET 和 chrF 上超过 1.2B 参数基线,代价是仍依赖发音特征提取器与两阶段预训练冻结的设计。
针对四对低资源语音到英语翻译的统一共享负迁移问题,论文用聚类分组、自交叉梯度相似度定共享比与联合 SVD 加正则 CCA 定能量分配来只改造编码器第 11 层 FFN2,在统一微调基线上取得最高 14.4% 相对 BLEU 增益,代价是只验证了单层单模型且部分语言对仍有回退。
针对多语种语音识别中共享解码器互相干扰的问题,BELLA 把语音编码器加冻结大语言模型解码器的桥接对齐放在下层、把路由器加混合专家低秩适配的识别放在上层,在五个 CoVoST 2 语种上用词错误率验证收益,同时保留了小语种与高资源语种表现不一致等代价。
该工作用 47.88M 参数的双向 Mamba2 编码器在约 250 小时 67 语言无标注语音上做掩码离散单元预测,在官方评测以说话人聚类 ARI 0.735 超过四个基线,但语言识别 macro-F1 0.073 与字符错误率 0.870 仍明显落后,且后期检查点出现音素泛化退化。
针对神经音频编解码器生成的老年伪造语音检测任务,论文构建英汉老年编解码器伪造数据集并证明旧基准模型跨年龄泛化严重退化,提出以詹森香农散度对齐语言绑定与图像绑定表示的融合框架 BONSAI,以平均等错误率 1.66% 建立新基准,但代价是依赖域内老年训练数据与双基础模型推理成本。
针对轮次切换评测只看说没说的问题,CoDeTT 用 4 动作加 14 意图的分层决策与两阶段漏斗评测揭示动作正确但理由错误的幸运猜测,其代价是合成主导的数据构造与历史过长时的语义过承诺。
该工作用统一流程采集博多语等四语 146 小时自发独白,以声学分布与说话人无关语种识别验证可分性,最强融合特征达 92.95% 准确率,代价是性别不平衡与无转写限制。
在共享多语数据上重算 k-means 伪标签并恢复掩码预测可以改善内容任务但方差大,而说话人日志分离能力在离散单元模型中系统性下降,对比模型则未出现该退化。