PACT:把说话方式转成目标语言能自然说出来的样子
PACT 把语音到语音翻译分成语义文本、说话人音色和语用表达三路,把源语音的语用线索映射到目标语言表达空间并做成连续提示去引导冻结的合成器,在西班牙语英语双向 TOPI 评测里内容、音色和表达同时更好,但结论只在 30 对重演条件下成立。
PACT 把语音到语音翻译分成语义文本、说话人音色和语用表达三路,把源语音的语用线索映射到目标语言表达空间并做成连续提示去引导冻结的合成器,在西班牙语英语双向 TOPI 评测里内容、音色和表达同时更好,但结论只在 30 对重演条件下成立。
论文针对开放词汇音视事件定位中手工模板敏感与可学习提示偏向已见类的问题,用跨音频视觉的连续提示调优加语义拓扑一致性正则保持类间相似结构,在 OV-AVEBench 上已见平均 71.2% 与未见平均 61.7% 的条件下取得提升,代价是仍依赖冻结编码器与合成类别代理。
针对 7 个通用声音类别,用自动化数据引擎清洗训练数据并用两阶段方法优化类级别 CLAP 控制信号,在 AudioSep 基线上提升 SDRi 与 SI-SDRi 并在 17 人主观偏好中占优,但增益依赖于数据筛选与控制信号两步配合且商业模型对比不具备客观指标可比性。
针对音频语言模型怕噪声、怕遮挡、怕注入文本误导的问题,AnchorPrompt 冻结模型只训练解码器输入处的 8 个软提示向量,用干净输入的教师答案做自蒸馏目标并在证据不足时学拒答,报告显示九组干净准确率中有六组提升且重度破坏下幻觉回答大幅下降,代价是拒答目标的零样本外推仍有两组混响一致性下降。
针对新伪造机制不断出现而真实语音来源已知的更新场景,论文提出按生成机制组织任务的 RAMI 协议与非对称提示方法 RF-Prompt,在 RAMI 上取得 10.110% 平均 EER 与 10.370% 混合 EER,但离线联合训练仍更优且部分机制上基线更低。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
针对文本提示主导导致音频编码器适配不足的问题,论文提出同时优化音频专用、文本专用与共享提示的 MALP,在 11 个数据集 16 样本设置下报告平均准确率 78.35%,代价是需要为每个新任务单独优化三组轻量提示参数。
针对生成器持续演化导致判别边界失效的问题,DASM 只用真实音乐学习记忆库流形再用原始与偏差双分支判别,在 SONICS 上报告 0.13% EER、99.89% 准确率、99.98% AUC,代价是跨域到 FakeMusicCaps 时 EER 仍升至 25.59% 且需两阶段训练与 MERT 提示调优。
针对歌剧等长时叙事音乐解说易幻觉、配对数据稀缺的问题,MAC 用免训练的多尺度声学与语义证据加分层上下文约束现成指令大模型,在 MQAD 取得最好成绩并在歌剧与全曲上提升情感与艺术对齐,但语义相似度与人类稀有线索覆盖仍有代价。
在 Qwen3-Omni 30B 与 1000 题 MMAR 音频推理任务上,结构化提示以 72.6% 准确率比基线提高 5.5 个百分点,而需要大量候选生成与迭代微调的 ReST 与自动优化的 MIPROv2 反而低于基线,代价是提示只重组推理流程而不增加可迁移的权重知识。
针对大音频语言模型能听懂内容却卡不准事件起止的问题,论文提出把时间戳向量交错插入音频特征的音频侧时间提示并在监督微调后加一组强化后训练,最强证据是 Qwen2.5-Omni 音频定位 R@0.9 从 34.1 到 39.8、密集字幕 Eb-F1 从 35.2 到 40.7,代价是 750 个时间词、交错输入结构和额外的分组采样奖励计算。
论文把逐字与意图两种转写策略显式为解码器前缀标签并配对监督,用监督交叉注意力做词级对齐、用转写提示做补全,在英语训练零样本德语上把不流畅事件 F1 从约 10% 提升到 90% 以上,代价是需要成对转写与词边界监督及两阶段微调。
针对二语口语语法纠错中是否应先删除不流利成分的问题,论文用犹豫标记注入加犹豫类型嵌入保留三类犹豫信息,在 Speak & Improve Corpus 2025 人工转写对照上以 F0.5 0.4790 超过规则删除基线与人工流利基线,而犹豫附近误差增益更大且需依赖可靠的犹豫标注。
针对音频语言模型中提示学习提升基类却损伤新类的问题,ZEBRA 把零样本对数与提示学习对数加权融合再做自熵正则,在 11 个数据集平均上把新类准确率从低于零样本拉回到零样本之上,同时基类保持在 80% 左右,代价仅是训练测试时间增加数秒且不增加可学习参数。
针对对比式音频语言模型少样本分类中只调文本侧而音频表示冻结的问题,该文提出在音频编码器早期三处做共享仿射调制的即插即用模块 ASPL,在 11 个数据集 16 样本平均上相对 CoOp、CoCoOp、PALM 带来约 1 个百分点以上增益,而新增参数仅 320 与 704 量级。
针对标注老年语音稀缺且直接解码伪标签不可靠的问题,该工作用置信度排序做课程式增量伪标签并结合说话人提示自适应,在 Pitt 与 JCCOCC MoCA 上相对半监督基线取得 1.45% 与 2.27% 绝对误差下降,但低置信度段仍保留较高误差且依赖说话人标识已知。
针对老年语音说话人差异大且测试时无目标说话人数据的难题,该文用历史语音加已解码文本经双向跨模态融合与 Q-Former 压缩生成在线说话人提示,在两套老年语料上相对说话人无关基线取得 0.61% 和 1.22% 绝对错误率下降,并以最高 9.83 倍实时率加速替代离线批量适配。
该研究把固定零向量换成每个条件各学一个无条件嵌入,并在相同训练步数与数据下比较固定与可学习两种做法,最强证据是可学习基线在大引导权重下更稳定,代价是说话人保真提升时绝对质量分可能下降且需要分别调节两个权重。
针对先判场景再判是否欺诈、欺诈才判类型的闭集链式任务,FRAUDSkill 冻结音频语言模型、只优化外部技能程序并用投影加归一加多路选择做结构化部署,在 TeleAntiFraud 上报告 Macro-F1 为 73.50% 且无效输出降至 1.94%,代价是保留多程序与选择器并依赖验证集拟合。
共收录 160 篇 nime-2026 会议论文的 Reader 深度解读