按小节估计难度、分段分配推理量的音频推理:SWEAR 解读
SWEAR 针对音频问答中不同推理阶段难度不一致的问题,用离线五维难度构造分段评分与压缩目标,先让模型在监督微调中学会自评难度,再用课程强化学习按自评调节各段长度,在 MMAU-test-mini 取得 73.5% 准确率和 197.13 词元、在 MMAR 取得 62.0% 准确率和 195.85 词元,相对 CoTA-SFT 减少约六成词元。
SWEAR 针对音频问答中不同推理阶段难度不一致的问题,用离线五维难度构造分段评分与压缩目标,先让模型在监督微调中学会自评难度,再用课程强化学习按自评调节各段长度,在 MMAU-test-mini 取得 73.5% 准确率和 197.13 词元、在 MMAR 取得 62.0% 准确率和 195.85 词元,相对 CoTA-SFT 减少约六成词元。
VoiceWeaver 用结构化标签前缀把情感、语气和声音事件拼进同一文本音频序列,再按情感到语气再到事件的顺序分阶段学习并用回放蒸馏保持旧能力,在中英文封闭标签测试中情感事件联合正确率达到约 70% 和 66%,代价是文本错误率高于外部大体量语音合成基线。
针对混响导致跨房间泛化下降的问题,PG-SELD 用相同声场景的自由场表示作参照对混响分支做特征级蒸馏与课程训练,在 STARSS23 真实录音上报告了一致改善,但混响表数值因证据绑定不合格本文不复述具体指标值。
针对多用户共享语音助手跨会话谁说了什么的问题,该研究用冻结说话人编码器加可训练轻量投影器生成说话人句柄输入冻结文本大模型,并在受控的 SpeakerBind 上以 70.40% 接近文本标签上限 71.88%,而破坏绑定后性能崩塌,代价是仍依赖转写级联与合成受控评测。
MotiGen 针对 NotaGen 等符号音乐大模型缺少动机级控制的问题,用移调不变的音程类别提示行加训练与推理一致的注意力偏置和先聚焦裁剪后全曲的两阶段课程来改造模型,在分层动机评估中显著高于无提示基线,代价是仅限单声部且依赖自动包含判定而非大规模人评。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
针对相似音色混合尾部误差大的问题,论文用在线说话人对难度矩阵加温度 Softmax 课程采样多练难对,在 Libri2Mix 上以初始温度 20 保住或小幅提升平均 SI-SDRi 并改善底部 30% 表现,代价是温度过低会损害平均分且首尾两段必须切回均匀采样。
针对语音情绪标注主观且噪声大的问题,论文用众包感知一致性与意图对齐定义由易到难的课程,在 CREMA-D 上用 LSTM 和 Transformer 验证了规则课程的精度与梯度更新效率,但随机划分课程无效且最难类的划分与代价依赖特定数据集。
针对非典型语音数据少且差异大的问题,该研究用变分低秩适配估计认知不确定性并合成音素难度分来指导过采样,在英语和德语数据上降低了个性化误差,但加深个性化会带来通用语音上的遗忘代价。
针对无监督声脸关联中的跨视频假负冲突与模态私有噪声干扰,GMOD 用全局相似图挖掘多正样本做对比学习并用正交解耦分离共享身份特征,在 VoxCeleb1 上报告验证 AUC 为 87.73%,代价是每轮需重建全局图与调控邻居数 k。
该研究在 MSP-Podcast 2.0 九类任务上对比硬共识与主次投票分布监督,报告分布目标把 Test1/Test2 的 JSD/KLD 系统性压低而 Macro-F1 差异较小,代价是 Other 类 F1 大幅下降且高熵区硬判决依然困难。
针对多语语音大模型中多任务混训导致语言区分度丢失的问题,PART 用先单语 ASR 逐层解冻再引入 S2TT 联合优化的三阶段策略,在 Fleurs 上把平均 WER 从 6.4 降到 4.7、在 CoVoST2 上平均提升 1.4 BLEU,代价是需要 810k 小时 ASR 加 434k 小时 S2TT 数据与 256 卡三轮训练。
针对塞浦路斯、克里特和麦西尼亚三种希腊方言的低资源转写问题,论文用标准希腊语翻译起步、混合转写与翻译过渡、最终收敛到方言转写的多任务课程,在三档 Whisper 规模上报告了优于直接微调的词错误率,同时保留了翻译正则与 donor 数据等代价与边界条件。
针对隐式身份泄漏导致的跨说话人泛化失败,论文用样本级余弦正交加批量级交叉协方差的双粒度几何约束配合课程式加权做说话人伪影分离,在 ASVspoof 2019 LA、2021 DF 和 In-the-Wild 上报告 1.35%、7.88% 和 21.58% 等错误率,代价是对解耦强度与训练节奏更敏感且最难攻击仍有残留误差。
针对口吃检测与转写长期分开建模导致互相约束丢失的问题,DysfluentNet 用冻结 WavLM-Large 共享编码器同时做六类多标签检测与含口吃标记转写,在 SEP-28k 上报告宏观 F1 为 72.4、在 FluencyBank 上报告 DI-WER 为 18.3,代价是仅覆盖英语且对齐窗与冻结策略仍有未验证空间。
针对对齐编码器顶层才突然形成对齐、在长语音上脆弱的问题,论文在中间层加细粒度对齐目标和 CTC 辅助损失,在 LibriSpeech 上把 5.0/7.8 降到 3.1/5.6,长语音增益最大,代价是多头预测器与权重调参。
该研究在 80 小时英语多口音与失语症基准上比较自监督预训练、多语 ASR 预训练、G2P 机器标注与人类专家标注四段课程,报告人类标注超过 20 至 30 小时后 5.3K 小时 G2P 不再显著增益而 ASR 预训练持续改善域外泛化,并以 40.8 小时人类微调实现平均加权音素特征错误率约 3.5%。
该研究针对 6 种南部班图语,用词错误率加声调统计的混合难度排序和门控声调适配器做课程学习,在 Swivuriso 训练并向 NCHLT 迁移,最好的 W2V-BERT 声调条件模型平均词错误率为 28.41%,但架构按语族分化且课程收益不稳定。
针对 CTC 早期只预测空白标记导致的抑制期问题,论文提出在 wav2vec 2.0 微调中从元音/浊辅音/清辅音三分类过渡到全音素 CTC,并在英法波兰三组数据上把音素错误率相对降低 9.5% 到 14.3%,代价是只验证了一种 S 形调度和一种粗粒度划分。
针对微调后朗读变好、自发语音变差的演播室偏置问题,论文用印地语和马拉雅拉姆语的四档复杂度基准证明早做大幅更新是主因约 12 个百分点,再用难到易的三阶段配方让 244M 模型在自发语音上追平 769M 常规模型,代价是必须在高可塑阶段先吃最难数据并依赖解码器集中适配。