模态重要性不是常数:用情绪查询门控刻画对话时间上的动态权重
论文把多模态情绪识别重构为对话上下文上的时变类别条件模态加权问题,用解耦的 GRU 时序融合对照证明上下文与门控的增益,并以扰动遮挡验证非平稳性,代价是依赖 IEMOCAP 六类封闭评测与较强的文本先验。
论文把多模态情绪识别重构为对话上下文上的时变类别条件模态加权问题,用解耦的 GRU 时序融合对照证明上下文与门控的增益,并以扰动遮挡验证非平稳性,代价是依赖 IEMOCAP 六类封闭评测与较强的文本先验。
针对标注少且情感线索分散在能量与时序中的问题,该文用信噪比控制的混合增强扩大能量分布、用帧级注意力挑选关键帧,并以四种损失联合优化,在四个数据集上报告了最高准确率,但代价是更多的超参数与训练分支。
针对只用少数公开模型训练导致在真实商用语音合成面前泛化不足的问题,论文用 30 个 API 约 230 小时伪造语音构造 MultiAPI Spoof 并提出在嵌套块间加滑动窗口局部注意力的 Nes2Net-LA,加入训练后把 MultiAPI 测试集等错误率从 7% 以上降到 1% 以下且在未见 API 上仍有效,代价是 API 溯源中未见类召回仍偏低。
针对自监督语音模型随机掩码会打断稀疏病理线索的问题,PAN-Mask 用六维声学描述子加端到端注意力估计帧级病理显著性并优先衰减高显著帧,在六个数据集上比随机掩码平均提高 13.82 个百分点,代价是增加轻量检测器与掩码超参数的联合优化复杂度。
针对带切分前端中循环时间与跨频带模块的串行依赖问题,论文用并行时间—频带混合器替代循环展开并用可学习的观察信号加回抑制伪影,在冻结 Whisper 下降低词错误率,代价是仍需两阶段训练且为话语级非流式混合。
针对纯音频讽刺识别任务,ProSarc 用全局情感基线与帧级韵律动态之间的可测不一致做分类,在 MUStARD++ 上报告 F1 为 75.3%,代价是依赖短句韵律对比与单一起点假设且跨语言证据有限。
针对单句反欺诈易过拟合伪造痕迹的问题,RAT 用同说话人真参考做交叉注意力的增强训练,在 ASVspoof 5 评估集上以 2.57% EER 和 0.074 minDCF 达到单模型最优,且推理时可直接用零向量代替参考,代价是需要配对采样和两阶段微调。
论文针对注意力编码器解码器在长编码上因排列不变性和边界线索消失而无法自回归解码的问题,用跨注意力绝对位置编码加长上下文训练加片段拼接加语义切分四改动,在 TED-LIUM3 上把长编码注意力解码从 295% 词错误率拉回到与切分编码持平的 4.5% 左右,代价是需要扩展左右声学上下文和联合 CTC 注意力解码来稳定结束符。
针对仅用麦克风检测鼾声、低通气和阻塞性呼吸暂停并估计 AHI 的问题,论文提出把多分辨率 ALE 的逐帧置信图注入 Transformer 注意力偏置与特征调制的 ACF-SED,在 APSAA 上报告 Event-F1 0.7105、Segment-F1 0.6930、PSDS 0.7633,代价是双流编码与门控交叉融合带来的结构与调参复杂度。
STSR 把超分放在 MDCT 域用分层谱注意力建长程谐波、用稀疏感知损失保瞬态、用只看高频的混合判别器加压,VCTK 平均 LSD 做到 0.79 且参数仅 66.2M,代价是仍依赖受控语料与重采样评估。
针对片段级标注无法给出帧级起止时间的问题,该文用保持时间维的多实例网络在片段监督下同时做片段分类和零样本帧切分,在 CASA 帧级 F1 达到 0.70 并在 SEP-28k-E 多标签片段任务上多类取得最优,代价是对长阻塞和 prolongation 仍不稳定且依赖 3 秒窗口。
针对单通道语音分离需要同时建模短时连续性与长时说话人一致性的问题,TF-MossFormer 在时频域交替做频率与时间建模并先局部后全局地融合注意力,在 WSJ0-2Mix 上报告 S/M/L 三档 22.6、24.0、24.4 dB 的 SI-SDRi,代价是 M/L 档计算量分别达到 283.4 与 425.0 G MACS/s。
论文用 1657 题的三任务受控基准诊断时间推理失败,行为与因果干预显示模型在有文本时欠用音频,而重分配音频注意力比单纯增大音频注意力更有效,但瓶颈层缩放仅将平均准确率从 55.9% 提升到 59.1% 且需逐架构调参。
针对开放词汇声音事件检测中仅用查询向量检索而缺乏语义理解的问题,该文提出语义锚点加双向注意力和查询增强,在 AudioSet-Strong 稀有类上报告 34.9 的 PSDSr 并在 DESED 零样本上报告 44.1 的 PSDS1,代价是引入 400 个锚向量与两层双向解码等额外结构。
针对固定对比解码在干净与强噪声间顾此失彼的问题,该工作用同一模型的全音视作专家、纯音频作弱者做减法,并以音频能量、音频熵和分布分歧三路门控逐词调节干预强度,在 LRS3 与 LRS2 多信噪比下同时改善干净与噪声词错误率,代价是每次解码需跑两次前向并增加约 136.4 ms 延迟。
针对 1 秒左右短语音说话人确认性能崩塌问题,论文在 WavLM 加 ECAPA-TDNN 基线上插入 TVAMSP 模块,用可学习的向量档案逐帧补足说话人信息,在 Vox1-O 上 1 秒 EER 做到 8.334%,代价是 3 秒长输入会被扰动而反而不如基线。
针对复杂噪声下声音事件检测性能骤降问题,论文提出用预测边界构造段内注意力掩码并做边界门控增强的 BG-CRNN,在 WildDESED 上从 10 dB 到 -5 dB 持续优于基线,代价是增加边界分支与多任务损失的训练复杂度。
该研究把模仿质量判断转化为 20 类名人识别的 Top-1 命中问题,用注意力增强的 ECAPA 嵌入融合韵律与频谱打分,在 MIMICz 上达到 75% Top-1 命中,代价是依赖小规模棚录数据与主观 MOS 定义的最优。
该研究把冻结语音编码器的多层向量序列变成两两内积的二维自注意力权重图再用可训练 VGG-19 做多标签口吃检测,在中英德零样本评估中保留单语 F1 的 77-98% 并在词重复上超过最优模型,但在阻塞延长等声学主导类型上落后约 10-23%。
针对增量会话中类别既增加又减少的少样本音频分类问题,该研究用可变类原型自适应网络逐会话修正全部原型并用伪类可变训练模拟增减过程,在 LS-100、NSynth-100 和 FSC-89 上的平均准确率报告显示优于所比基线,但类删除会话无新样本且旧嵌入靠高斯重构带来分布假设代价。