先分波束再互斥:用目标与干扰波束的帧级交互做提取
针对远场多说话人加噪声下目标说话人提取,论文采用第一阶段视听引导波束形成得到目标与干扰波束、第二阶段双分支跨波束注意力做互斥抑制,在自采真实录制集平均词错误率从 28.40% 降到 20.38%,代价是两阶段级联与双分支结构更复杂。
针对远场多说话人加噪声下目标说话人提取,论文采用第一阶段视听引导波束形成得到目标与干扰波束、第二阶段双分支跨波束注意力做互斥抑制,在自采真实录制集平均词错误率从 28.40% 降到 20.38%,代价是两阶段级联与双分支结构更复杂。
针对音视频分路处理导致时间与语义错位的问题,该工作用帧级旋转位置编码加频率注入、跨帧块差异注意力与时间对齐跨模态注意力做对齐,在 AVSD 上报告 50.30% 准确率,但长视频描述性指标仍偏低且训练仅 1 轮。
论文以扰动归因显著图为参照检验交叉注意力,报告其与输入显著图仅中等相关且删除指标从 91.3 掉到 41.2,说明它是有用但只有一半解释力的轻量线索。
针对固定补齐截断在变长检测中丢失全局时长上下文的问题,该文把音频时长与片段偏移编码为时长嵌入并用以修正自注意力的偏置图,最强证据是相对位置编码依赖的 DASA 在多个跨域评测上优于标准自注意力,而帧独立与帧依赖两种变体则带来代价甚至退化。
针对解码器语音大模型在长难文本上重复与漏读的稳定性幻觉,论文用最优对齐分数约束对齐头并用教师注意力伪对齐做思维链引导,在困难集上报告降低约 2.1% 与 1.6% 词错误率而日常集自然度未下降。
FreeSonic 针对文本引导音频编辑中时间一致性与背景保留难以兼得的问题,在冻结的 TangoFlux 上用反演加去噪、文本音频注意力取掩码与分阶段解耦做局部修改,主实验报告在增加、删除、替换上取得更优的保真与语义对齐,但删除类任务仍依赖噪声注入强度等任务相关超参数。
针对分布式麦克风阵列中网格分辨率与计算量的矛盾,G2C-NET 用自适应成对特征聚合压制不可靠麦克风对、用高置信邻域加权求连续坐标,在 625 网格和同分辨率下把仿真 RMSE 降到 25.52 cm、实测降到 23.35 cm,代价是仍需调 λ 并依赖仿真预训练加混合微调。
针对舞蹈到音乐生成中节奏表示过粗与舞蹈音乐时间长度错位的问题,GACA-DiT 用多尺度时空节奏提取加上下文对齐查询的扩散变换器建模,在 AIST++ 与 TikTok 上取得最高的节拍与质量指标,代价是依赖姿态与预训练编解码器且演示链接当前不可用。
针对抑郁相关模式在语音中稀疏分布的问题,该研究用自适应跨模态门控对声学帧和文本词元重新加权,在 PDCD2025 上跨模态门控达到 81.25% 平均准确率并在 DAIC-WOZ 上达到 69.39% 的 F1,同时可视化显示门控偏向低能量语音和消极词汇,但预训练模型冻结与聚合口径等细节仍需按原文条件理解。
针对自注意力平方复杂度与语音帧间高冗余的矛盾,该研究用查询保持原分辨率、键和值做平均池化压缩的非对称注意力,并在 Zipformer 中按层设置不同步长,报告在 AISHELL-1 上最高降低 0.2% 字错率、在 LibriSpeech 上降低 0.3% 词错率,代价是干净语音小模型细节可能被平滑以及流式部署仍待验证。
针对大音频语言模型在中间层重文本轻音频的注意力失衡,MATA 在推理时只放大末位查询对音频键的原始注意力分,MMAU 上把 Qwen2.5-Omni 从 71.1% 提升到 73.6%,代价是增强强度与层位需手工选定且对极小混合子集仍有波动。
论文把多模态情绪识别重构为对话上下文上的时变类别条件模态加权问题,用解耦的 GRU 时序融合对照证明上下文与门控的增益,并以扰动遮挡验证非平稳性,代价是依赖 IEMOCAP 六类封闭评测与较强的文本先验。
针对标注少且情感线索分散在能量与时序中的问题,该文用信噪比控制的混合增强扩大能量分布、用帧级注意力挑选关键帧,并以四种损失联合优化,在四个数据集上报告了最高准确率,但代价是更多的超参数与训练分支。
针对只用少数公开模型训练导致在真实商用语音合成面前泛化不足的问题,论文用 30 个 API 约 230 小时伪造语音构造 MultiAPI Spoof 并提出在嵌套块间加滑动窗口局部注意力的 Nes2Net-LA,加入训练后把 MultiAPI 测试集等错误率从 7% 以上降到 1% 以下且在未见 API 上仍有效,代价是 API 溯源中未见类召回仍偏低。
针对自监督语音模型随机掩码会打断稀疏病理线索的问题,PAN-Mask 用六维声学描述子加端到端注意力估计帧级病理显著性并优先衰减高显著帧,在六个数据集上比随机掩码平均提高 13.82 个百分点,代价是增加轻量检测器与掩码超参数的联合优化复杂度。
针对带切分前端中循环时间与跨频带模块的串行依赖问题,论文用并行时间—频带混合器替代循环展开并用可学习的观察信号加回抑制伪影,在冻结 Whisper 下降低词错误率,代价是仍需两阶段训练且为话语级非流式混合。
针对纯音频讽刺识别任务,ProSarc 用全局情感基线与帧级韵律动态之间的可测不一致做分类,在 MUStARD++ 上报告 F1 为 75.3%,代价是依赖短句韵律对比与单一起点假设且跨语言证据有限。
针对单句反欺诈易过拟合伪造痕迹的问题,RAT 用同说话人真参考做交叉注意力的增强训练,在 ASVspoof 5 评估集上以 2.57% EER 和 0.074 minDCF 达到单模型最优,且推理时可直接用零向量代替参考,代价是需要配对采样和两阶段微调。
论文针对注意力编码器解码器在长编码上因排列不变性和边界线索消失而无法自回归解码的问题,用跨注意力绝对位置编码加长上下文训练加片段拼接加语义切分四改动,在 TED-LIUM3 上把长编码注意力解码从 295% 词错误率拉回到与切分编码持平的 4.5% 左右,代价是需要扩展左右声学上下文和联合 CTC 注意力解码来稳定结束符。
针对仅用麦克风检测鼾声、低通气和阻塞性呼吸暂停并估计 AHI 的问题,论文提出把多分辨率 ALE 的逐帧置信图注入 Transformer 注意力偏置与特征调制的 ACF-SED,在 APSAA 上报告 Event-F1 0.7105、Segment-F1 0.6930、PSDS 0.7633,代价是双流编码与门控交叉融合带来的结构与调参复杂度。