GAANet:用非对称时间尺度和全局语义引导做视听语音分离
针对双人混合语音加目标说话人唇部视频的分离任务,GAANet 让音频做逐级降采样而视频保持原时间分辨率,并用压缩到单时间点的全局令牌回头调制各尺度特征,在 LRS2 上达到 16.5 dB SI-SNRi,代价是 3.3M 参数和 19.8G MACs。
针对双人混合语音加目标说话人唇部视频的分离任务,GAANet 让音频做逐级降采样而视频保持原时间分辨率,并用压缩到单时间点的全局令牌回头调制各尺度特征,在 LRS2 上达到 16.5 dB SI-SNRi,代价是 3.3M 参数和 19.8G MACs。
论文针对肌电到语音合成中过度平滑与模型臃肿问题,提出融合局部注意力与状态空间的轻量编码器并用混沌损失约束时序动态,在英汉数据上以更少参数改善频谱重建与可懂度,但混沌计算只在训练时付出代价且主观差异未达显著水平。
Prism 针对 2K 联合生成中全注意力二次代价与冗余稀释问题,用宏区自适应块形状与混合块选择实现 2.5 倍训练加速并在 2K 评测上提升质量,但结论依赖自建 2K 数据与特定骨干和阈值。
针对无声谈话视频只能看到近似唇形而无法唯一确定音素的问题,论文用训练期真值文本加注意力融合与条件流匹配生成梅尔谱,并在 LRS2/LRS3 上以同步指标领先为证据,代价是推理仍依赖唇读预测文本的准确率。
论文针对来源混淆的视听幻觉,提出在问题状态上做来源条件转向的免训练方法 Secret,最强证据是在 CMM 和 AVHBench 上最高带来 18.0 和 7.1 个百分点的平均准确率提升,代价是需要多分支前向与逐模型选择转向层。
为把只支持至多双声道的 GMLv2 扩展到 5.1 声道,论文比较信号、预测、隐变量、特征四层融合,提出特征带组注意力 FGAtt 在感知主干前自适应融合空间组,在五个 5.1 测试集上总体 PCC/SCC 达 0.9063/0.8303,代价是需 5.1 主观数据训练轻量融合模块且冻结主干。
针对噪声与混响下固定频率加权和严格对位匹配不可靠的问题,QK-GCC 用双通道幅度相位频点表征的查询键局部匹配替代手工匹配,并在仿真混响与变信噪比条件下报告了优于 GCC-PHAT 与神经 GCC 变体的帧级精度,同时保持轻量双通道算子结构。
该研究用共享麦克风处理加掩蔽自注意力实现可变麦克风数的一阶 Ambisonics 矩阵编码,对比只看阵列传递函数的信号无关编码与同时看观测信号的信号相关编码,在 LibriSpeech 训练后于未见麦克风数、更多声源数和非语音源上仍优于静态最小二乘,而信号相关整体更强但白噪声下绝对重建仍然困难。
该文把每帧无序波达方向估计和说话人嵌入在输入端融合,用时间与声源两维自注意力输出按说话人排序的轨迹,在合成与 LOCATA 上以关联精度提升为主、检测与定位误差同步下降为证据,但只验证至多两说话人同时至多两活跃的短序列条件。
该研究用共享交叉注意力接口统一文本线索和注册语音两种目标指定方式,在 30000 个双说话人混合评估上以五字文本加注册语音达到总体字错率 8.80%,代价是单线索推理弱于并行融合且依赖 oracle 文本跨度。
针对脑电噪声下普通自注意力只能稀释无关特征的问题,AFA-Net 用时空卷积提局部特征再用差分注意力做全局减噪,在 KUL 2s 窗上报告 96.8% 准确率且仅用 0.03M 参数,代价是 DTU 上整体更低且部分窗口相对最强基线无显著优势。
该文针对脑电伪影污染融合表示的问题,用差分注意力抑制共享噪声并用门控对齐融合语音,在 PME4 和 EAV 上以留一被试协议取得多模态显著提升,但未直接对比已有脑电语音融合系统。
MotiGen 针对 NotaGen 等符号音乐大模型缺少动机级控制的问题,用移调不变的音程类别提示行加训练与推理一致的注意力偏置和先聚焦裁剪后全曲的两阶段课程来改造模型,在分层动机评估中显著高于无提示基线,代价是仅限单声部且依赖自动包含判定而非大规模人评。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
SAID 把四通道音频先转成按方向排布的全景特征再为每个活动声源预测一张带类别的声学图,在 DCASE2026 任务 3 轨道 A 评估集上报告 0.1080 宏观平均精度与 0.3962 宏观皮尔逊相关,代价是需要仿真预训练加真实微调与稀疏压缩才能满足存储限制。
针对开放词汇情绪推理中全局音频编码丢失话语内微韵律的问题,AcoustEmo 用时间戳同步滑动窗口加话语感知声学 Q-Former 提取片段级声学 token,在 EMER-Fine 上取得平均 67.55 分的最佳可运行结果,代价是依赖转写时间戳且需同时保留全局分支。
针对声音与文本矛盾时模型只信文本的语义主导问题,论文用对抗合成基准 ASPIRE 和解耦网络 ACR-Net 做诊断与分离,在极性冲突上把声学准确率做到 68.4%,代价是依赖合成语音和额外解耦超参数。
针对边听边翻需要在等够信息与尽快输出之间抉择的问题,该研究提出只看最近语音块注意力占比的 RFAP 和再加注意力变化率的 DCAP,使离线训练的语音到文本模型无需再训练即可流式运行,在 CVSS-C 三个语对上 RFAP 在中延迟段取得最高可比 BLEU 而 DCAP 保住极低延迟下的质量,但高延迟段优势收窄且 DCAP 随延迟增大而退化。
针对只有受试者级标签的周级颈表加速度日常嗓音监测,该研究用日级分布统计的 CatBoost 分支捕捉长期低效、用 12 秒窗口门控注意力多实例分支定位短时高强度事件,再经分位数校准的逻辑回归堆叠融合,在官方测试上报告 PVH 的 AUC 为 0.891 与 NPVH 的 AUC 为 0.861,而消融显示深度分支增益很小且 NPVH 存在明显欠置信。
针对朗读英语词级感知重音评分任务,听觉对比网络用三个声学线索的相邻词非线性对比加轻量聚合,在跨语料迁移上以 202 参数达到 r=0.412 追平冻结 wav2vec2 个基线,加文本后到 r=0.451,代价是依赖外部词边界且仅在单语料对上验证。