Mambaformer: State-Space Augmented Self-Attention with Downup Sampling for Monaural Speech Enhancement
📄 Mambaformer: State-Space Augmented Self-Attention with Downup Sampling for Monaural Speech Enhancement #语音增强 #状态空间模型 #Transformer #双路径模型 #时频分析 ✅ 7.0/10 | 前25% | #语音增强 | #状态空间模型 | #Transformer #双路径模型 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：未说明 通讯作者：未说明 作者列表：Shengkui Zhao, Haoxu Wang, Zexu Pan, Yiheng Jiang, Biao Tian, Bin Ma, Xiangang Li (阿里巴巴通义实验室，新加坡) 💡 毒舌点评 这篇论文在工程集成上确实下足了功夫，将Mamba、Conformer、ZipFormer等多种组件巧妙地缝合在一个双路径框架里，最终在标准测试集上刷新了指标。然而，其核心创新更偏向于“有效的组合技”而非“范式革新”，更像是对现有技术模块进行了一次成功的超参调优和工程排列组合，略显缺乏令人眼前一亮的原创思想火花。 📌 核心摘要 这篇论文要解决的是单通道语音增强任务中，如何更有效地结合Transformer的全局建模能力和状态空间模型（SSM）的高效序列处理能力的问题。 方法核心是提出了MambaFormer模型，它在一个双路径（时间-频率）框架内，将Mamba模块嵌入到Transformer的自注意力机制中，并辅以Conformer卷积和对称的降采样/上采样结构。 与已有方法相比，新在三个方面：1）首次在SE任务中将Mamba与自注意力深度融合，而非简单堆叠；2）设计了双层自注意力结构并共享注意力权重以提升效率；3）采用了可学习的下采样/上采样模块来平衡计算效率与表征保真度。 主要实验结果：在VoiceBank+DEMAND测试集上，其MambaFormer (M)模型取得了3.69的PESQ得分；在DNS Challenge 2020测试集上取得了3.82的PESQ得分，均报告为新的最先进水平。关键对比数据见下表： 模型 VoiceBank+DEMAND PESQ DNS2020 PESQ 参数量(M) ZipEnhancer (S) 3.63 3.69 2.04 MambaFormer (S) 3.66 3.75 2.14 MambaFormer (M) 3.69 3.82 9.04 实际意义在于验证了SSM与Transformer协同工作的有效性，为语音增强模型设计提供了新的模块化组合思路。主要局限性在于：1）创新更多是组合与适配，原创性有限；2）论文未提供代码和模型权重，复现性未验证；3）虽然提出了新的SOTA，但与基线的绝对提升幅度并不巨大。 ...