Mamba

📄 ALMA-Chor: Leveraging Audio-Lyric Alignment with Mamba for Chorus Detection #音乐信息检索 #多模态模型 #对比学习 #Mamba #端到端 ✅ 7.0/10 | 前25% | #音乐信息检索 | #多模态模型 | #对比学习 #Mamba 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Ruixi Bao（清华大学电子工程系， TeleAI 研究院） 通讯作者：Xiao-Lei Zhang†（TeleAI 研究院）， Xuelong Li†（TeleAI 研究院） 作者列表：Ruixi Bao（清华大学电子工程系， TeleAI 研究院）， Hao Ma（TeleAI 研究院）， Shansong Liu†（TeleAI 研究院）， Cheng Gong（TeleAI 研究院）， Chi Zhang（TeleAI 研究院）， Xiao-Lei Zhang†（TeleAI 研究院）， Wei-Qiang Zhang（清华大学电子工程系）， Xuelong Li†（TeleAI 研究院） 💡 毒舌点评 论文巧妙地将音乐基础模型MERT与前沿的Mamba2架构结合用于长序列副歌检测，并创新性地融入歌词模态信息，在自有数据集上取得了亮眼的性能提升，展现了多模态建模的有效性。然而，其核心验证建立在一个未公开的“内部数据集”上，这使得“超越SOTA”的声明大打折扣，也让其他研究者难以复现和公平评判。 ...

📄 CMSA-Mamba: Hierarchical State Space Modeling for Audio-Based Depression Detection #语音生物标志物 #Mamba #多尺度分析 #医疗健康 ✅ 7.0/10 | 前25% | #语音生物标志物 | #模型/架构 | #Mamba #多尺度分析 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Lokesh Kumar（IIT Dharwad， Karnataka， India； 论文注明“formerly with”，现为Unaffiliated， India） 通讯作者：未说明（论文未明确标注） 作者列表：Lokesh Kumar（未挂靠机构， India）、Tonmoy Rajkhowa（IIT (BHU) Varanasi， India）、Sanjeev Sharma（IIT (BHU) Varanasi， India） 💡 毒舌点评 亮点：这篇论文成功地将多尺度Mamba这一前沿视觉状态空间模型“跨界”应用于语音抑郁症检测，并在其上集成CoPE，取得了显著的性能提升和较低的计算开销（13M参数， 33ms推理），展示了将高效序列模型迁移到特定音频任务的有效性。短板：核心创新点（多尺度Mamba + CoPE）本身并非原创，而是对已有工作的组合与领域适配；且论文完全未开源代码和模型，对于一个声称达到SOTA的“新方法”而言，严重削弱了其可验证性和社区复现价值，使得“最佳性能”的说法需要打个问号。 📌 核心摘要 这篇论文旨在解决基于语音的自动抑郁症检测任务中现有方法难以同时建模多层次时序特征的问题。其核心方法是提出了CMSA-Mamba，一种新的音频处理架构，它将多尺度Mamba状态空间模型与上下文位置编码相结合，能够更有效地捕捉语音频谱图中的局部和全局时序模式。与已有的固定尺度模型相比，其创新在于首次为语音抑郁症检测引入了层次化的多尺度状态空间建模框架，并在多尺度扫描模块中集成了能够根据上下文自适应调整位置信息的CoPE机制。主要实验结果表明，CMSA-Mamba在两个标准抑郁症检测数据集（DAIC-WoZ和EATD-Corpus）上均取得了当前最优的性能，F1分数分别达到0.84和0.91，显著超越了包括AST-ViT和Audio Mamba在内的多种基线模型。该工作为心理健康评估提供了更准确、高效的语音分析工具，具有潜在的临床应用价值。主要局限性在于所用数据集规模相对较小，模型仅处理单一音频模态，且未提供开源代码限制了其可复现性。 🏗️ 模型架构 论文提出的CMSA-Mamba模型（架构如图1所示）是一个端到端的分类网络，输入为原始语音信号，输出为抑郁/非抑郁的分类结果。其完整流程如下： ...

📄 Exploring Resolution-Wise Shared Attention in Hybrid Mamba-U-Nets for Improved Cross-Corpus Speech Enhancement #语音增强 #混合模型 #Mamba #跨语料库 🔥 8.0/10 | 前25% | #语音增强 | #混合模型 | #Mamba #跨语料库 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.7 | 置信度 高 👥 作者与机构 第一作者：Nikolai Lund Kühne（奥尔堡大学电子系） 通讯作者：未明确说明（推测为Jan Østergaard，同一单位） 作者列表：Nikolai Lund Kühne（奥尔堡大学电子系）、Jesper Jensen（奥尔堡大学电子系；Oticon A/S）、Jan Østergaard（奥尔堡大学电子系）、Zheng-Hua Tan（奥尔堡大学电子系） 💡 毒舌点评 亮点：提出的RWSA机制构思巧妙，通过在U-Net的不同分辨率层间共享注意力参数，不仅减少了计算开销，还显著提升了模型在未见数据集（跨语料库）上的泛化能力，这是当前语音增强领域的一个关键痛点。短板：模型架构相对复杂，涉及Mamba、注意力机制、U-Net以及多种损失函数，虽然提供了代码，但其核心贡献“分辨率共享注意力”更像是一种工程优化，而非根本性的理论突破；此外，论文虽然声称SOTA，但与部分基线模型的参数量和计算量差距并不总是特别巨大，说服力可进一步增强。 📌 核心摘要 要解决什么问题：现有语音增强模型在训练集以外的语料（跨语料库）上性能下降显著，尤其是基于序列模型（如LSTM， Mamba）的方法。本文旨在提升模型的跨语料库泛化能力。 方法核心是什么：提出了RWSA-MambaUNet模型。其核心是分辨率共享注意力（RWSA） 机制，即在U-Net结构的下采样和上采样路径中，将对应时间/频率分辨率的MambAttention块内的多头注意力（MHA）模块参数共享。模型结合了Mamba在时频维度建模的线性复杂度优势与注意力机制的全局关系捕捉能力。 与已有方法相比新在哪里：首次将RWSA引入基于Mamba的U-Net架构用于语音增强。通过层间共享注意力参数，模型能在不同分辨率上对齐全局时频依赖关系，这被认为对跨语料库泛化至关重要。与先前MambAttention模型相比，本文模型更轻量且泛化能力更强。 主要实验结果如何：在两个域外测试集上达到SOTA。例如，在VB-DemandEx训练的模型中，最小的RWSA-MambaUNet-XS（1.02M参数）在DNS 2020测试集上PESQ达2.940， SSNR达9.421， ESTOI达0.922；在EARS-WHAM v2测试集上SSNR达3.106， ESTOI达0.729， SI-SDR达8.541，超越了所有基线模型（如MambAttention、MP-SENet），同时参数量和FLOPs大幅减少。消融实验证实了RWSA和MHA模块对性能的贡献。 实际意义是什么：该工作为构建高效、强泛化能力的语音增强系统提供了新思路，特别是在处理训练数据未覆盖的新说话人、新噪声场景时具有潜在应用价值（如助听器、移动通信）。 主要局限性是什么：论文未提及模型在含混响数据或真实复杂环境下的性能；SI-SDR指标在部分测试集上不如基线，作者归因于参考信号特性，但这可能影响其在需要波形精确匹配场景下的适用性；此外，实验设置（如STFT参数）与某些近期工作有差异，可能影响公平比较。 🏗️ 模型架构 图1：RWSA-MambaUNet整体架构示意图。展示了从带噪语音输入到增强语音输出的完整流程。 ...

📄 SpatialNet-Echo: Real-Time Acoustic Echo Cancellation via Integrated Narrow-Band and Cross-Band Processing #语音增强 #声学回声消除 #端到端 #流式处理 #Mamba ✅ 7.5/10 | 前25% | #语音增强 | #自回归模型 | #声学回声消除 #端到端 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Ziyin Chen（浙江大学，杭州，中国） 通讯作者：Xiaofei Li（西湖大学 & 西湖高等研究院，杭州，中国） 作者列表：Ziyin Chen（浙江大学），Xiaofei Li（西湖大学 & 西湖高等研究院） 💡 毒舌点评 论文巧妙地将Mamba架构引入AEC的窄带处理，解决了传统RNN和Transformer的长序列建模效率问题，是一个有价值的工程实践。但其高达28.31G的MACs和1.71M参数的“标准版”模型，离真正的“实时”轻量化部署似乎还有距离，论文中“轻量级变体”的性能也仅比对比方法略好，且未公开代码，让“可部署性”的宣称打了折扣。 📌 核心摘要 这篇论文旨在解决实时通信中声学回声消除（AEC）的难题，特别是传统窄带处理方法的局限性和信号的非线性失真。论文提出了SpatialNet-Echo，这是首个集成窄带时间建模与跨带谱一致性的端到端实时AEC模型。其核心方法是结合时间-频率卷积块（TFCB）捕捉联合谱时特征、挤压-激励（SE）块进行动态通道加权，以及基于Mamba的窄带处理器进行高效的长上下文建模。同时，采用了一个结合SI-SNR、幅度谱和实/虚部损失的相位感知混合损失函数。 与已有方法相比，该模型的创新点在于首次将上述组件统一到一个针对AEC设计的端到端架构中，强调窄带与跨带处理的协同作用。在ICASSP 2023 AEC挑战赛盲测集上，SpatialNet-Echo在远端单讲（ST-FE）场景下取得了SOTA的4.81 EMOS，在双讲（DT）场景下取得了竞争性的4.59 EMOS和4.05 DMOS，优于或持平于其他四个SOTA方法。 该工作的实际意义在于推动了基于深度学习的端到端AEC模型的发展，并验证了Mamba在该任务中的有效性。主要的局限性在于其标准模型的计算复杂度（28.31G MACs）仍然较高，且论文未提供开源代码和模型，限制了其复现性和直接应用。 表1：与SOTA方法在ICASSP 2023 AEC挑战赛盲测集上的性能对比 ...

📄 TokenSE: a Mamba-based discrete token speech enhancement framework for cochlear implants #语音增强 #模型类 #Mamba #人工耳蜗 ✅ 评分：7.5/10 | arxiv 👥 作者与机构 第一作者：Hsin-Tien Chiang（根据论文格式推断为第一作者，机构信息需从全文获取，摘要中未明确） 通讯作者：John H. L. Hansen（根据论文格式推断为通讯作者，机构信息需从全文获取，摘要中未明确） 其他作者：无（根据摘要仅列出两位作者） 机构信息：论文摘要中未提供作者所属机构。根据arXiv论文的常见信息，作者可能来自某大学或研究机构的语音与信号处理实验室，但无法从摘要中确认。 💡 毒舌点评 亮点是把最近大火的Mamba模型引入到语音增强领域，并且非常务实地瞄准了人工耳蜗用户这一真实且迫切的场景，还做了主观听音测试，这比单纯刷榜更有意义。槽点是，摘要里对模型细节和实验数据的描述过于“简练”，让人怀疑是不是把详细内容都藏在正文里了，而且“离散令牌”这个概念在摘要里没有展开，有点让人摸不着头脑。 📌 核心摘要 本文针对人工耳蜗用户在噪声和混响环境下语音理解困难的问题，提出了一种名为TokenSE的语音增强框架。该框架的核心创新在于将语音增强任务从传统的时频域或波形域转换到神经音频编解码器的离散令牌空间中进行。具体而言，它使用一个基于Mamba（一种具有线性计算复杂度的状态空间模型）的模型，直接从退化语音对应的受损令牌序列中，预测出最可能的干净语音令牌序列。实验表明，该方法在域内和域外数据集上的客观指标均优于基线方法。更重要的是，针对人工耳蜗用户的主观听力测试证实，在恶劣的噪声和混响环境下，该方法能显著提升语音可懂度。其主要贡献在于将高效的Mamba架构与离散令牌表示相结合，为资源受限且对延迟敏感的人工耳蜗等助听设备提供了一种有前景的实时增强方案。 🏗️ 模型架构 根据摘要描述，TokenSE的整体架构流程如下： 输入：一段退化（含噪声、混响）的语音波形。 编码（离散化）：首先，使用一个预训练的神经音频编解码器（如SoundStream、EnCodec等）的编码器，将连续的语音波形转换为离散的令牌（token）序列。这一步将原始音频压缩并映射到一个紧凑的离散表示空间。 核心增强模型（Mamba）：将上一步得到的受损令牌序列输入到一个基于Mamba的模型中。该模型的核心是一个选择性状态空间模型（S6），其关键机制是输入依赖的选择：模型会根据当前输入的令牌动态调整其内部状态的更新规则（例如，决定“记忆”哪些信息、“忘记”哪些信息）。这种机制使得Mamba能够以线性计算复杂度处理长序列，避免了Transformer自注意力机制的二次方复杂度瓶颈。模型的目标是学习从受损令牌序列到干净令牌序列的映射。 输出（解码）：将Mamba模型预测出的干净令牌序列，送入同一个预训练神经音频编解码器的解码器中，重建出增强后的语音波形。 关键设计选择理由： 离散令牌空间：相比直接在波形或频谱上操作，在离散令牌空间进行增强有几个潜在优势：(1) 与下游语音编解码、传输任务更易结合；(2) 可能简化增强任务，因为离散表示已剥离了部分无关的声学细节；(3) 便于利用在大规模音频数据上预训练的编解码器所学到的通用表示。 Mamba替代Transformer：对于语音这类长序列数据，Mamba的线性复杂度在训练和推理效率上具有理论优势，尤其适合对实时性和计算功耗有严格要求的人工耳蜗或助听器应用场景。 💡 核心创新点 在离散音频令牌空间进行语音增强：这是最核心的范式创新。它将语音增强任务重新定义为“受损离散序列到干净离散序列”的翻译或校正问题，而非传统的信号重建问题。 引入Mamba架构处理语音增强任务：首次将Mamba（选择性状态空间模型）应用于语音增强领域，利用其线性复杂度和强大的序列建模能力，作为Transformer的高效替代方案。 针对人工耳蜗应用的端到端优化与验证：框架设计考虑了人工耳蜗处理链路的特点（使用离散表示），并且通过主观听力实验直接在CI用户群体上验证了其提升语音可懂度的实际效果，这比单纯的客观指标更具说服力。 （潜在创新）跨模态/跨表示学习：如果编解码器和Mamba增强模型是分开训练或联合优化的，那么整个框架可能涉及到在连续波形、离散令牌以及增强目标之间的跨表示学习，这是一个有趣的学习范式。 🔬 细节详述 注意：以下大部分技术细节在提供的摘要中并未给出，需从论文正文中获取。此处基于常见实践和摘要暗示进行合理推测，并明确标注“缺失”。 训练数据：摘要中提及在“in-domain”和“out-of-domain”数据集上进行评估。具体数据集名称、规模、噪声类型、混响条件等信息缺失。推测可能使用如DNS Challenge、WHAM!、或自建的人工耳蜗模拟数据集。 损失函数：缺失。可能包括：1）交叉熵损失：用于衡量预测的令牌索引与干净语音真实令牌索引之间的差异；2）重建损失（如L1/L2 Loss）：在波形或特征层面约束增强后语音与干净语音的相似性；3）可能结合了感知损失或对抗损失以提升语音质量。 训练策略：缺失。关键超参数如学习率、batch size、优化器（如AdamW）、训练步数、Mamba模型的具体层数、隐藏状态维度、以及编解码器与增强模型是联合训练还是分阶段训练等，均未提供。 关键超参数：缺失。Mamba模型的状态维度（D）、扩展状态空间维度（N）、以及卷积核大小等。 训练硬件：缺失。 推理细节：缺失。由于是离散令牌预测，可能采用贪婪搜索或束搜索来生成令牌序列。 数据增强/正则化：缺失。可能使用了语音增强中常见的数据增强方法，如随机添加噪声、混响、速度扰动等。 📊 实验结果 注意：以下所有具体数值均未在摘要中提供，需从论文正文的表格和图表中获取。此处仅描述框架。 ...

语音/音频论文速递 2026-04-19 共分析 42 篇论文 ⚡ 今日概览 📥 抓取 42 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音频理解 12篇 ████████████ #基准测试 10篇 ██████████ #音频大模型 9篇 █████████ #多模态模型 7篇 ███████ #信号处理 6篇 ██████ #强化学习 6篇 ██████ #自监督学习 6篇 ██████ #大语言模型 5篇 █████ 📊 论文评分排行榜（42 篇，按分数降序） 排名 论文 评分 🥇 ControlFoley: Unified and Controllable Video-to-Audio G 9.2分 🥈 ClariCodec: Optimising Neural Speech Codes for 200bps C 9.0分 🥉 X-VC: Zero-shot Streaming Voice Conversion in Codec Spa 9.0分 4 Why Your Tokenizer Fails in Information Fusion: A Timin 9.0分 5 Hijacking Large Audio-Language Models via Context-Agnos 8.8分 6 UniPASE: A Generative Model for Universal Speech Enhanc 8.5分 7 VoxSafeBench: Not Just What Is Said, but Who, How, and 8.5分 8 Who is Speaking or Who is Depressed? A Controlled Study 8.5分 9 ProSDD: Learning Prosodic Representations for Speech De 8.5分 10 MoshiRAG: Asynchronous Knowledge Retrieval for Full-Dup 8.5分 11 Four Decades of Digital Waveguides 8.5分 12 Audio-Cogito: Towards Deep Audio Reasoning in Large Aud 8.5分 13 An Ultra-Low Latency, End-to-End Streaming Speech Synth 8.5分 14 Listen, Pause, and Reason: Toward Perception-Grounded H 8.5分 15 Geo2Sound: A Scalable Geo-Aligned Framework for Soundsc 8.5分 16 SpotSound: Enhancing Large Audio-Language Models with F 8.5分 17 Beyond Transcription: Unified Audio Schema for Percepti 8.5分 18 CoSyncDiT: Cognitive Synchronous Diffusion Transformer 8.5分 19 Diffusion Language Models for Speech Recognition 8.5分 20 WavAlign: Enhancing Intelligence and Expressiveness in 8.5分 21 AVID: A Benchmark for Omni-Modal Audio-Visual Inconsist 8.5分 22 SpeakerRPL v2: Robust Open-set Speaker Identification t 8.3分 23 Towards Fine-grained Temporal Perception: Post-Training 8.3分 24 Room compensation for loudspeaker reproduction using a 8.2分 25 StreamMark: A Deep Learning-Based Semi-Fragile Audio Wa 8.2分 26 From Reactive to Proactive: Assessing the Proactivity o 8.2分 27 Elastic Net Regularization and Gabor Dictionary for Cla 8.2分 28 Sky-Ear: An Unmanned Aerial Vehicle-Enabled Victim Soun 8.0分 29 Contextual Biasing for ASR in Speech LLM with Common Wo 8.0分 30 A Manual Bar-by-Bar Tempo Measurement Protocol for Poly 7.8分 31 Classical Machine Learning Baselines for Deepfake Audio 7.8分 32 Adaptive Test-Time Scaling for Zero-Shot Respiratory Au 7.8分 33 Dual-Axis Generative Reward Model Toward Semantic and T 7.8分 34 Tora3: Trajectory-Guided Audio-Video Generation with Ph 7.8分 35 Few-Shot and Pseudo-Label Guided Speech Quality Evaluat 7.5分 36 VoxEffects: A Speech-Oriented Audio Effects Dataset and 7.5分 37 TokenSE: a Mamba-based discrete token speech enhancemen 7.5分 38 Audio Source Separation in Reverberant Environments usi 7.5分 39 On the Distillation Loss Functions of Speech VAE for Un 7.5分 40 Listening Deepfake Detection: A New Perspective Beyond 7.5分 41 Comparison of window shapes and lengths in short-time f 6.5分 42 Transformer Based Machine Fault Detection From Audio In 6.5分 📋 论文列表 🥇 ControlFoley: Unified and Controllable Video-to-Audio Generation with Cross-Modal Conflict Handling 🔥 9.2分 | #音频生成 #多模态模型 #扩散模型 #基准测试 | arxiv ...

语音/音频论文速递 2026-04-18 共分析 39 篇论文 ⚡ 今日概览 📥 抓取 39 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #基准测试 11篇 ███████████ #音频理解 10篇 ██████████ #数据集 7篇 ███████ #音频大模型 7篇 ███████ #大语言模型 6篇 ██████ #信号处理 6篇 ██████ #音频生成 5篇 █████ #音频分类 5篇 █████ 🏆 高分论文 TOP 10 排名 论文 评分 🥇 StreamMark: A Deep Learning-Based Semi-Fragile Audio Wa 9.2分 🥈 A Manual Bar-by-Bar Tempo Measurement Protocol for Poly 8.5分 🥉 ClariCodec: Optimising Neural Speech Codes for 200bps C 8.5分 4 UniPASE: A Generative Model for Universal Speech Enhanc 8.5分 5 Who is Speaking or Who is Depressed? A Controlled Study 8.5分 6 SpeakerRPL v2: Robust Open-set Speaker Identification t 8.5分 7 ProSDD: Learning Prosodic Representations for Speech De 8.5分 8 MoshiRAG: Asynchronous Knowledge Retrieval for Full-Dup 8.5分 9 X-VC: Zero-shot Streaming Voice Conversion in Codec Spa 8.5分 10 An Ultra-Low Latency, End-to-End Streaming Speech Synth 8.5分 📄 StreamMark: A Deep Learning-Based Semi-Fragile Audio Watermarking for Proactive Deepfake Detection #音频安全 #音频深度伪造检测 #语音伪造检测 #基准测试 ...