Icassp-2026

📄 Input-Adaptive Differentiable Filterbanks via Hypernetworks for Robust Speech Processing #语音识别 #音频分类 #语音情感识别 #自监督学习 #时频分析 #鲁棒性 ✅ 7.5/10 | 前25% | #语音识别 | #自监督学习 | #音频分类 #语音情感识别 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Zikun Quan（University College London） 通讯作者：Gaoyuan Du（Amazon）、Weilin Zhou（Nanjing Tech University） 作者列表：Zikun Quan（University College London）、Weilin Zhou（Nanjing Tech University）、Gaoyuan Du（Amazon） 💡 毒舌点评 亮点：这篇论文的核心想法非常直观且有吸引力——让前端滤波器像人耳一样，根据听到的内容（比如是安静的语音还是嘈杂的街道）实时“拧动旋钮”调整自身参数，这比让上层网络费力适应固定前端要优雅得多。短板：虽然作者声称“实时”，但论文提供的延迟数据（48.5ms总延迟）和复杂的控制器架构暗示，在极低延迟的流式应用（如助听器）中，其计算开销和预测滞后可能成为瓶颈，且实验部分缺乏与更多前沿自适应方法（如神经音频编解码器或扩散模型中的适应性模块）的直接对比。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用了公开数据集（CHiME-4, LibriSpeech, IEMOCAP, FSD50K），但论文本身未提供新数据集。 Demo：未提及。 复现材料：提供了核心算法描述和损失函数公式，但缺少关键超参数（如滤波器组细节、控制器窗口大小）、训练设置（学习率、优化器、batch size）和硬件信息，不足以完全复现。 论文中引用的开源项目：未明确说明。 📌 核心摘要 问题：传统和现有的可学习音频前端（如MFCC, SincNet, LEAF）都使用静态滤波器组，无法适应真实世界中动态变化的声学环境（如突发噪声），导致下游任务性能下降。 方法核心：提出HyperFB，一个受超网络控制的自适应可微分滤波器组框架。它包含两个核心模块：一个轻量级的因果超网络控制器（H）实时分析输入音频上下文，生成一组控制点；这些控制点通过可微分插值，生成平滑的滤波器参数轨迹（中心频率、带宽），用于配置时变滤波器组操作符（F）对原始波形进行滤波。 创新点：首次将超网络用作“控制器”，直接在物理信号处理层（而非特征层或网络层）实时生成并调整滤波器的物理参数，实现了实例级（instance-wise）的自适应。并提出了基于“噪声到干净语音重建”的任务无关自监督预训练策略，以及高效的适配器微调范式。 主要实验结果：在CHiME-4（鲁棒语音识别）任务上，HyperFB的平均词错误率（WER）为20.3%，显著优于最强基线HuBERT（22.2%）和静态版本的Oracle（24.1%）。在数据效率上，在LibriSpeech-100h上优势明显。在跨任务泛化上，在情感识别（IEMOCAP， WAA 71.8%）和音频分类（FSD50K， mAP 0.482）上也表现优异。 实际意义：为构建真正鲁棒的音频处理系统提供了一条新路径，即让前端本身智能化、可调节，能有效应对非平稳噪声，适用于语音识别、情感分析、声学场景分类等多种任务，尤其在低资源场景下优势显著。 局限性：主要局限性在于引入的额外计算开销（相比静态前端），以及因果设计带来的固定延迟（48.5ms），可能限制其在某些超低延迟实时应用中的部署。此外，其自适应能力高度依赖控制器对声学场景的准确分析，对于极端未见过的噪声类型可能失效。 💡 核心创新点 物理层的实例级自适应滤波器：这是最核心的创新。以往的自适应方法（如注意力、动态卷积）作用于网络中间层特征，而HyperFB直接改变前端滤波器组的物理参数。这相当于让前端能够“物理上”重新配置自身的频谱分析方式，以匹配当前输入信号的特性。证据：图2和图3的可视化清晰展示了模型如何针对不同噪声（高频嘶声、低频隆隆声）重塑滤波器形状以抑制噪声、突出语音共振峰。 因果超网络控制器架构：设计了一个轻量、多尺度的因果网络来“理解”声学场景并生成滤波器参数轨迹。其注意力机制能根据输入动态调整对不同时间尺度的关注（图5），信息瓶颈则促进了鲁棒表示的形成。这是实现上述物理层自适应的“大脑”。 两阶段任务无关预训练与高效微调范式：提出了“噪声到干净语音重建”的自监督预训练任务（公式1），迫使控制器学习通用的声学场景分析能力，而非过拟合于特定下游任务。微调时，冻结大部分参数，仅在控制器的信息瓶颈处插入极轻量的适配器（更新<1%参数），实现了高效、鲁棒的跨任务迁移。 🔬 细节详述 训练数据： 预训练：使用LibriSpeech的无标签部分。方法：将干净音频 xc 与随机噪声 n 混合生成 xnoisy。 微调/评估： 鲁棒语音识别：CHiME-4（真实嘈杂环境，包含Bus, Cafe, Ped., Street四种场景）。 数据效率：LibriSpeech-100h/360h。 情感识别：IEMOCAP。 音频分类：FSD50K。 损失函数： 预训练损失 (Lpretrain)：E[ || D(F(xnoisy, H(xnoisy))) - Sc ||^2_2 ]。其中 D 是一个轻量辅助CNN解码器，目标是从自适应特征中重建干净语音的幅度谱 Sc。 下游微调损失 (Ltotal)：Ltask + λLreg。Ltask 是任务损失（如交叉熵）；Lreg 是结构正则化项，鼓励生成的滤波器轨迹在频域保持平滑分布，防止重叠或聚集。 训练策略：两阶段。 阶段一：自监督预训练。优化 Lpretrain，训练控制器H、操作符F和解码器D。 阶段二：下游微调。丢弃解码器D，冻结H和F的大部分参数。仅训练新插入的任务适配器（一个单层线性层）和下游任务模型。优化 Ltotal。 关键超参数： 控制器H：多尺度窗口长度（如80ms, 400ms, 1600ms）。 操作符F：滤波器数量 K，控制点数量 Nc。 微调适配器：嵌入维度（瓶颈维度）。 以上具体数值论文未说明。 训练硬件：论文未说明。 推理细节：采用分段时不变处理。每个音频帧（如25ms）使用该帧中心时刻查询到的瞬时滤波器参数进行独立滤波。这近似实现了参数连续变化的时变系统。 正则化/稳定训练技巧：使用了信息瓶颈原理强制学习压缩表示；在下游损失中加入了轨迹平滑正则项 Lreg。 📊 实验结果 表1. CHiME-4 Real Eval集上的词错误率(WER %↓) ...

📄 InstructAudio: Unified Speech and Music Generation with Natural Language Instruction #语音合成 #音乐生成 #扩散模型 #多任务学习 #统一音频模型 ✅ 7.5/10 | 前25% | #语音合成 | #扩散模型 | #音乐生成 #多任务学习 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Chunyu Qiang（天津大学，快手科技） 通讯作者：Longbiao Wang（天津大学） 作者列表：Chunyu Qiang（天津大学，快手科技），Kang Yin（快手科技），Xiaopeng Wang（快手科技），Yuzhe Liang（快手科技），Jiahui Zhao（天津大学），Ruibo Fu（中国科学院自动化研究所），Tianrui Wang（天津大学），Cheng Gong（天津大学），Chen Zhang（快手科技），Longbiao Wang†（天津大学），Jianwu Dang（天津大学） 💡 毒舌点评 这篇论文的最大亮点在于其“野心”——试图用一个统一的框架和自然语言指令，同时搞定语音合成（TTS）和音乐生成（TTM）这两个本就差异显著的任务，这在思路上确实领先。但短板也很明显：论文在展示音乐生成对比结果时，坦诚其5-20秒的生成长度可能对长时序模型不公平，这种实验设计的局限性削弱了结论的说服力；更关键的是，论文几乎未提供任何可复现的开源信息，这对于一个宣称“统一框架”的工作而言，是个不小的遗憾。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：论文中未提及公开的模型权重下载地址。 数据集：论文中使用了自收集的50K小时语音和20K小时音乐数据，但未提及是否会公开数据集或获取方式。 Demo：提供了在线音频示例演示页面：https://qiangchunyu.github.io/InstructAudio/ 复现材料：论文给出了模型参数量（1.34B）、主要架构层数、优化器、初始学习率和GPU数量，但缺少学习率调度策略、训练步数/轮数、梯度裁剪等关键训练细节，复现材料不充分。 论文中引用的开源项目：引用了多个开源模型（如CosyVoice2, ACE-Step, DiffRhythm+）和工具（如Resemblyzer, emotion2vec, Qwen2.5），但未提及是否在代码或模型中集成了其他特定开源项目。 总结：论文中未提及开源计划（如代码、模型、数据的开源时间表）。 📌 核心摘要 问题：现有的文本转语音（TTS）和文本转音乐（TTM）系统在基于指令（自然语言描述）的控制方面存在显著局限。TTS模型通常依赖参考音频控制音色，属性控制能力有限；TTM模型则依赖专业标注，且两类任务长期独立开发，难以统一建模。 方法核心：提出InstructAudio，一个基于多模态扩散Transformer（MM-DiT）和条件流匹配的统一框架。它采用标准化的“指令-音素”输入格式，通过联合和单一扩散Transformer层，处理无噪的梅尔VAE潜在表示，从而在统一模型中实现语音和音乐的生成与控制。 新意：这是首个通过自然语言指令统一控制语音和音乐生成的框架。它消除了对参考音频的依赖，能通过文本指令控制音色（性别、年龄）、副语言（情感、风格、口音）和音乐（类型、乐器、节奏、氛围）等多种属性，并支持双说话人对话生成。 主要实验结果： TTS任务：在Seed-TTS基准的WER指标上，InstructAudio在可控条件下达到了最佳的英文（1.52%）和中文（1.35%）错误率（见表1）。在指令控制任务上，其分类控制准确率（如性别100%、年龄86.67%、对话90%）和说话人/情感相似度均优于强基线CosyVoice2，且在LSD、MCD等失真指标上更优（见表2）。 TTM任务：在SongEval音乐评估基准的所有指标（连贯性、音乐性等）上均取得最佳分数。在分类控制准确率上，于歌手性别（98.89%）、年龄（97.22%）和氛围（95.00%）控制上表现突出（见表3）。 综合对比：论文通过图1可视化比较，声称在多项指标上实现了TTS和TTM能力的全面领先。 实际意义：为内容创作（如生成带有特定情感和风格的旁白或背景音乐）、交互式媒体、娱乐等领域提供了一种更通用、交互更自然的音频内容生成工具，降低了专业音频制作的门槛。 主要局限性：1) 统一输入格式（纯文本指令）导致了“一对多”的映射歧义，可能牺牲了生成音频的自然度和质量（NMOS分数低于使用参考音频的基线）；2) 为了联合建模，将音乐生成长度限制在5-20秒，限制了其在长时音乐生成场景的应用，并且对基线模型的评估可能不公平；3) 论文未提供开源代码、模型或数据，可复现性低。 InstructAudio整体架构示意图（图2）。 ...

📄 Instrument Generation Through Distributional Flow Matching and Test-Time Search #音乐生成 #流匹配 #扩散模型 #测试时搜索 ✅ 7.0/10 | 前25% | #音乐生成 | #流匹配 | #扩散模型 #测试时搜索 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Qihui Yang（University of California, San Diego） 通讯作者：未说明 作者列表：Qihui Yang（University of California, San Diego）、Randal Leistikow（Smule Labs）、Yongyi Zang（Smule Labs） 💡 毒舌点评 亮点在于，论文巧妙地将“承认不确定性”引入流匹配框架，让模型不再“固执己见”，并通过测试时搜索将计算力转化为音色一致性的提升，这在概念上很优雅。短板是实验仅在相对“干净”且规模有限的NSynth数据集上进行，对于真实世界中更复杂、噪声更多或音色更微妙的乐器场景，其泛化能力和实际效用仍有待验证，且开源代码的缺失让这一新颖方法停留在了“可读但不可复用”的阶段。 🔗 开源详情 代码：论文中未提及代码链接。项目主页（https://flowsynth.github.io/）可能包含演示或资料，但未明确提供训练/推理代码仓库。 模型权重：未提及是否公开预训练模型权重。 数据集：使用公开的NSynth数据集，但论文未说明是否提供预处理后的数据或具体处理脚本。 Demo：项目主页可能包含音频演示，但论文中未明确提及在线交互式Demo。 复现材料：提供了部分训练超参数（优化器、学习率、步数、批次大小）和推理设置（求解器、步数），但缺少模型完整配置、环境依赖、完整评估脚本等信息。复现材料有限。 论文中引用的开源项目：引用了并可能基于以下开源工作：DiffRhythm的VAE，CLAP编码器，DiT架构。这些是构建FlowSynth的基础组件。 📌 核心摘要 问题：现有基于音符级模型的虚拟乐器生成方法，在生成不同音高和力度的音符时，难以保持一致的音色（timbre），限制了其在专业音乐制作中的应用。 ...

📄 Int-MeanFlow: Few-Step Speech Generation with Integral Velocity Distillation #语音合成 #流匹配 #知识蒸馏 #流式处理 ✅ 7.5/10 | 前25% | #语音合成 | #流匹配 | #知识蒸馏 #流式处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 中 👥 作者与机构 第一作者：未说明（论文作者列表未按顺序标注，首位作者为Wei Wang） 通讯作者：未说明 作者列表：Wei Wang（字节跳动 ByteDance），Rong Cao（字节跳动 ByteDance），Yi Guo（字节跳动 ByteDance），Zhengyang Chen（字节跳动 ByteDance），Kuan Chen（字节跳动 ByteDance），Yuanyuan Huo（字节跳动 ByteDance） 💡 毒舌点评 亮点：精准地找到了MeanFlow在TTS落地的两大“卡脖子”问题（JVP内存爆炸、自举不稳定），并给出了一个工程上非常友好的“绕道”方案（用离散积分近似、去掉JVP），效果立竿见影。短板：提出的方法本质上是对教师模型推理路径的“离线”蒸馏和近似，其泛化性和在更复杂生成任务上的极限性能仍待观察，实验也仅限于两个特定模型架构。 🔗 开源详情 代码：论文中未提及官方代码仓库链接。 模型权重：未提及是否公开预训练或蒸馏后的模型权重。 数据集：实验使用了公开的LibriTTS和Emilia数据集，但预处理细节未说明。 Demo：提供了在线演示页面：https://vvwangvv.github.io/intmeanflow/。 复现材料：论文中未提供详细的超参数配置、训练脚本、检查点等复现材料。 论文中引用的开源项目： F5-TTS：作为text2mel任务的基础模型（引用[3]）。 CosyVoice：作为token2mel任务的基础模型（引用[1]）。 Whisper-large-v3：用于英语WER计算。 Paraformer-zh：用于中文WER计算。 WavLM：用于说话人嵌入提取，计算SIM-o。 论文中未提及开源计划：除Demo链接外，论文正文未明确承诺未来将开源代码或模型。 📌 核心摘要 问题：基于流匹配的语音合成模型（Flow-based TTS）生成质量高，但推理速度因迭代采样（多次函数评估，NFE）而受限。近期的MeanFlow模型通过建模平均速度来加速生成，但将其直接应用于TTS面临两个挑战：训练时计算Jacobian-vector product（JVP）带来巨大的GPU内存开销，且依赖自举（self-bootstrap）过程导致训练不稳定。 方法核心：提出IntMeanFlow框架，通过“积分速度蒸馏”让学生模型学习平均速度。其核心是用教师模型在时间区间[t, r]上的离散迭代步进所积累的总位移，来近似积分速度（平均速度），作为训练目标。这完全避免了JVP计算和训练中的自举过程。同时，提出最优步骤搜索（OS3）算法，通过三分搜索自动优化模型的采样步长分布。 新意：与直接应用MeanFlow相比，IntMeanFlow用离散积分近似替代了连续JVP计算，去除了自举依赖，显著提升了训练稳定性和内存效率。与传统蒸馏方法相比，它不需要辅助模型或固定训练步长，且与现有流匹配模型兼容性更好。 主要实验结果：在F5-TTS（text2mel任务）上，IntMeanFlow将推理步数从32步减少至3步，实时因子（RTF）从0.243降至0.021（约11.6倍加速），同时WER和SIM-o指标仅有轻微下降（例如，Base模型WER从1.87%升至1.60%，SIM-o从0.67降至0.65）。在CosyVoice2（token2mel任务）上，实现了1步推理，RTF从0.510降至0.026（约19.6倍加速），性能与教师模型接近。OS3算法在多个设置下带来了显著的指标提升。 实际意义：为高保真流匹配语音合成模型提供了一种高效、稳定的少步推理方案，将推理速度提升一个数量级，使其更适用于实时和流式应用场景。 主要局限性：方法的有效性可能依赖于教师模型的质量和离散积分的精度（受步数n影响）。论文中未探讨该方法在更复杂任务（如语音转换、零样本克隆）上的泛化性，也未公开代码和详细训练配置，限制了可复现性。 🏗️ 模型架构 IntMeanFlow本身是一个蒸馏框架，而非一个独立的端到端模型。其核心是训练一个学生模型 u_student(zt, t, r; θ_student)，使其能够预测从时间点 t 到 r 的平均速度。 ...

📄 Integrating Speaker Embeddings and LLM-Derived Semantic Representations for Streaming Speaker Diarization #说话人分离 #大语言模型 #流式处理 #模型评估 ✅ 6.5/10 | 前25% | #说话人分离 | #大语言模型 | #流式处理 #模型评估 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Tianyou Cheng（NERC-SLIP, University of Science and Technology of China (USTC), Hefei, China） 通讯作者：Jun Du（*标记表明为通讯作者，机构同第一作者） 作者列表：Tianyou Cheng（USTC）、Changfeng Xi（iFlytek Research）、Jia Pan（iFlytek Research）、Ruoyu Wang（USTC）、Hang Chen（USTC）、Jiangyu Han（Brno University of Technology, Speech@FIT）、Luk´aˇs Burget（Brno University of Technology, Speech@FIT）、Jianqing Gao（iFlytek Research）、Jun Du（USTC） 💡 毒舌点评 亮点：思路巧妙，将LLM的“语义指纹”与说话人的“声纹”结合用于实时区分身份，解决了纯声学方法在语义连贯对话中可能出现的漂移问题，并提出了更合理的评估指标cWDER。短板：核心系统（ASR、LLM、说话人模型）全部依赖未开源的内部模型与数据，如同在“黑箱”上搭积木，学术可复现性大打折扣；且关键损失函数和优化细节缺失，让方法论部分显得不够“硬核”。 ...

📄 Inter-Dialog Contrastive Learning for Multimodal Emotion Recognition in Conversations #语音情感识别 #对比学习 #多模态模型 #跨模态 ✅ 7.5/10 | 前25% | #语音情感识别 | #对比学习 | #多模态模型 #跨模态 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 中 👥 作者与机构 第一作者：Dong-Hyuk Lee (Department of Electronics and Communications Engineering, Kwangwoon University) 通讯作者：Young-Seok Choi (Department of Electronics and Communications Engineering, Kwangwoon University, yschoi@kw.ac.kr) 作者列表：Dong-Hyuk Lee (Department of Electronics and Communications Engineering, Kwangwoon University)、Dae Hyeon Kim (Department of Electronics and Communications Engineering, Kwangwoon University)、Young-Seok Choi (Department of Electronics and Communications Engineering, Kwangwoon University) 💡 毒舌点评 亮点在于提出了“跨对话上下文”（Inter-dialog context）这一新颖维度，并设计了IDCL对比学习框架来有效利用它，为传统上仅关注对话内部的上下文建模提供了补充。短板在于方法创新的深度略显不足，核心是对比学习在模态间和对话间的应用组合，且论文缺少代码和模型细节，使得复现存在不确定性。 ...

📄 Interpretable Music Harmonic Analysis Through Multilinear Mixture of Experts #音乐理解 #混合专家模型 #模型评估 #音乐信息检索 #数据集 ✅ 7.5/10 | 前25% | #音乐理解 | #混合专家模型 | #模型评估 #音乐信息检索 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Thanasis Triantafyllou（雅典大学信息与电信系） 通讯作者：未说明（论文未明确指定） 作者列表： Thanasis Triantafyllou（雅典大学信息与电信系） Mihalis A. Nicolaou（塞浦路斯大学，塞浦路斯研究所） Yannis Panagakis（雅典大学信息与电信系，Archimedes, Athena R.C.） 💡 毒舌点评 亮点在于首次将内在可解释架构（µMoE） 引入罗马数字分析任务，让模型决策变得对音乐学家“透明”，专家激活模式确实呈现出符合理论的五度圈和V-I关系。短板是性能相比基准模型RNBERT有1-2个点的下降，且实验局限于单一任务和特定数据集，未能充分展示该架构在其他音乐分析任务或更大规模模型上的潜力和鲁棒性。 🔗 开源详情 代码：论文提供了代码仓库链接：https://github.com/TomusD/muMoE-RNBERT 模型权重：论文中未提及是否公开µMoE-RNBERT的预训练模型权重。 数据集：论文使用的数据集由多个公开集合（如TAVERN, When in Rome等）组成，但未提供统一的下载链接或具体的预处理脚本。原始数据集需从各自来源获取。 Demo：论文中未提及在线演示。 复现材料：论文详细描述了训练策略、超参数、硬件环境、数据预处理和增强方法，为���现提供了充分的必要信息。 依赖的开源项目：明确依赖并基于MusicBERT模型进行微调。实现使用PyTorch框架。张量分解和µMoE的具体实现参考了论文[13]（Oldfield et al., NeurIPS 2024）的方法。 📌 核心摘要 问题：现有基于Transformer的罗马数字分析（RNA）模型（如RNBERT）虽然性能先进，但缺乏可解释性，无法向音乐学家解释其分析背后的音乐理论依据，限制了其在学术研究中的应用价值。 核心方法：提出µMoE-RNBERT，通过用多线性混合专家（µMoE）层替换RNBERT中前馈网络（MLP）的线性层，构建第一个内在可解释的深度RNA系统。不同的专家子网络能够学习并专门处理不同的和声模式。 创新之处：是首个为RNA任务设计的内在可解释深度学习系统。不同于事后解释，其可解释性源于模型架构本身。该方法在保持与原始RNBERT几乎相同参数量（~26.7M）和计算成本的前提下，引入了专家专业化机制。 实验结果：在相同数据集和评估协议下，µMoE-RNBERT取得了与基准RNBERT可比但略低的性能。具体而言，整体罗马数字准确度（RN Accuracy）在74.6%-74.9%之间（基准为76.2%），在关键、质量、音级等子任务上也略有差距。但定性分析表明，专家激活显著遵循音乐理论，例如，不同专家专注于特定调性及其中的V-I进行，并呈现出五度圈的邻近调性模式。 实际意义：为音乐信息检索（MIR）和计算音乐学研究提供了一个可解释的AI工具。音乐学家可以观察并验证模型分析所依据的内部“音乐规则”，从而增进对模型行为的信任，并可能从中发现新的音乐结构洞见。 主要局限性：a) 性能相比当前最优基线有轻微损失；b) 可解释性分析主要基于可视化和统计观察，缺乏更系统的量化评估框架；c) 该方法的有效性尚未在其他音乐理解任务（如旋律生成、节奏分析）上得到验证。 🏗️ 模型架构 µMoE-RNBERT的整体架构基于RNBERT，其核心改动是将标准MLP层替换为µMoE层。 ...

📄 Interval-Aware Retrieval Framework For Speech-Based Automatic Alzheimer’s Detection #语音生物标志物 #检索增强生成 #多模态模型 #迁移学习 🔥 8.5/10 | 前25% | #语音生物标志物 | #检索增强生成 | #多模态模型 #迁移学习 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Mingyang Gu（天津大学智能与计算学院；中国科学院深圳先进技术研究院） 通讯作者：Gaoyan Zhang（天津大学智能与计算学院）、Jianwu Dang（中国科学院深圳先进技术研究院） 作者列表： Mingyang Gu（天津大学智能与计算学院， 中国科学院深圳先进技术研究院） Zunsheng Tan（中国科学院深圳先进技术研究院） Kai Li（中国科学院深圳先进技术研究院） Xiaobao Wang（天津大学智能与计算学院） Bin Wen（天津大学智能与计算学院） Tianrui Wang（天津大学智能与计算学院） Gaoyan Zhang（天津大学智能与计算学院， 通讯作者） Jianwu Dang（中国科学院深圳先进技术研究院， 通讯作者） 💡 毒舌点评 亮点：本文的核心思想“用健康人的说话时序作为参考标尺来衡量患者语音的异常程度”非常巧妙且符合临床直觉，RAG与CTC的结合为实现这一思想提供了有效且工程化的路径，实验也证明了其有效性。短板：论文未提供代码，对于一个依赖特定预训练模型（Whisper， HuBERT）和外部构建的健康语音时序记忆库的框架，这在一定程度上削弱了其可复现性和即时可用性，对于想快速验证或应用的读者不太友好。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及是否公开模型权重。 数据集：评估使用了公开的ADReSS和ADReSSo数据集。记忆库构建使用了LibriSpeech-100h，其获取方式可参考原数据集论文，但本论文未说明具体处理和索引后的版本是否发布。 Demo：未提供在线演示。 复现材料：论文提供了模型架构、主要训练超参数（优化器、学习率等）和评估协议，但缺少具体的训练脚本、配置文件、检查点或附录中更细致的说明。 引用的开源项目：论文中引用的开源工具/模型主要包括：Whisper（用于转录和时间戳）、HuBERT（语音编码器）、RoBERTa（文本编码器）。 开源计划：论文中未提及开源计划。 📌 核心摘要 本文旨在解决基于自发语音的阿尔茨海默病（AD）自动检测中，现有方法未能充分建模和利用患者语音中特有的“时间节律异常”（如停顿、拖音、不流畅）的问题。论文提出了一种区间感知的检索增强框架，其核心包含三个部分：1）一个RAG模块，从健康人的语音数据中检索词级别的时序先验，作为判断异常与否的“归一化参考”；2）一个CTC引导的跨模态对齐模块，在无需语音-文本精确对齐标注的情况下，实现文本表示与语音帧的软对齐；3）一个区间感知增强器，通过对比当前语音的实际时序与检索到的健康先验，将偏差转化为残差权重，以突出异常的语音片段。与已有方法相比，该框架的新颖之处在于引入外部健康时序知识作为基准、采用无监督对齐技术、以及显式地将时序偏差融入特征表示。在ADReSS和ADReSSo两个基准测试集上，本文方法分别取得了94.79%和88.73%的准确率，相比此前最优方法错误率降低了13.4%和11.1%，并在所有评估指标上均达到最佳。该工作的实际意义在于提供了一种可扩展、非侵入的AD早期筛查工具，其可解释的权重可视化也能辅助临床医生进行审查。主要局限性是其性能依赖于所构建的健康语音时序记忆库的覆盖度和质量，且可能存在跨数据集、录音条件的领域偏移。 ...

📄 Inverse-Hessian Regularization for Continual Learning in ASR #语音识别 #持续学习 #正则化 #领域适应 ✅ 7.5/10 | 前25% | #语音识别 | #持续学习 #正则化 | #持续学习 #正则化 学术质量 6.8/7 | 选题价值 1.7/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Steven Vander Eeckt（KU Leuven, ESAT-PSI部门） 通讯作者：Hugo Van hamme（KU Leuven, ESAT-PSI部门） 作者列表：Steven Vander Eeckt（KU Leuven, ESAT-PSI部门）、Hugo Van hamme（KU Leuven, ESAT-PSI部门） 💡 毒舌点评 亮点在于优雅地将“往平坦方向走”的优化直觉转化为一个无需存储旧数据的实用合并步骤，并在实验中证明了其有效性，甚至超越了需要记忆库的方法。短板是其实验验证场景（两个小规模单语口音/麦克风适应任务）相对“温室”，离证明其在真实世界复杂、多语言、流式ASR系统中的鲁棒性还有距离。 🔗 开源详情 代码：论文明确提供了GitHub仓库链接：https://github.com/StevenVdEeckt/inverse-hessian-regularization。论文中写道“更多细节，包括代码和详细结果，可在我们的GitHub仓库中找到。” 模型权重：论文中未提及公开模型权重。 数据集：使用了Common Voice和LibriSpeech/Libri-Adapt等公开数据集。论文中未提及提供额外数据集。 Demo：论文中未提供在线演示。 复现材料：论文提供了方法算法伪代码（Algorithm 1）、关键超参数（τ值）、以及基于ESPnet2���架的实现环境。代码仓库预计包含更多训练细节。 论文中引用的开源项目：ESPnet2[17]（实验框架）、SentencePiece[24]（分词器）、Adam优化器[25]。 📌 核心摘要 问题：自动语音识别（ASR）系统在持续学习新领域（如新口音、方言、麦克风类型）时，会遭遇灾难性遗忘，即在新任务上学习后，性能在旧任务上急剧下降。现有的无记忆方法（如权重平均）是启发式的，忽略了任务损失曲面的几何信息，限制了适应性。 方法核心：提出逆Hessian正则化（IHR）。在模型于新任务上微调后，得到参数更新量Δθ。IHR不直接使用该更新量，而是将其乘以旧任务损失函数在旧参数处的逆Hessian矩阵（或近似），从而将更新方向调整到对旧任务不敏感（即位于旧任务低损失区域）的方向，再与旧参数合并得到最终模型。 创新与新意： 首次将逆Hessian信息应用于ASR持续学习的合并步骤：与在训练中加入正则化项不同，IHR将其作为后处理，计算量小。 轻量级分层实现：采用Kronecker分块对角近似，仅针对占模型绝大多数参数的线性层计算并应用逆Hessian更新，保持计算和存储开销恒定。 实证优势：在两个基准测试上显著优于现有无记忆方法，并在遗忘指标上优于需要存储旧数据的回放缓存（ER）方法。 主要实验结果： 实验1（Common Voice口音适应）：IHR的平均WER为13.32%，显著优于最强基线FTA（13.71%）和ER（13.97%）。BWT为-0.1（近乎零遗忘），而FTA为-0.3，Fine-Tuning为-3.6。 实验2（LibriSpeech → Libri-Adapt麦克风+口音适应）：IHR的平均WER为7.40%，优于FTA（8.97%）、UOE（12.10%）等基线，但略逊于ER（6.43%）。BWT为-1.4。 消融实验证实，仅使用最近任务的逆Hessian近似（而非所有历史任务之和）效果相当，且对剩余参数使用1/t平均能进一步减少遗忘。 实际意义：为ASR模型提供了一种无需存储历史数据、计算高效且原理更合理的持续适应方案，有助于部署能够安全、隐私地不断学习新用户特征的ASR服务。 主要局限性： 实验验证的场景相对简单，均为单一语言、小规模任务序列的领域适应。在任务差异更大、序列更长或更复杂的持续学习场景下的有效性有待验证。 方法依赖于对Hessian的近似（特别是忽略跨层交互），且仅应用于线性层，其近似效果在更大模型上的理论保证和实际影响未深入分析。 超参数τ需要针对不同场景调整。 🏗️ 模型架构 本文的核心贡献在于优化策略（持续学习方法），而非全新的ASR模型架构。ASR模型本身采用标准的编码器-解码器结构： ...

📄 Investigating Modality Contribution in Audio LLMs for Music #音频大模型 #模型评估 #可解释AI #音乐理解 #多模态模型 ✅ 6.5/10 | 前50% | #模型评估 | #可解释AI | #音频大模型 #音乐理解 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Giovana Morais（纽约大学音乐与音频研究实验室） 通讯作者：未说明 作者列表：Giovana Morais（纽约大学音乐与音频研究实验室）、Magdalena Fuentes（纽约大学音乐与音频研究实验室，Integrated Design & Media） 💡 毒舌点评 亮点：首次将严谨的博弈论可解释性工具（MM-SHAP）引入音频大模型分析，量化了音频与文本模态的“功劳簿”，为“模型到底听没听”这个玄学问题提供了硬核分析框架。 短板：整个研究建立在一个被后续工作指出“测试的是LLM推理而非音频感知”的基准（MuChoMusic）上，这好比用一把可能不准的尺子去精确测量，结论的可靠性打了折扣；同时，分析结论停留在“音频贡献低”的现象描述，未能深入揭示音频信息在模型内部是如何被利用或“遗忘”的机制。 🔗 开源详情 代码：提供了代码仓库链接：https://github.com/giovana-morais/2025_investigating_mmshap。 模型权重：论文中未提及提供新的模型权重。分析使用了公开模型Qwen-Audio-Chat和MU-LLaMA。 数据集：分析使用公开的MuChoMusic基准数据集。 Demo：论文提到提供了交互式图表演示页面，但未给出具体链接。 复现材料：论文中提供了代码和基于公开模型与数据的分析框架，但缺乏详细的训练/评估超参数配置文件和分步指南。 引用的开源项目：依赖shap库进行Shapley值计算；依赖Qwen-Audio和MU-LLaMA的官方代码库。 📌 核心摘要 问题：音频大语言模型（Audio LLMs）声称能理解音频，但近期基准测试表明其性能可能过度依赖文本推理，音频模态是否被有效利用存疑。 方法核心：将MM-SHAP（一种基于Shapley值、与性能无关的度量）适配到音频领域，通过掩码音频波形和文本令牌来量化计算每个模态对模型输出的贡献度（A-SHAP, T-SHAP）。 新方法与创新点：首次将MM-SHAP框架应用于音频大模型，提出了针对音频的动态掩码策略，并将分析扩展到生成式任务（通过衡量答案token的对数变化）。 主要实验结果：在MuChoMusic基准上对比了Qwen-Audio和MU-LLaMA。发现性能更好的Qwen-Audio反而更依赖文本（A-SHAP约0.23），而MU-LLaMA模态利用更均衡（A-SHAP约0.50）。定性分析显示，即使整体音频贡献低，模型也能在特定token（如“铃声”）上正确定位相关音频片段。 模型 实验设置 准确率 A-SHAP MU-LLaMA MC-PI 0.30 0.50 ± 0.02 MC-NPI 0.32 0.47 ± 0.02 QwenAudio MC-PI 0.44 0.23 ± 0.02 MC-NPI 0.47 0.21 ± 0.02 表1：两个模型在不同实验设置下的准确率和平均音频模态贡献度（A-SHAP）。 MM-SHAP计算过程示意图 图1：MM-SHAP计算流程示意图。通过掩码所有可能的输入组合（近似为随机排列），并计算基础答案（未掩码推理）的对数变化来平均得到Shapley值。 定性分析示例 图2：QwenAudio定性分析示例。展示了对于输出token“bell”，输入文本和音频各区域的Shapley值贡献，绝对值高的区域（深色）对应模型认为重要的特征。 ...