Diffusion Reconstruction towards Generalizable Audio Deepfake Detection

📄 Diffusion Reconstruction towards Generalizable Audio Deepfake Detection #音频深度伪造检测 #扩散模型 #对比学习 #数据增强 #预训练 ✅ 7.5/10 | 前25% | #音频深度伪造检测 | #扩散模型 #对比学习 | #扩散模型 #对比学习 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:Bo Cheng(南方科技大学电子与电气工程系) 通讯作者:Fei Chen(南方科技大学电子与电气工程系) 作者列表:Bo Cheng(南方科技大学电子与电气工程系)、Songjun Cao(腾讯优图实验室)、Xiaoming Zhang(南方科技大学电子与电气工程系)、Jie Chen(南方科技大学电子与电气工程系)、Long Ma(腾讯优图实验室)、Fei Chen(南方科技大学电子与电气工程系,通讯作者) 💡 毒舌点评 本文巧妙地将“数据增强”提升到了“生成困难样本进行对抗训练”的哲学高度,利用扩散模型的随机性模拟未知攻击,思路新颖且实验验证有力。然而,其核心逻辑存在一个微妙的自证循环:用于检测的模型,其训练数据部分来源于同族模型(扩散模型)的重建,这可能使得模型对“生成痕迹”的识别能力被部分限定在“重建痕迹”上,对真正未知的、非重建类生成攻击的泛化上限有待进一步验证。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开本模型的权重。论文中提及使用了公开的预训练模型(XLS-R 300M)和重建模型(HiFi-GAN, DAC, Encodec, SemantiCodec)的权重。 数据集:使用了公开数据集(ASVspoof 2019 LA, CodecFake, DiffSSD, WaveFake, ITW),论文中给出了部分数据集的引用链接。 Demo:未提及。 复现材料:提供了较为详细的训练策略、超参数配置和架构描述(见第3.2节和第2.3、2.4节),但未提供完整的复现配置文件或脚本。 论文中引用的开源项目: HiFi-GAN: https://github.com/jik876/hifi-gan DAC (Descript Audio Codec): https://github.com/descriptinc/descript-audio-codec Encodec: https://github.com/facebookresearch/encodec SemantiCodec: https://huggingface.co/haoheliu/SemantiCodec/tree/main XLS-R 300M: https://github.com/facebookresearch/fairseq AASIST:论文引用了相关论文,但未提供具体开源链接。 📌 核心摘要 本文针对音频深度伪造检测(ADD)模型泛化能力不足的挑战,提出了一种基于扩散重建的困难样本生成框架。其核心思想是:一个能够区分困难样本(如重建后的音频)的模型,必然也能处理简单的伪造样本。方法上,论文首先评估了HiFi-GAN、DAC、Encodec和SemantiCodec(基于扩散)等多种重建范式,发现基于扩散的方法能最有效地生成具有泛化价值的困难样本。其次,为增强特征判别力,设计了正则化辅助对比学习(RACL) 目标函数,它结合了标准对比损失、聚焦于困难样本的增强对比损失以及用于类内紧凑性的方差正则化损失。最后,采用预训练的XLS-R 300M提取多层特征并经自适应聚合后,送入AASIST进行分类。实验在五个多样化的测试集(ASVspoof, ITW, DiffSSD, WaveFake, CodecFake)上进行。主要结果表明,集成扩散重建、多层聚合和RACL的最佳模型(RACL Diffusion)取得了8.247%的平均EER,相比基线(15.789%)相对降低了约47.8%。消融实验和t-SNE可视化证实了RACL中各组件对提升类间距离和类内紧凑性的作用。该研究的实际意义在于提供了一种提升ADD模型泛化能力的有效数据驱动和学习策略,其局限性在于自证循环的潜在风险以及在个别数据集(如ASVspoof)上性能略有下降。 ...

2026-04-30 · 更新于 2026-07-27 · 2 min · 318 words

Similarity Choice and Negative Scaling in Supervised Contrastive Learning for Deepfake Audio Detection

📄 Similarity Choice and Negative Scaling in Supervised Contrastive Learning for Deepfake Audio Detection #音频深度伪造检测 #对比学习 #自监督学习 #鲁棒性 #基准测试 🔥 8.0/10 | 前25% | #音频深度伪造检测 | #对比学习 #自监督学习 | #对比学习 #自监督学习 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Jaskirat Sudan (University of Michigan, Dearborn) 通讯作者:未说明(论文未明确指定) 作者列表:Jaskirat Sudan (University of Michigan, Dearborn)、Hashim Ali (University of Michigan, Dearborn)、Surya Subramani (University of Michigan, Dearborn)、Hafiz Malik (University of Michigan, Dearborn) 💡 毒舌点评 亮点:实验设计极其严谨,通过固定所有其他变量(模型、优化器、增强等),孤立地研究了相似度函数和负样本队列的影响,并揭示了二者之间复杂的非单调交互关系,为该领域的实践者提供了扎实的调参依据。短板:所有结论都建立在单一模型(XLS-R 300M)和单一训练集(ASVspoof 2019 LA)上,其发现是否能迁移到其他自监督模型或其他伪造检测数据集上,文中未做任何探讨,这在一定程度上削弱了结论的普适性。 ...

2026-04-30 · 更新于 2026-07-27 · 3 min · 493 words

A Hybrid Convolution-Mamba Network with Tone-Octave Contrastive Learning for Stratified Semi-Supervised Singing Melody Extraction

📄 A Hybrid Convolution-Mamba Network with Tone-Octave Contrastive Learning for Stratified Semi-Supervised Singing Melody Extraction #音乐信息检索 #歌唱旋律提取 #对比学习 #状态空间模型 #半监督学习 ✅ 7.5/10 | 前25% | #歌唱旋律提取 | #对比学习 | #音乐信息检索 #状态空间模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者:康杰东(Kangjie Dong, 东华大学计算机科学与技术学院) 通讯作者:于帅(Shuai Yu, 大连理工大学信息与通信工程学院), 李威(Wei Li, 复旦大学计算机科学与技术学院) 作者列表:康杰东(东华大学计算机科学与技术学院), Shicheng Ding(美国塔博学院), 于帅(大连理工大学信息与通信工程学院, 通讯作者), 李威(复旦大学计算机科学与技术学院, 通讯作者) 💡 毒舌点评 这篇论文最大的亮点是其极致的“小而美”:仅用0.53M参数就在三个标准数据集上全面超越了从1M到147M不等的强基线,证明了其设计的混合架构与音调八度对比学习在特征表示上的高效性。然而,其分层半监督策略设计略显繁琐,且歌唱旋律提取作为相对垂直的音乐信息检索任务,其普适影响力相较于语音识别等通用任务有所局限。 🔗 开源详情 代码:论文明确提供了代码仓库链接:https://github.com/Fan2me/Melody。 模型权重:论文中未提及是否公开预训练模型权重。 数据集:论文使用了公开数据集MIR-1K、MedleyDB和FMA,但未提供如何获取这些数据集的具体说明(通常这些数据集需自行申请或下载)。 Demo:论文中未提及在线演示。 复现材料:论文提供了较为详细的训练细节(数据、特征、增强、损失函数、优化器、学习率、批大小、硬件),足以支持复现。 引用的开源项目:论文使用了PyTorch框架、mir_eval评估工具包,并依赖ffmpeg进行数据增强。 📌 核心摘要 问题:现有的歌唱旋律提取(SME)方法在建模频谱图时,难以同时高效捕捉局部模式与长程时频依赖,并且缺乏对音高层次(音调、八度)这一音乐先验的显式建模。此外,大多数半监督方法将所有无标签数据同等对待,导致伪标签质量不高。 方法核心:提出了一个统一框架,包含三个关键组件:1)HybridNet:结合双轴Mamba和卷积神经网络来联合建模时频依赖,并设计了一种“结构池化”方案,将频率轴显式编码为“八度×音调”的网格结构,嵌入了音调层次先验。2)音调八度对比学习损失(TOCL):通过设计两个投影器分别将特征映射到音调和八度子空间,拉近相同音调或八度的嵌入,推远不匹配的对,并引入了基于时间邻近度的加权以强调有信息量的正负样本对。3)分层半监督学习策略(S-SSL):根据预测置信度和原型相似度,将无标签帧划分为“容易”、“模糊”、��困难”三组,并分别为每组设计不同的训练目标,从而更有效地利用无标签数据。 与已有方法相比新在哪里:相比CNN方法(如MF-TFA)能更好地建模长程依赖,相比Transformer方法(如TONet)复杂度更低,相比现有Mamba方法(如SpectMamba)引入了更强的结构先验(音调八度层次)和更精细的对比学习与半监督策略。该方法是首个将结构化音调先验、对比学习与分层半监督三者统一应用于SME的框架。 主要实验结果:在ADC2004, MIREX05和MedleyDB三个数据集上,所提HybridNet模型在主要指标OA上均取得了最佳性能。例如,在ADC2004上OA达到87.76%,比最强基线MF-TFA(85.39%)高2.37%。消融实验证实了结构池化(OP, -3.33% OA)、对比学习(TOCL, -1.38% OA)和分层半监督(S-SSL, -1.32% OA)三个组件的贡献。可视化结果(如图3)显示其生成的特征热图更干净,能捕捉到八度相关的谐波结构,在颤音等复杂片段上预测更准。 实际意义:提升了从复杂音乐信号中提取主唱旋律的准确度和模型效率(模型仅0.53M参数),有助于下游应用如哼唱检索、音乐推荐、翻唱识别等。其设计思路(结构先验嵌入、置信度分层利用无标签数据)对其他序列建模任务有借鉴意义。 主要局限性:任务(歌唱旋律提取)本身属于音乐信息检索中的一个垂直领域,应用广度相对有限。分层半监督策略引入了多个超参数(如τc, τa, λe, λa, λh),调优和部署可能稍显复杂。 🏗️ 模型架构 所提HybridNet整体采用类似U-Net的编码器-解码器架构,核心是混合块(Hybrid Block, HB)和结构池化。以下是详细流程: ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 391 words

A LLM-Driven Acoustic Semantic Enriched Framework for Underwater Acoustic Target Recognition

📄 A LLM-Driven Acoustic Semantic Enriched Framework for Underwater Acoustic Target Recognition #水声目标识别 #音频分类 #对比学习 #大语言模型 #跨模态 ✅ 7.0/10 | 前25% | #音频分类 | #对比学习 #大语言模型 | #水声目标识别 #对比学习 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 中 👥 作者与机构 第一作者:Jingkai Cao(东华大学计算机科学与技术学院) 通讯作者:Shuai Yu(大连理工大学信息与通信工程学院),Wei Li(复旦大学计算机科学与技术学院) 作者列表:Jingkai Cao(东华大学计算机科学与技术学院),Shicheng Ding(Tabor Academy, Massachusetts, USA),Shuai Yu(大连理工大学信息与通信工程学院),Wei Li(复旦大学计算机科学与技术学院) 💡 毒舌点评 亮点:该工作巧妙地利用LLM(Gemini 2.5)生成细粒度的声学语义描述,构建知识库,以此“丰富”简单的类别标签,从而更精准地对齐音频与文本特征,有效缓解了多模态学习中常见的信息不对称问题。 短板:方法严重依赖于外部LLM生成的文本质量,且整个推理流程(特别是LKR模块)引入了额外的检索和融合计算开销。最致命的是,代码和模型均未开源,这极大限制了其在实际研究社区中的可验证性和影响力。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及是否公开。 数据集:使用的是公开数据集DeepShip [20]和ShipsEar [23],但论文未提供获取方式链接。 Demo:未提供。 复现材料:论文提供了非常详细的训练配置、损失函数权重、数据预处理步骤等文字描述,但未提供配置文件、检查点或附录中的额外细节。 论文中引用的开源项目:主要依赖于预训练的 CLAP 模型 [13] 作为基础编码器。 📌 核心摘要 问题:现有的水声目标识别(UATR)方法,无论是纯声学分类器还是早期的多模态方法,都存在“语义间隙”。后者通常仅使用粗糙的类别标签文本(如“这是一艘货船的声音”),无法充分描述音频信号中丰富的细节,导致文本引导能力不足,模型难以学到更具判别性的声学特征。 方法核心:本文提出了一个LLM驱动的声学语义增强框架(ASE-CLAP)。核心在于引入LLM驱动的知识检索(LKR)模块,利用LLM为每类船舶生成多条详细的声学特性描述,并编码成“声学-语义知识库”。在推理时,为每个类别检索最相关的语义描述并融合,生成比原始标签更丰富的“语义原型”。随后,通过多层次对比学习(全局级+原型级),将音频嵌入与这些细化的文本表示进行对齐。 创新性:与已有工作相比,新在:(1)首次将LLM生成的知识显式引入水声目标识别的文本表示中,实现了从“标签”到“知识增强原型”的升级;(2)设计了多层次对比学习机制,同时对齐全局类别信息和细粒度声学语义,增强了特征判别力。 实验结果:在DeepShip和ShipsEar两个公开数据集上,ASE-CLAP均取得了最优性能。例如,在DeepShip数据集上,OA(总体准确率)达到84.5%,超越了最强的多模态基线(MF-UATR, 79.3%)5.2个百分点,也显著优于纯声学模型(MHT-Transformer, 78.8%���。消融实验表明,LKR模块和多层次对比学习均带来了性能提升。图2的可视化显示,本方法学得的嵌入空间聚类更紧凑、类间分离度更高。 实际意义:该工作为提升UATR系统的识别精度提供了一种有效的多模态学习范式,证明了引入领域特定语义知识的价值,对水下声学感知、海洋监测等应用有积极意义。 主要局限性:(1)对生成高质量语义描述的LLM存在强依赖;(2)LKR模块在推理时引入了额外的检索和融合计算复杂度;(3)论文未公开代码、模型和生成描述的具体提示词,可复现性受限。 🏗️ 模型架构 本文提出的ASE-CLAP框架整体架构如图1所示。其完整流程和主要组件如下: ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 379 words

A Metric Learning Approach to Heart Murmur Detection from Phonocardiogram Recordings

📄 A Metric Learning Approach to Heart Murmur Detection from Phonocardiogram Recordings #音频分类 #对比学习 #数据增强 #生物声学 #监督学习 ✅ 7.7/10 | 前25% | #音频分类 | #对比学习 | #数据增强 #生物声学 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者:Florian Lübbe(Fraunhofer Institute for Software and Systems Engineering ISST;University of Hildesheim Department of Data Science) 通讯作者:未说明 作者列表:Florian Lübbe(Fraunhofer ISST & University of Hildesheim)、Ahmad Bdeir(University of Hildesheim Department of Data Science)、Niels Landwehr(University of Hildesheim Department of Data Science)、Pinar Bisgin(University of Hildesheim Department of Data Science & TU Dortmund University Department of Computer Science) 💡 毒舌点评 亮点在于系统性地验证了度量学习范式在心音分析不同任务(二分类、多分类、多标签)上的有效性,且在噪声更小的BMD-HS数据集上取得了高达18%的性能飞跃,证明了方法的潜力。短板则是对“多标签”场景的处理相对简单,仅将其视为一种分类任务,未能更深入地利用疾病(如主动脉瓣狭窄与反流)之间可能存在的生理关联性来设计更精巧的损失函数或网络结构。 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 389 words

A Unsupervised Domain Adaptation Framework For Semi-Supervised Melody Extraction Using Confidence Matrix Replace and Nearest Neighbour Supervision

📄 A Unsupervised Domain Adaptation Framework For Semi-Supervised Melody Extraction Using Confidence Matrix Replace and Nearest Neighbour Supervision #音乐信息检索 #领域适应 #对比学习 #半监督学习 #数据增强 🔥 8.0/10 | 前25% | #音乐信息检索 | #领域适应 | #对比学习 #半监督学习 学术质量 6.2/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Shengqi Wang(东华大学计算机科学与技术学院) 通讯作者:Shuai Yu(大连理工大学信息与通信工程学院),Wei Li(复旦大学计算机科学与技术学院) 作者列表:Shengqi Wang(东华大学计算机科学与技术学院)、Shuai Yu(大连理工大学信息与通信工程学院)、Wei Li(复旦大学计算机科学与技术学院) 💡 毒舌点评 本文将“被动适应”重新定义为“主动修复”并设计了相应的CMR和NNS模块,技术故事讲得通顺且实验验证充分,在跨域旋律提取上取得了稳健提升,是个不错的应用导向型工作。但CMR模块中使用KL散度进行“最兼容”补丁选择的设计动机和计算开销分析稍显薄弱,部分核心机制(如patch-wise操作的具体实现)在文中描述不够细致,图表(图2)的可视化对比冲击力也有提升空间。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:实验使用了MIR-1K、MedleyDB、MIREX05等公开数据集,但论文未提供具体获取方式或处理脚本。 Demo:未提及。 复现材料:给出了部分实现细节(如使用pysndfx进行增强,Adam优化器,学习率0.0005,λ1=0.1, λ2=0.2, CFP特征参数),但未提供完整的训练配置、代码或附录。 论文中引用的开源项目:引用了pysndfx用于音频增强,mir_eval用于评估指标计算。 开源计划:论文中未提及开源计划。 📌 核心摘要 问题:旋律提取任务面临标注数据稀缺和跨域偏移(如不同音乐风格)两大挑战。现有半监督域适应方法多采用“被动适应”范式,易受伪标签噪声和域差异限制。 方法核心:提出一种“主动修复”范式的无监督域适应框架,包含两个核心模块:置信度矩阵替换(CMR)和最近邻监督(NNS)。CMR通过分析模型预测的置信度,主动用高置信度区域(来自增强版本)替换低置信度区域,生成更强的训练样本。NNS利用最近邻对比学习,在语义特征空间对齐源域和目标域。 创新点:首次将“主动修复”思想引入该领域;CMR实现了像素级(patch-wise)的语义修复;NNS实现了样本级的特征空间对齐;两者结合共同提升了模型对无标签目标域数据的利用率。 实验结果:在六个跨流行(P)、古典(C)、爵士(J)风格的旋律提取任务上,所提方法(CMR-NNS)在整体准确率(OA)上均优于基线模型(MSNet, FTANet, LcMLP, MCSSME)。关键数据见下表。 表3:与基线方法的总体准确率(OA)对比 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 307 words

ACIR-MACL: Effective Multimodal Sentiment Analysis via Attention-Based Causal Intervention Regularization and Multi-Aspect Contrastive Learning

📄 ACIR-MACL: Effective Multimodal Sentiment Analysis via Attention-Based Causal Intervention Regularization and Multi-Aspect Contrastive Learning #情感分析 #对比学习 #因果推理 #多模态模型 #跨模态 ✅ 7.0/10 | 前25% | #情感分析 | #对比学习 | #因果推理 #多模态模型 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Lei Liu (云南大学信息科学与工程学院) 通讯作者:You Zhang (云南大学信息科学与工程学院) 作者列表:Lei Liu (云南大学信息科学与工程学院), You Zhang* (云南大学信息科学与工程学院), Jin Wang (云南大学信息科学与工程学院), Dan Xu (云南大学信息科学与工程学院), Xuejie Zhang (云南大学信息科学与工程学院) 💡 毒舌点评 亮点:将因果推断中的“前门调整”思想创造性地应用于注意力机制,通过构造反事实路径进行正则化,为解决多模态中的虚假关联提供了新颖且理论依据较强的技术路径。短板:虽然提供了代码链接,但核心消融实验(Table 3)的具体数值在所提供的文本中缺失,严重削弱了其结论的可验证性和复现指导价值,对于一篇声称在顶级会议发表的工作而言,这是关键的细节疏漏。 🔗 开源详情 代码:论文提供了代码仓库链接:https://github.com/1579364808/ACIR-MACL。 模型权重:论文中未提及是否公开预训练模型权重。 数据集:论文使用的是公开基准数据集(CMU-MOSI, CMU-MOSEI, CH-SIMS),但未提供获取或处理这些数据集的额外脚本。 Demo:论文中未提及提供在线演示。 复现材料:论文提供了代码,但复现所需的部分关键材料存在缺失:1) 消融实验(Table 3)的完整数值表格;2) 详细的超参数配置(如各损失项的权重λacir, λscl等具体值、学习率、字典大小K);3) 训练过程的详细日志或检查点。 论文中引用的开源项目:引用并依赖了以下开源工具/模型:BERT (bert-base-uncased, bert-base-chinese)、COVAREP(用于声学特征提取)、FACET(用于视觉特征提取,来自iMotions)、M-SENA平台(可能用于数据处理或基线对比)。 📌 核心摘要 要解决什么问题:本论文旨在解决多模态情感分析(MSA)中两个核心挑战:一是非文本模态(视觉、声学)中存在的虚假相关性(spurious correlations),导致模型学习到错误的捷径;二是如何学习到跨模态对齐且具有类别判别性的统一表示,以弥合模态鸿沟。 方法核心是什么:提出ACIR-MACL框架,包含两个并行模块:(1)基于注意力的因果干预正则化(ACIR),其核心是受“前门调整”启发,通过构建一个去除混淆因子(confounder)的反事实注意力路径,并与原始事实路径进行一致性约束,从而净化视觉和声学特征在注意力融合过程中的影响。(2)多方面对比学习(MACL),它将对比学习目标系统性地拆分为跨模态对齐(SCL)、模态内类别可分性(IAMCL)和跨模态类别可分性(IEMCL)三个子目标分别优化。 与已有方法相比新在哪里:新在将因果干预的思路从特征层面提升到注意力机制的过程层面,并设计了双路径(事实/反事实)的正则化方案。同时,MACL明确区分并独立优化了“对齐”和“判别”这两个通常被混合处理的对比学习目标,提供了更精细的表示学习策略。 主要实验结果如何:在MOSI、MOSEI和CH-SIMS三个基准数据集上进行了广泛实验。如表1所示,在MOSI数据集上,本方法在二分类准确率(Acc-2)、F1值(F1)和五分类准确率(Acc-5)上取得最佳(87.20%, 87.08%, 53.79%)。在更大规模的MOSEI数据集上,在五分类和七分类准确率(Acc-5, Acc-7)以及相关性(Corr)上取得最佳。在中文数据集CH-SIMS上,在二分类、三分类和五分类准确率上取得最佳。消融实验(表3,但具体数值未提供)表明,移除ACIR或MACL模块均导致性能显著下降,验证了各模块的有效性。 实际意义是什么:该工作推动了因果推断和对比学习在多模态情感分析中的融合应用,为构建更鲁棒、更可解释的MSA模型提供了新思路。其方法框架具有通用性,可被借鉴到其他多模态学习任务中。 主要局限性是什么:论文未提供消融实验的完整数值表格,影响了对组件贡献的精确评估。ACIR模块依赖于可学习的“混淆因子字典”,其初始化(K-means)和更新机制对最终性能的影响有待更深入分析。此外,论文未探讨该方法在更极端的模态缺失或噪声场景下的鲁棒性。 🏗️ 模型架构 ACIR-MACL框架整体分为三个阶段:单模态特征编码、融合与表示学习(包含ACIR和MACL)、预测与损失计算。其详细架构如图1所示。 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 399 words

Adaptive Embedding Fusion with Contrastive Learning for Robust Fully Few-Shot Class-Incremental Audio Classification

📄 Adaptive Embedding Fusion with Contrastive Learning for Robust Fully Few-Shot Class-Incremental Audio Classification #音频分类 #对比学习 #少样本学习 #增量学习 #自适应特征融合 ✅ 7.5/10 | 前25% | #音频分类 | #对比学习 | #少样本学习 #增量学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Kai Guo(北京理工大学) 通讯作者:Xiang Xie†*(北京理工大学, †北京理工大学珠海校区) 作者列表:Kai Guo(北京理工大学), Xiang Xie(北京理工大学, 北京理工大学珠海校区), Shangkai Zhao(北京理工大学) 💡 毒舌点评 该论文精准地“手术”解决了EDE模型膨胀的痛点,并通过引入对比学习“补血”提升性能,实验结果亮眼,工程改进思路清晰。但理论分析稍显薄弱,为何自适应融合后对比学习效果更佳,未给出更深层次的解释;且对比学习的应用较为常规,未探索更前沿的对比策略。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及公开预训练或微调的模型权重。 数据集:论文提供了三个数据集(FSC-89, LS-100, NSynth-100)在ModelScope上的链接,表明数据集是可获取的。 Demo:未提及在线演示。 复现材料:论文详细描述了实验设置(骨干模型、超参数、训练轮数、硬件等),提供了足够信息以尝试复现,但未提供完整的代码或训练脚本。 论文中引用的开源项目:依赖的核心开源项目是AST(Audio Spectrogram Transformer),论文使用了其在AudioSet上预训练的版本。其他引用的基准方法(如iCaRL, FACT, PAN)来自先前工作,论文未说明是否使用其官方实现。 📌 核心摘要 问题:论文针对“全少样本类增量音频分类”(FFCAC)任务,即每个新类音频样本极少且需持续学习新类别的场景。现有基线方法EDE通过拼接多个特征提取器的输出来保留旧知识,但导致模型输入维度随学习进程无限膨胀,影响效率与性能。 方法核心:提出“自适应嵌入融合EDE(AEF-EDE)”。核心是引入一个可学习的加权融合模块,将不同时期(会话)的特征提取器输出进行加权求和,而非简单拼接,从而固定模型输入维度。同时,在增量学习阶段引入监督对比学习损失(LCL),以增强特征的判别性。 创新点:(1) 设计AEF模块,通过可学习参数自适应融合多会话嵌入,避免模型膨胀;(2) 将对比学习策略从基类会话(样本少)调整至增量会话(样本相对多),并证明其在AEF结构下能有效提升性能;(3) AEF与对比学习的结合在多个数据集上超越了原始EDE。 主要实验结果:在三个数据集上,AEF-EDE的平均准确率(AA)均优于EDE和其他方法。例如,在FSC-89上AA为43.39%(EDE为38.74%),在LS-100上为61.15%(EDE为56.65%),在NSynth-100上为56.44%(EDE为51.19%)。消融实验证实了AEF模块与对比学习损失(LCL)的协同有效性。 实际意义:为资源受限的音频持续学习场景(如野外声音监测)提供了一种更高效、可扩展的解决方案。 主要局限性:对比学习在基类会话中因样本过少而失效,作者承认这是未来工作方向;论文未讨论AEF模块的计算复杂度与EDE的具体对比;可学习参数θ的初始化和收敛性未深入分析。 🏗️ 模型架构 论文提出的AEF-EDE模型架构是对基线EDE的改进,其整体流程和核心模块如图1、图2所示。 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 378 words

ADH-VA: Adaptive Directed-Hypergraph Convolution with VA Contrastive Learning for Multimodal Conversational Emotion Recognition

📄 ADH-VA: Adaptive Directed-Hypergraph Convolution with VA Contrastive Learning for Multimodal Conversational Emotion Recognition #语音情感识别 #多模态模型 #超图网络 #对比学习 ✅ 7.5/10 | 前10% | #语音情感识别 | #超图网络 | #多模态模型 #对比学习 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Ziqi Shu1,†, Rongzhou Zhou1,† (†表示共同第一作者) 通讯作者:Qingfeng Wu1,⋆ (⋆表示通讯作者) 作者列表:Ziqi Shu(厦门大学电影学院)、Rongzhou Zhou(厦门大学电影学院)、Xiaodong Wang(厦门大学电影学院)、Qingfeng Wu(厦门大学电影学院)、Lu Cao(厦门大学) 💡 毒舌点评 本文巧妙地将有向超图的结构优势(建模高阶交互)与因果信息流约束(防止信息泄露)相结合,并在效价-唤醒度连续维度空间进行对比学习以精炼特征,整体框架设计颇具巧思。然而,其核心VA对比学习依赖外部预训练模型(如RoBERTa, EmoFAN, Wav2Vec2)提供监督信号,这不仅可能引入领域偏差,也意味着模型的性能部分受制于这些外部工具的精度。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:使用公开数据集IEMOCAP和MELD,但论文未说明具体的获取或预处理脚本。 Demo:未提供在线演示。 复现材料:论文提供了方法的详细数学描述和架构图,但未提供训练细节(如超参数配置文件、随机种子)、模型检查点或附录补充材料。 论文中引用的开源项目:引用了多个作为基线和组件的开源工作,如RoBERTa-base, EmoFAN, Wav2Vec2-Large-Robust等,但未说明是否使用了这些项目的官方实现。 总结:论文中未提及任何开源计划。 📌 核心摘要 要解决的问题:多模态对话情感识别面临跨模态异质性、情感线索不一致以及强上下文/说话人依赖性等挑战。现有图或Transformer方法在建模高阶交互、保持时间因果性和避免冗余/过平滑方面存在不足。 方法核心:提出ADH-VA框架,包含两大核心组件:(1) 基于效价-唤醒度(VA)的对比学习目标,用于在嵌入空间对齐和精炼单模态特征;(2) 自适应有向超图卷积(ADHConv),用于建模对话内的高阶模态内/间依赖关系,并通过有向边强制信息按时间因果流动。 与已有方法相比新在哪里:a) 首次将有向超图引入该任务,结合了超图的高阶建模能力和有向图的因果约束;b) ADHConv具有自适应加权机制,能动态调整超边和节点权重以抑制冗余和过平滑;c) 将VA连续维度空间作为对比学习的监督信号,为无监督对比学习提供了有意义的情感先验。 主要实验结果:在两个基准数据集IEMOCAP和MELD上,ADH-VA均取得了最优性能。例如,在IEMOCAP上达到74.71%准确率和74.85%加权F1,超越此前最佳方法SDT;在MELD上达到69.33%准确率和67.91%加权F1,超越此前最佳方法HAUCL。消融实验表明,有向性、自适应加权和VA对比学习模块均对性能有显著贡献。 实际意义:该工作为多模态对话情感识别提供了新的强基线模型,其方法思想(有向高阶图建模、情感空间对比学习)可推广至其他需要建模序列依赖和多源信息融合的任务。 主要局限性:超图构建在长对话和多人对话中计算开销可能较大;对外部VA估计器的依赖可能导致领域迁移时的偏差;在嘈杂条件下视觉线索的利用仍不充分。 🏗️ 模型架构 ADH-VA的整体架构如图1所示,主要包含四个阶段:数据预处理、VA驱动的对比学习、自适应有向超图卷积和分类器。 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 401 words

ALMA-Chor: Leveraging Audio-Lyric Alignment with Mamba for Chorus Detection

📄 ALMA-Chor: Leveraging Audio-Lyric Alignment with Mamba for Chorus Detection #音乐信息检索 #多模态模型 #对比学习 #Mamba #端到端 ✅ 7.0/10 | 前25% | #音乐信息检索 | #多模态模型 | #对比学习 #Mamba 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者:Ruixi Bao(清华大学电子工程系, TeleAI 研究院) 通讯作者:Xiao-Lei Zhang†(TeleAI 研究院), Xuelong Li†(TeleAI 研究院) 作者列表:Ruixi Bao(清华大学电子工程系, TeleAI 研究院), Hao Ma(TeleAI 研究院), Shansong Liu†(TeleAI 研究院), Cheng Gong(TeleAI 研究院), Chi Zhang(TeleAI 研究院), Xiao-Lei Zhang†(TeleAI 研究院), Wei-Qiang Zhang(清华大学电子工程系), Xuelong Li†(TeleAI 研究院) 💡 毒舌点评 论文巧妙地将音乐基础模型MERT与前沿的Mamba2架构结合用于长序列副歌检测,并创新性地融入歌词模态信息,在自有数据集上取得了亮眼的性能提升,展现了多模态建模的有效性。然而,其核心验证建立在一个未公开的“内部数据集”上,这使得“超越SOTA”的声明大打折扣,也让其他研究者难以复现和公平评判。 ...

2026-04-29 · 更新于 2026-07-27 · 2 min · 298 words