少样本学习

📄 Does language matter for spoken word classification? A multilingual generative meta-learning approach #音频分类 #少样本学习 #多语言 #关键词检测 #元学习 ✅ 6.0/10 | 前50% | #音频分类 | #少样本学习 | #多语言 #关键词检测 | arxiv 学术质量 4.0/8 | 影响力 0.8/2 | 可复现性 0.5/1 | 置信度 中 👥 作者与机构 第一作者：Batsirayi Mupamhi Ziki 通讯作者：未说明 作者列表：Batsirayi Mupamhi Ziki, Louise Beyers, Ruan van der Merwe 💡 毒舌点评 论文提出了一个有价值的经验性问题——多语言建模在少样本口语词分类中是否优于单语言建模，并给出了一个初步答案：在特定的生成式元学习（GeMCL）框架下，增加语言种类带来的性能提升可能远小于预期，数据量可能是一个更强的影响因素。然而，其结论的强度被一个关键的实验设计所限制：所有模型都基于同一个GeMCL框架，且缺乏与更广泛、更常见的基线（如标准监督学习微调、其他元学习算法）的全面对比。因此，“语言不重要”的结论更像是“在GeMCL这一特定框架下的观察”，而非一个普适规律。论文自我意识到了这一点的局限，并谨慎地提出了未来工作方向。 📌 核心摘要 要解决的问题：本文探讨在少样本口语词分类（关键词检测）任务中，使用多语言数据训练的模型是否一定优于单语言模型，并探究“语言”在其中的作用。 方法核心：采用生成式元持续学习（GeMCL）框架，该框架结合了元学习（处理少样本）和贝叶斯生成建模（为每个类别建模高斯分布），并具有抗灾难性遗忘的特性。实验分别在MSWC数据集的四种高资源语言上训练了单语言、双语言和多语言GeMCL模型。 与已有方法的对比：该工作将GeMCL这一结合了元学习和持续学习特性的算法，应用于多语言口语词分类这一交叉场景。其核心分析视角（在相同框架下，系统比较不同语言组合训练的模型性能）相较于简单地应用该算法，提供了一种新颖的经验性比较。 主要实验结果：在多语言口语词语料库（MSWC）上进行25-way 5-shot评估。 表2 显示，在四种训练语言上，单语言模型与多语言模型的平均准确率差异微小且统计不显著（例如，德语单语93.99% vs. 多语言93.96%）。 对于未见过的语言，多语言模型仅在统计上显著优于双语模型（11种语言）和各单语言模型（29-38种语言）。但单语模型与多语言模型的平均绝对准确率差从未超过6%（见图3）。 图2 的箱线图揭示了一个关键发现：模型性能与训练期间见到的独特数据小时数的相关性，似乎比与训练语言数量的相关性更强。例如，双语模型（数据量较大）与多语言模型的平均绝对差仅约1%。 实际意义：该研究暗示，在构建高效的多语言少样本语音分类系统时，简单地增加训练语言数量可能并非最有效的策略；确保充足、多样的训练数据量可能更为关键。这为低资源语言系统设计提供了经验参考。 主要局限性：实验仅基于GeMCL这一种元学习框架，结论的普适性受限；与传统非元学习基线的比较缺失；未深入分析不同语言在特征空间的可分性差异。作者在结论中明确承认了这些局限，并指出需要进一步研究。 🔗 开源详情 代码：论文中未提及代码仓库链接 模型权重：论文中未提及模型权重链接 数据集：Multilingual Spoken Words Corpus (MSWC)；论文中提及其由Mazumder等人（2021b）发布，但未提供直接链接。可通过作者在论文中引用的原始文献获取相关信息。 Demo：论文中未提及在线演示链接 复现材料：论文中提供了模型架构细节（12层12头Transformer，85,066,756参数）、训练超参数（AdamW优化器，权重衰减1e-2，学习率5e-5，训练2000步）、元学习设置（25-way-5-shot）等信息，但未提供检查点或完整配置文件下载。 论文中引用的开源项目： Multilingual Spoken Words Corpus (MSWC)：论文中引用其为Mazumder et al., 2021b，但未提供URL。 GeMCL (Generative Meta-Continual Learning)：论文中引用为Banayeeanzade et al., 2021 和 Lee et al., 2024，但未提供代码仓库链接。 模型无关元学习 (MAML)：论文中引用为Finn et al., 2017，但未提供代码链接。 原型网络 (Prototypical Networks)：论文中引用为Snell et al., 2017，但未提供代码链接。 AdamW优化器：论文中引用为Loshchilov and Hutter, 2019，但未提供链接。 遗漏灾难性遗忘免疫：GeMCL算法的特性，论文中引用为Banayeeanzade et al., 2021，但未提供单独代码链接。 🏗️ 方法概述和架构 整体流程概述：本文采用生成式元持续学习（GeMCL）框架，这是一个结合了元学习和贝叶斯生成建模的端到端少样本分类系统。系统的核心流程是：在元训练阶段，通过采样大量“N-way K-shot”任务来优化一个共享的音频编码器和贝叶斯分类器的先验参数；在元测试阶段，对于新的少样本分类任务，利用支持集数据更新类别的后验分布，并对查询集样本进行分类。 ...

📄 Better Together: Leveraging Unpaired Multimodal Data for Stronger Unimodal Models #多模态模型 #音频分类 #自监督学习 #迁移学习 #少样本学习 ✅ 7.0/10 | 前25% | #音频分类 | #自监督学习 #迁移学习 | #多模态模型 #自监督学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Sharut Gupta (MIT CSAIL) 通讯作者：未说明（论文中未明确标注通讯作者） 作者列表：Sharut Gupta (MIT CSAIL), Shobhita Sundaram (MIT CSAIL), Chenyu Wang (MIT CSAIL), Stefanie Jegelka (TU Munich, MIT CSAIL), Phillip Isola (MIT CSAIL) 💡 毒舌点评 亮点在于其理论部分严谨地证明了无配对多模态数据在信息论层面的价值，为“跨模态知识蒸馏无需配对”提供了坚实论据，实验也相当全面。短板是UML的框架（共享权重，交替训练）相对直观，并非一个复杂的“新模型”，且其实验验证主要围绕视觉分类，对理论承诺的“适用于音频”只做了初步展示，深度稍显不足。 ...

📄 Adaptive Embedding Fusion with Contrastive Learning for Robust Fully Few-Shot Class-Incremental Audio Classification #音频分类 #对比学习 #少样本学习 #增量学习 #自适应特征融合 ✅ 7.5/10 | 前25% | #音频分类 | #对比学习 | #少样本学习 #增量学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Kai Guo（北京理工大学） 通讯作者：Xiang Xie†*（北京理工大学， †北京理工大学珠海校区） 作者列表：Kai Guo（北京理工大学）， Xiang Xie（北京理工大学， 北京理工大学珠海校区）， Shangkai Zhao（北京理工大学） 💡 毒舌点评 该论文精准地“手术”解决了EDE模型膨胀的痛点，并通过引入对比学习“补血”提升性能，实验结果亮眼，工程改进思路清晰。但理论分析稍显薄弱，为何自适应融合后对比学习效果更佳，未给出更深层次的解释；且对比学习的应用较为常规，未探索更前沿的对比策略。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：未提及公开预训练或微调的模型权重。 数据集：论文提供了三个数据集（FSC-89， LS-100， NSynth-100）在ModelScope上的链接，表明数据集是可获取的。 Demo：未提及在线演示。 复现材料：论文详细描述了实验设置（骨干模型、超参数、训练轮数、硬件等），提供了足够信息以尝试复现，但未提供完整的代码或训练脚本。 论文中引用的开源项目：依赖的核心开源项目是AST（Audio Spectrogram Transformer），论文使用了其在AudioSet上预训练的版本。其他引用的基准方法（如iCaRL, FACT, PAN）来自先前工作，论文未说明是否使用其官方实现。 📌 核心摘要 问题：论文针对“全少样本类增量音频分类”（FFCAC）任务，即每个新类音频样本极少且需持续学习新类别的场景。现有基线方法EDE通过拼接多个特征提取器的输出来保留旧知识，但导致模型输入维度随学习进程无限膨胀，影响效率与性能。 方法核心：提出“自适应嵌入融合EDE（AEF-EDE）”。核心是引入一个可学习的加权融合模块，将不同时期（会话）的特征提取器输出进行加权求和，而非简单拼接，从而固定模型输入维度。同时，在增量学习阶段引入监督对比学习损失（LCL），以增强特征的判别性。 创新点：(1) 设计AEF模块，通过可学习参数自适应融合多会话嵌入，避免模型膨胀；(2) 将对比学习策略从基类会话（样本少）调整至增量会话（样本相对多），并证明其在AEF结构下能有效提升性能；(3) AEF与对比学习的结合在多个数据集上超越了原始EDE。 主要实验结果：在三个数据集上，AEF-EDE的平均准确率（AA）均优于EDE和其他方法。例如，在FSC-89上AA为43.39%（EDE为38.74%），在LS-100上为61.15%（EDE为56.65%），在NSynth-100上为56.44%（EDE为51.19%）。消融实验证实了AEF模块与对比学习损失（LCL）的协同有效性。 实际意义：为资源受限的音频持续学习场景（如野外声音监测）提供了一种更高效、可扩展的解决方案。 主要局限性：对比学习在基类会话中因样本过少而失效，作者承认这是未来工作方向；论文未讨论AEF模块的计算复杂度与EDE的具体对比；可学习参数θ的初始化和收敛性未深入分析。 🏗️ 模型架构 论文提出的AEF-EDE模型架构是对基线EDE的改进，其整体流程和核心模块如图1、图2所示。 ...

📄 Co-Initialization of Control Filter and Secondary Path via Meta-Learning for Active Noise Control #音频安全 #元学习 #信号处理 #少样本学习 #自适应滤波 ✅ 7.5/10 | 前25% | #音频安全 | #元学习 | #信号处理 #少样本学习 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Ziyi Yang (Smart Nation TRANS Lab, School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore) 通讯作者：Zhengding Luo (Smart Nation TRANS Lab, School of Electrical and Electronic Engineering, Nanyang Technological University, Singapore) 作者列表：Ziyi Yang (南洋理工大学)、Li Rao (南京大学声学研究所现代声学重点实验室)、Zhengding Luo (南洋理工大学, 通讯作者)、Dongyuan Shi (西北工业大学)、Qirui Huang (南洋理工大学)、Woon-Seng Gan (南洋理工大学) 💡 毒舌点评 这篇论文的亮点在于其巧妙的工程切入点：不改变工业界广泛使用的FxLMS算法本身，而是通过一个“离线学习、在线简单设置”的元学习初始化模块来提升其性能，这种“即插即用”的兼容性思维非常务实。但其短板也很明显：验证场景过于“温和”和“干净”——仅在预录的路径切换实验上演示效果，缺乏对真实世界中连续、渐变、非平稳声学环境变化的长期跟踪评估，使得结论的鲁棒性打了折扣。 ...

📄 DepthTalk: Few-Shot Talking Head Generation with Depth-Aware 3D Gaussian Field Motion #说话人生成 #3D高斯溅射 #少样本学习 #音视频 ✅ 7.0/10 | 前25% | #说话人生成 | #3D高斯溅射 | #少样本学习 #音视频 学术质量 5.8/7 | 选题价值 1.2/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Shucheng Ji（澳门理工大学应用科学学院） 通讯作者：Xiaochen Yuan（澳门理工大学应用科学学院） 作者列表：Shucheng Ji（澳门理工大学应用科学学院）、Junqing Huang（澳门理工大学应用科学学院）、Yang Lian（澳门理工大学应用科学学院）、Xiaochen Yuan（澳门理工大学应用科学学院） 💡 毒舌点评 亮点在于其“深度梯度损失”设计很巧妙，通过监督深度图的梯度而非绝对值来防止尺度不一致导致的深度崩塌，这是一个对实际工程问题有深刻洞察的解决方案。短板是其整体框架建立在强大的预训练深度先验模型（Sapiens）之上，这在一定程度上限制了方法的通用性和在无此类先验场景下的可用性，且论文未提供代码，复现门槛较高。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开模型权重。 数据集：使用了HDTF和公开数据集，但未说明这些数据集是否在本工作专属发布或如何获取。 Demo：未提及在线演示。 复现材料：提供了训练时长（预训练2小时）、优化器、学习率、损失权重等关键超参数，但缺乏batch size、数据预处理细节等，复现信息不够充分。 论文中引用的开源项目：引用了InsTaG（[2]）、SyncTalk（[10]）、GeneFace（[14]）、MimicTalk（[15]）等开源工作作为基线或技术参考。 总体：论文中未提及开源计划。 📌 核心摘要 问题：基于3D高斯溅射（3DGS）的说话人生成模型在优化时存在深度歧义，导致在渲染新视角（尤其是大角度偏转）时产生模糊、暗区等视觉伪影。现有方法仅在训练阶段引入深度监督，缺乏重建时的深度感知机制。 方法核心：提出DepthTalk框架。其核心是深度感知高斯运动网络（DAGM），采用双管道架构：一个“深度感知管道”整合深度先验、表情和音频特征预测深度相关的高斯场变换；另一个“几何感知管道”专注于利用表情和音频预测面部运动变换。两者通过自适应运动融合（MF） 模块结合。此外，提出了深度梯度损失（DGL），通过Sobel算子计算并比较渲染深度图与先验深度图的梯度幅度来施加监督，避免因绝对尺度差异造成的深度崩塌。 新意：将深度感知直接嵌入到高斯场的重建（变换预测）过程中，而非仅用于训练正则化；解耦了深度对齐与面部运动建模；提出基于梯度的深度损失函数。 实验：在仅5秒视频的少样本设定下进行实验。定量结果：DepthTalk在图像质量指标（PSNR: 29.8974, LPIPS: 0.0530, SSIM: 0.9226）上优于所有对比方法（包括InsTaG），唇部运动精度（LMD: 3.0836）也达到最佳。消融研究表明，DAGM、MF和DGL三个组件共同作用才能达到最佳性能。定性结果（图3）显示，DepthTalk在生成新视角面部时，光照更真实，伪影更少。 意义：在数据受限（少样本）场景下，实现了更高质量、更几何一致的说话人头部视频合成，对数字人、虚拟现实等应用有潜在价值。 局限性：依赖外部预训练的深度先验模型（Sapiens）；实验数据集（HDTF等）的规模和多样性有限；推理速度（32.66 FPS）虽实时但略低于InsTaG。 🏗️ 模型架构 论文的整体架构如图2所示。输入是音频特征、上半脸表情控制信号和头部姿态（相机位姿）。核心流程如下： ...

📄 Domain-Invariant Representation Learning of Bird Sounds #生物声学 #对比学习 #自监督学习 #领域适应 #少样本学习 ✅ 6.5/10 | 前50% | #生物声学 | #对比学习 | #自监督学习 #领域适应 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Ilyass Moummad（INRIA, LIRMM, Université de Montpellier, France） 通讯作者：未说明 作者列表：Ilyass Moummad（INRIA, LIRMM, Université de Montpellier, France）、Romain Serizel（Université de Lorraine, Loria, Nancy, France）、Emmanouil Benetos（C4DM, Queen Mary University of London, UK）、Nicolas Farrugia（IMT Atlantique, Lab-STICC, Brest, France） 💡 毒舌点评 亮点：ProtoCLR通过将对比学习的复杂度从O(N²)降至O(N×C)，提供了一个在计算上更优雅、对生物声学这类大规模数据更实用的监督对比学习方案，并在特定评估基准上验证了其有效性。 短板：改进幅度有限，平均准确率提升不足3个百分点，且面对更强的领域特定基线（如Perch）时优势并不明显，应用场景受限于鸟类声音这一细分领域。 ...

📄 Enhancing Automatic Drum Transcription with Online Dynamic Few-Shot Learning #音乐信息检索 #少样本学习 #领域适应 #实时处理 ✅ 7.0/10 | 前25% | #音乐信息检索 | #少样本学习 | #领域适应 #实时处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Philipp Weyers (Fraunhofer Institute for Integrated Circuits (IIS), Germany) 通讯作者：未说明（论文中作者列表后未明确标注通讯作者） 作者列表：Philipp Weyers (Fraunhofer IIS), Christian Uhle (Fraunhofer IIS & International Audio Laboratories Erlangen), Meinard Müller (Fraunhofer IIS & International Audio Laboratories Erlangen), Matthias Lang (Fraunhofer IIS)。 💡 毒舌点评 亮点是首次在ADT中提出一种无需人工标注、支持流式处理的在线自适应方法，将少样本学习从“学习新类”巧妙地转化为“适配已知类的音色”，思路清晰且工程价值明确。短板在于，消融分析揭示其宣称的“在线自适应”带来的实际性能提升在部分数据集上有限，大部分性能增益其实来自离线训练阶段的优化（如第二阶段训练），这使得在线部分的贡献显得有些“锦上添花”而非核心突破。 ...

📄 Few-Shot Recognition of Audio Deepfake Generators using Graph-Based Prototype Adaptation #音频深度伪造检测 #少样本学习 #图神经网络 #音频取证 ✅ 7.5/10 | 前25% | #音频深度伪造检测 | #图神经网络 | #少样本学习 #音频取证 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yupeng Tan (广西大学计算机、电子信息学院，广西人工智能学院) 通讯作者：Wei Xie (广西大学计算机、电子信息学院，广西人工智能学院) 作者列表：Yupeng Tan (广西大学计算机、电子信息学院，广西人工智能学院)，Wei Xie (广西大学计算机、电子信息学院，广西人工智能学院) 💡 毒舌点评 本文巧妙地将图神经网络与转导学习范式结合，用于解决少样本音频深度伪造生成器识别中因数据稀缺导致的原型估计偏差问题，技术路线完整且实验结果显著优于基线。然而，其核心思想——利用无标签数据（查询集）的结构信息来优化有标签数据的原型表示——在少样本学习领域并非首创（如标签传播等），创新深度有限，且论文未提供任何开源代码或模型权重，对后续研究的可复现性构成障碍。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：未提及公开模型权重。 数据集：使用了公开数据集ASVspoof2019 LA和MLAAD，论文未提及额外数据。 Demo：未提供在线演示。 复现材料：论文提供了一些关键的超参数（如学习率、图top-k值、episode采样数），但缺少训练硬件信息、完整代码配置、权重文件以及Focal Loss和对比损失中的具体超参数（如γ, m）。 依赖的开源项目/模型： CLAP 音频编码器（论文引用[17]） 图卷积网络基础架构（论文引用[18]） Focal Loss（论文引用[19]） 对比学习框架（论文引用[20]） 消融实验中使用的RawNet3（论文引用[29]） 总体评价：论文中未提及完整的开源计划。 📌 核心摘要 问题：在音频取证中，识别深伪造音频的具体生成器类型至关重要，但新兴生成器的有标签样本极少，传统少样本方法因数据稀疏导致原型估计偏差大、特征区分度低。 方法：提出基于图的原型适应框架。在每个少样本任务中，将支持集和查询集样本构建成一个联合图（基于样本间距离的稀疏连接），通过图适应模块进行信息传播和特征精炼，再估计更可靠的原型进行分类。 创新：1）采用转导学习范式，联合利用有标签和支持样本构建任务特定图；2）设计图适应模块，通过图卷积网络精炼特征并校准原型，缓解原型偏差；3）在元测试阶段引入对比损失进行自适应。 实验：在ASVspoof2019 LA和MLAAD数据集上的5-way设置中，GPA方法在所有shot数下均取得最优准确率，例如在ASV2019LA上5-shot相比最强基线提升3.17%，10-shot提升6.12%，20-shot提升8.28%。消融实验验证了各组件的必要性。 意义：为应对新出现的音频深伪造威胁提供了一种有效的少样本识别方案，增强了音频取证系统对未知生成器的适应能力。 局限性：方法依赖预训练的CLAP编码器和特定的图构建策略，计算复杂度随样本数增加；实验仅在两个数据集上进行，对更多样化生成器和真实场景的泛化能力有待验证。 🏗️ 模型架构 模型架构图如图2所示。 ...

📄 Lightweight and Generalizable Acoustic Scene Representations Via Contrastive Fine-Tuning and Distillation #音频场景理解 #对比学习 #知识蒸馏 #少样本学习 #模型压缩 🔥 8.0/10 | 前25% | #音频场景理解 | #对比学习 | #知识蒸馏 #少样本学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kuang Yuan（卡内基梅隆大学，实习期间于Meta Reality Labs完成） 通讯作者：未说明 作者列表：Kuang Yuan（卡内基梅隆大学，Meta Reality Labs）、Yang Gao（Meta Reality Labs）、Xilin Li（Meta Reality Labs）、Xinhao Mei（Meta Reality Labs）、Syavosh Zadissa（Meta Reality Labs）、Tarun Pruthi（Meta Reality Labs）、Saeed Bagheri Sereshki（Meta Reality Labs） 💡 毒舌点评 亮点：精准地抓住了传统声学场景分类（ASC）模型“类别固定、无法迁移”的痛点，并将对比学习与表征蒸馏巧妙结合，从理论（结构化嵌入空间）到实验（开放集少样本适应）都给出了令人信服的解决方案。短板：论文自称为“轻量级”，但最轻的CP-Mobile学生模型也有6K参数，而用于对比的教师模型BEATs本身并非轻量级模型，这使得“轻量级”的对比语境稍显模糊；另外，实验仅在一个主要数据集（TAU22）上进行全量训练和蒸馏，开放集评估虽跨了两个数据集，但规模有限，泛化性的论证还可以更强。 ...

📄 MT-HuBERT: Self-Supervised Mix-Training for Few-Shot Keyword Spotting in Mixed Speech #关键词检测 #自监督学习 #混合语音处理 #少样本学习 ✅ 7.0/10 | 前25% | #关键词检测 | #自监督学习 | #混合语音处理 #少样本学习 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Junming Yuan (新疆大学计算机科学与技术学院 & 清华大学语音与语言技术中心，BNRist) 通讯作者：Dong Wang (清华大学语音与语言技术中心，BNRist)、Lantian Li (北京邮电大学人工智能学院)、Askar Hamdulla (新疆大学计算机科学与技术学院) 作者列表：Junming Yuan (新疆大学 & 清华大学)、Ying Shi (哈尔滨工业大学计算机科学与技术学院 & 清华大学)、Dong Wang (清华大学)、Lantian Li (北京邮电大学)、Askar Hamdulla (新疆大学) 💡 毒舌点评 亮点在于提出了一个思路清晰、动机合理的SSL预训练框架(MT-HuBERT)，通过让模型预测混合语音中每个源信号的干净声学单元组合，优雅地解决了混合语音表示学习问题，并在多个基线和条件下取得了稳健的性能提升。短板是论文的实验仅基于Google Speech Commands这一相对简单的关键词集合，对于更复杂的混合场景（如不同语言、更长的短语、严重噪声）以及模型的计算效率缺乏深入探讨，其“State-of-the-Art”的宣称在当前比较范围内成立，但泛化能力有待更大规模的验证。 ...