UNMIXX: Untangling Highly Correlated Singing Voices Mixtures

📄 UNMIXX: Untangling Highly Correlated Singing Voices Mixtures #语音分离 #时频分析 #歌唱语音合成 #数据增强 #低资源 🔥 8.5/10 | 前25% | #语音分离 | #时频分析 | #歌唱语音合成 #数据增强 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Jihoo Jung(韩国科学技术院, Korea Advanced Institute of Science and Technology, South Korea) 通讯作者:未说明(论文中未明确标注) 作者列表:Jihoo Jung(韩国科学技术院)、Ji-Hoon Kim(韩国科学技术院)、Doyeop Kwak(韩国科学技术院)、Junwon Lee(韩国科学技术院)、Juhan Nam(韩国科学技术院)、Joon Son Chung(韩国科学技术院) 💡 毒舌点评 亮点: 论文对问题(高相关、数据稀缺)的洞察和解决方案设计(MIM生成相关数据、CS Attention解耦表示)非常系统且直击要害,实验验证也堪称范本,尤其是提出了HSSNR这个更合理的评估指标来应对同歌手场景。短板: 依赖合成数据(MIM)来解决数据问题,与真实多轨录音的差距未充分探讨;且所有对比实验均在单一的MedleyVox数据集上进行,未见其他公开数据集上的验证,说服力略打折扣。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及。 数据集:论文中使用了多个公开歌唱语音数据集(见参考文献[17-25]),但未提及UNMIXX合成的训练集是否开源。 Demo:提供音频演示链接:https://unmixx.github.io/ 复现材料:提供了详细的训练参数(学习率、优化器、批大小、损失函数权重、阈值、训练步数等),但未提供完整的配置文件或训练日志。 论文中引用的开源项目:引用了TIGER [14] 作为架构基础,以及Beat Tracking模型 [16] 用于MIM。 📌 核心摘要 问题: 本文旨在解决多人歌唱语音分离(MSVS)任务,该任务面临两大独特挑战:可用的训练数据极度稀缺,且混合的歌唱语音本身具有高度相关性(如共享歌词、和声、时间对齐),这使得现有语音分离方法效果不佳。 方法核心: 提出UNMIXX框架,包含三个关键组件:(1)音乐信息混合(MIM)策略,通过选择时间节奏和音高和谐的歌曲进行配对,合成高度相关且逼真的训练数据,以缓解数据稀缺;(2)跨源注意力(CS Attention),通过“反向注意力”机制主动抑制两个歌手表示中的相似区域,强制表示分离;(3)幅度惩罚损失(Magnitude Penalty Loss),在训练后期显式惩罚目标频谱图中残留的干扰能量。 创新点: 1)首次提出针对MSVS任务的、模拟真实音乐相关性的数据合成方法(MIM)。2)在架构(CS Attention)和损失(LPenalty)两个层面引入跨源互斥约束,专门针对“高相关性”这一难点。3)为同演唱者场景提出了更合理的评估指标HSSNR。 实验结果: 在MedleyVox评估集上,UNMIXX相对于此前最优方法(MedleyVox基线)取得了显著提升,在duet子集上SDRi提升2.42 dB,在unison子集上提升2.26 dB。消融实验证明了每个组件的有效性。 主实验对比(关键数据): 方法 #参数 Duet SDRi (↑) Unison SDRi (↑) MedleyVox 5M 15.10 4.90 TIGER* 947k 16.58 5.96 UNMIXX 951k 17.52 7.16 消融实验(部分关键结果): 方法 Duet SDRi Unison SDRi TIGER* (基线) 16.58 5.96 + MIM (m=8) 16.79 7.31 + CS attention 18.01 6.17 + Mag, Penalty loss 16.68 6.44 UNMIXX (全组件) 17.52 7.16 实际意义: 为处理真实音乐中常见的多轨人声混合提供了有效工具,可应用于音乐制作(人声轨道分离)、卡拉OK(伴奏与任意人声分离)、以及后续的单人歌唱信息检索任务。 主要局限性: 1)模型性能高度依赖于MIM合成的数据与真实数据的匹配度;2)实验仅在一个评估数据集上进行,泛化能力有待进一步验证;3)模型为离线处理,未讨论实时性。 🏗️ 模型架构 UNMIXX的整体架构基于轻量级语音分离模型TIGER进行改造,其核心流程如下: ...

2026-04-29 · 更新于 2026-05-20 · 2 min · 373 words

Unsupervised Discovery and Analysis of the Vocal Repertoires and Patterns of Select Corvid Species

📄 Unsupervised Discovery and Analysis of the Vocal Repertoires and Patterns of Select Corvid Species #生物声学 #聚类 #时频分析 #音频分类 #数据集 ✅ 7.5/10 | 前50% | #生物声学 | #聚类 | #时频分析 #音频分类 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:未说明(论文作者列表为并列排序,未明确第一作者) 通讯作者:未说明(论文未提供通讯作者信息) 作者列表:Nitin Sudarsanam(布朗大学 Brown University)、Sahla Kader(德克萨斯大学阿灵顿分校 University of Texas at Arlington)、Isaac Fernandezlopez(布朗大学 Brown University)、Sophie Huang(德克萨斯大学阿灵顿分校 University of Texas at Arlington)、Tuan M. Dang(德克萨斯大学阿灵顿分校 University of Texas at Arlington)、Theron S. Wang(德克萨斯大学阿灵顿分校 University of Texas at Arlington)、Hridayesh Lekhak(德克萨斯大学阿灵顿分校 University of Texas at Arlington)、Kenny Q. Zhu(德克萨斯大学阿灵顿分校 University of Texas at Arlington) 💡 毒舌点评 亮点: 该研究在生物声学领域展现了严谨的“大数据”方法论,通过处理380小时、8.7万余条叫声的超大规模数据集,首次对五种鸦科动物进行了跨物种的系统声学分析,其数据规模和分析深度在同类研究中较为突出。 短板: 论文的核心创新主要体现在将已有技术(GMM聚类、N-gram模型)应用于特定数据集,方法上的原创性有限;且分析完全依赖公开数据库,缺乏对个体乌鸦身份的追踪,可能混淆了物种差异与个体差异,结论的生物学解释力度受限。 ...

2026-04-29 · 更新于 2026-05-20 · 2 min · 316 words

USVexplorer: Robust Detection of Ultrasonic Vocalizations with Cross Species Generalization

📄 USVexplorer: Robust Detection of Ultrasonic Vocalizations with Cross Species Generalization #音频事件检测 #端到端 #生物声学 #时频分析 🔥 8.0/10 | 前25% | #音频事件检测 | #端到端 | #生物声学 #时频分析 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Yilan Wei (Northwestern University, Evanston, USA) 通讯作者:未说明 作者列表:Yilan Wei(Northwestern University, Evanston, USA)、Kumiko Long(Northwestern University, Evanston, USA)、Arielle Granston(Northwestern University, Evanston, USA)、Adrian Rodriguez-Contreras(Northwestern University, Evanston, USA) 💡 毒舌点评 亮点在于架构设计清晰(CNN+Transformer)并系统验证了其跨物种泛化能力,音视频同步的“锦上添花”功能也显示了对实际研究需求的理解。短板是实验部分虽然全面,但对比的基线方法(DeepSqueak, VocalMat等)相对较旧且并非在所有指标上都处于SOTA,论文未能提供在这些具体数据集上更新、更强的基线对比,削弱了“state-of-the-art”宣称的绝对说服力。 🔗 开源详情 代码:提供代码仓库链接:https://github.com/weiyilan9/USVexplorer。 模型权重:论文中未提及是否公开预训练模型权重。 数据集:论文使用了四个公开数据集(DeepSqueak, MarmAudio, NABat),并详细说明了数据来源。RatPup数据集为作者自行收集,但根据伦理声明,应遵循IACUC规定。未提及是否将自收集数据集开源。 Demo:未提供在线演示。 复现材料:论文提供了详细的训练协议(学习率、优化器、调度、损失函数)、模型架构参数(Transformer层�数、头数等)、数据预处理步骤和评估指标,复现信息较为充分。 引用的开源项目:论文未明确列出依赖的开源工具/模型。但根据方法描述,实现必然依赖PyTorch、STFT计算工具、FFmpeg(用于音视频同步)等常见库。 📌 核心摘要 要解决的问题:现有的超声波发声(USV)检测方法存在跨物种泛化能力差、依赖人工干预、无法有效将声音信号与动物行为数据同步对齐等问题,限制了对动物声音-行为关系的深入理解。 方法核心:提出USVexplorer,一个端到端的USV检测框架。其核心是一个四阶段架构:输入音频的STFT频谱图先经过“BandGate”自适应频率加权模块,然后通过“Conv1dSub”进行时间降采样和特征扩展,接着由“TransEnc”(8层Transformer编码器)进行长程依赖建模,最后通过分类头输出检测结果。此外,框架包含一个可选的音视频同步模块。 新在哪里:与以往方法(如基于Faster R-CNN的DeepSqueak)相比,USVexplorer系统地结合了1D CNN的局部特征提取与Transformer的全局上下文建模能力;其“BandGate”模块被设计用于动态适应不同物种的频带分布和噪声,增强了跨物种泛化能力;框架首次整合了可选的音视频同步功能,支持多模态分析。 主要实验结果:USVexplorer在两个大鼠数据集(RatPup, DeepSqueak)上取得了最优的F1和MCC分数。在跨物种测试中(绒猴MarmAudio和蝙蝠NABat数据集),其F1分数均超过0.99,展示了强大的泛化能力。消融实验证明了移除Conv1dSub或TransEnc模块会导致性能下降(例如,在RatPup上移除TransEnc使Precision从0.970降至0.913)。具体关键结果见下表: 物种 数据集 方法 F1 MCC Precision Recall 大鼠 RatPup USVexplorer 0.924 0.901 0.970 0.881 ContourUSV 0.868 0.823 0.868 0.868 DeepSqueak USVexplorer 0.877 0.784 0.888 0.866 ContourUSV 0.727 0.612 0.911 0.605 绒猴 MarmAudio USVexplorer 0.997 - 0.996 0.998 蝙蝠 NABat USVexplorer 0.998 - 0.998 0.997 图2:不同数据集上学习到特征的t-SNE可视化。图中显示了同物种内USV模式的清晰聚类以及不同物种间的明显分离,表明模型能够捕获物种不变的基本声学特征和物种特异性变异。 ...

2026-04-29 · 更新于 2026-05-20 · 2 min · 268 words

Voting-Based Pitch Estimation with Temporal and Frequential Alignment and Correlation Aware Selection

📄 Voting-Based Pitch Estimation with Temporal and Frequential Alignment and Correlation Aware Selection #语音识别 #信号处理 #集成学习 #鲁棒性 #时频分析 🔥 8.0/10 | 前25% | #语音识别 | #信号处理 | #集成学习 #鲁棒性 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Junya Koguchi(CyberAgent, Inc.) 通讯作者:Junya Koguchi(CyberAgent, Inc.) 作者列表:Junya Koguchi(CyberAgent, Inc.)、Tomoki Koriyama(CyberAgent, Inc.) 💡 毒舌点评 亮点: 将经验性的投票法“黑箱”拆解,从统计学和决策理论角度给出了严谨的方差缩减和多数决正确率证明,理论功底扎实,让工程经验有了数学支撑。 短板: 提出的“对齐”方案本质上引入了新的依赖(对参考方法的依赖),且在极端噪声下,其精心对齐的多个“弱鸡”集成,终究打不过经过大量数据训练的单个DNN“拳击手”,暴露了传统方法集成路线的根本天花板。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:评估使用了多个公开数据集(Bagshaw, Keele, CMU ARCTIC, PTDB-TUG, MOCHA-TIMIT, MIR-1K, MDB-stem-synth, NOISEX92, QUT-NOISE),但论文未提供其统一获取方式或预处理脚本。 Demo:未提及。 复现材料:未给出训练细节、配置文件、检查点或附录。论文中引用的开源项目包括pYIN, DIO, REAPER, Harvest, SWIPE’, Praat, CREPE, FCNF0++, WORLD, UTMOSv2等作为基线或工具。 📌 核心摘要 要解决的问题:基频估计中,单个估计器(无论是传统方法还是DNN方法)各有局限,鲁棒性不足。经验性的投票集成法有效但缺乏理论分析,且存在因不同方法分析时间点不同导致的时间对齐偏差,以及计算开销与估计误差相关性影响集成效果的问题。 方法核心:提出一个系统框架来改进投票法。核心包括:a) 理论分析:从误差方差缩减和Condorcet陪审团定理角度解释投票法的有效性;b) 预对齐改进:在投票前,通过最大化原始音高准确率(RPA)进行时间轴对齐,并通过计算中位数偏差进行频率轴对齐,纠正不同估计器的系统性偏差;c) 贪心选择算法:设计一种基于估计误差符号相关性的贪心算法,从候选估计器池中选择一个紧凑且误差低相关的子集进行投票,以平衡精度与计算量。 与已有方法相比新在哪里:首次为投票法提供系统的理论基础;首次提出在投票前对多个估计器的输出进行时间和频率上的预对齐,解决了实际应用中的一个关键痛点;提出基于误差相关性的方法选择策略,超越了以往随机或经验性的组合方式。 主要实验结果:在包含语音、歌声和乐器的多样化数据集上进行实验。在干净条件下,所提带对齐的投票法在均方根频率误差(Δ¢)、原始音高准确率(RPA50)和浊音/清音检测召回率(V/UV Recall)上均优于所有单个SOTA估计器(如表1所示,RPA50达到76.78,V/UV Recall达到94.21)。在噪声条件下(如表2、3),投票法的V/UV检测召回率保持相对稳健,但在极低信噪比(SNR=0dB)下,其频率轨迹精度(RPA50)不如CREPE、FCNF0++等单个DNN方法。方法选择实验证明,基于相关性准则选出的3-5个估计器组合,能接近使用所有估计器的性能(如表4)。 实际意义:为语音合成、歌唱分析等需要高精度基频轨迹和稳健V/UV标记的应用提供了一种更可靠、可解释的后处理集成方案。对齐和选择方法具有通用性,可应用于其他需要聚合多个弱预测器输出的场景。 主要局限性:a) 预对齐步骤引入了额外的计算开销,并且其性能依赖于参考方法的选择,论文未深入探讨参考方法的最优选取策略;b) 在极端噪声环境下,集成方法的表现仍逊于经过专门训练的单个DNN模型;c) 贪心选择算法依赖于标注数据来计算误差相关性,限制了其在完全无监督场景下的应用。 🏗️ 模型架构 本文提出的并非一个端到端的神经网络模型,而是一个信号处理与决策的集成算法流程。其整体架构如下图所示: ...

2026-04-29 · 更新于 2026-05-20 · 3 min · 449 words

WaveSP-Net: Learnable Wavelet-Domain Sparse Prompt Tuning for Speech Deepfake Detection

📄 WaveSP-Net: Learnable Wavelet-Domain Sparse Prompt Tuning for Speech Deepfake Detection #语音伪造检测 #时频分析 #预训练 #自监督学习 #参数高效微调 🔥 8.0/10 | 前25% | #语音伪造检测 | #时频分析 #预训练 | #时频分析 #预训练 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Xi Xuan(University of Eastern Finland) 通讯作者:Xi Xuan(University of Eastern Finland, 邮箱:xi.xuan@uef.fi) 作者列表: Xi Xuan(University of Eastern Finland) Xuechen Liu(National Institute of Informatics) Wenxin Zhang(University of Chinese Academy of Sciences, University of Toronto) Yi-Cheng Lin(National Taiwan University) Xiaojian Lin(Tsinghua University) Tomi Kinnunen(University of Eastern Finland) 💡 毒舌点评 亮点: 论文巧妙地将经典的、可解释的小波变换(多分辨率分析)与前沿的参数高效微调(Prompt Tuning)相结合,不仅提升了检测性能,还通过消融实验有力地证明了可学习小波滤波器和稀疏化机制的关键作用,这种“老树开新花”的思路值得肯定。 短板: 尽管在DE24和SpoofCeleb两个基准上表现优异,但论文的实验验证相对局限,主要依赖于SSL模型XLSR和特定后端Mamba,未能探讨该小波提示框架在其他预训练模型(如HuBERT)或更轻量级端侧模型上的泛化能力与适用性,其“普适性”有待更广泛验证。 ...

2026-04-29 · 更新于 2026-05-20 · 3 min · 612 words

WaveSpikeNet: A Wavelet-Spiking Fusion Architecture for Audio Classification on Edge Devices

📄 WaveSpikeNet: A Wavelet-Spiking Fusion Architecture for Audio Classification on Edge Devices #音频分类 #脉冲神经网络 #边缘计算 #生物启发计算 #时频分析 ✅ 7.5/10 | 前25% | #音频分类 | #脉冲神经网络 | #边缘计算 #生物启发计算 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Bin Liu(上海科技大学信息科学与技术学院,中国科学院自动化研究所多模态人工智能系统国家重点实验室) 通讯作者:Wenjuan Li(中国科学院自动化研究所多模态人工智能系统国家重点实验室,邮箱:wenjuan.li@ia.ac.cn) 作者列表:Bin Liu(上海科技大学信息科学与技术学院,中国科学院自动化研究所多模态人工智能系统国家重点实验室)、Wenjuan Li(中国科学院自动化研究所多模态人工智能系统国家重点实验室)、Bing Li(中国科学院自动化研究所多模态人工智能系统国家重点实验室)、Chunfeng Yuan(中国科学院自动化研究所多模态人工智能系统国家重点实验室)、Kun Shang(广东省无创脑机接口多模态重点实验室)、Shaobing Gao(四川大学计算机科学与技术学院)、Weiming Hu(上海科技大学信息科学与技术学院,中国科学院自动化研究所多模态人工智能系统国家重点实验室) 💡 毒舌点评 这篇论文的亮点在于其高度原创的“生物启发式”架构设计,将小波变换、脉冲神经网络与双通路处理有机结合,为解决音频分类在边缘设备上的部署难题提供了新颖且有效的思路,参数效率指标(1.9M参数达95.91%准确率)极具吸引力。但其短板也很明显:一是实验仅在多个中小型数据集上验证,缺乏对更大规模、更复杂真实场景的测试,且所有模型均为“从头训练”,未能与当前主流的预训练范式进行公平对比,削弱了其结论的普适性;二是虽然声称面向边缘部署,但未提供在实际嵌入式设备(如STM32、RISC-V)上的功耗与延迟实测数据,效率分析仍停留在FLOPs和模拟器层面。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:使用了公开基准数据集(US8K, ESC-50, SCV2, GTZAN, AudioSet),但论文未说明其具体获取方式。 Demo:未提及。 复现材料:论文提供了详细的训练设置(数据预处理、增强、优化器、学习率策略、损失权重)、模型变体规格(参数量、尺寸)和硬件环境(4x RTX 2080 Ti),但这些信息分散在正文和表格中,未提供统一的配置文件或检查点。附录未提供额外细节。 论文中引用的开源项目:未明确提及。 总结:论文中未提及开源计划。尽管给出了较多训练细节,但由于核心代码和权重未公开,其可复现性较低。 📌 核心摘要 要解决的问题:在IoT和边缘计算背景下,音频分类模型面临高性能(大参数)与低资源(有限算力/内存)之间的根本矛盾。现有模型要么参数冗余无法部署,要么压缩后精度下降显著。 方法核心:提出WaveSpikeNet,一种受人类听觉系统启发的轻量级架构。其核心包括:(1) 可学习离散小波变换(LDWT)进行任务自适应的频率分解;(2) 模仿听觉皮层“腹侧-背侧”通路的双通路异构处理架构,分别使用传统的残差块处理低频稳态特征,使用简化的Leaky Integrate-and-Fire(LIF)脉冲神经网络处理高频瞬态特征;(3) 多级注意力融合模块进行有效整合。 与已有方法相比新在哪里:首次成功地将可学习小波变换、脉冲神经网络和多级注意力机制融合用于音频分类。与传统的同质化(如全卷积)或均匀压缩方法不同,它通过生物启发的异构处理(低频CNN,高频SNN)来提升参数效率,而非简单地减少参数量。 主要实验结果:在UrbanSound8K数据集上,Base模型(1.9M参数)达到95.91%准确率,超越参数量为其4倍多的ResNetSE(7.8M参数,95.07%),参数效率(准确率/参数量)显著提升。在ESC-50、GTZAN等数据集上也从头训练取得有竞争力的结果。在AudioSet上,以约35倍少于CNN14的参数量,取得了更高的mAP(0.234 vs 0.221)。消融实验验证了双通路设计、可学习小波和脉冲机制的有效性。 实际意义:为在资源受限的边缘设备(如树莓派)上部署高性能音频分类模型提供了一种有前景的新架构,可能推动智能传感在智能家居、工业监测等领域的应用。 主要局限性:(1) 缺乏在真实物理边缘设备上的功耗、延迟等硬件指标实测;(2) 所有实验均为从头训练,未能与当前主流的预训练-微调范式进行对比,其性能上限和泛化能力有待进一步验证;(3) 论文未提供代码、模型权重等开源材料,可复现性存疑。 🏗️ 模型架构 WaveSpikeNet的整体架构(如图2所示)是一个端到端的音频分类模型,输入为梅尔频谱图,输出为类别预测。其流程和组件如下: ...

2026-04-29 · 更新于 2026-05-20 · 3 min · 498 words

Spectro-Temporal Modulation Representation Framework for Human-Imitated Speech Detection

📄 Spectro-Temporal Modulation Representation Framework for Human-Imitated Speech Detection #语音伪造检测 #时频分析 #信号处理 #生物声学 ✅ 6.5/10 | 前50% | #语音伪造检测 | #时频分析 | #信号处理 #生物声学 | arxiv 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 低 👥 作者与机构 第一作者:Khalid Zaman(日本先进科学技术大学院大学) 通讯作者:Masashi Unoki(日本先进科学技术大学院大学) 作者列表:Khalid Zaman(日本先进科学技术大学院大学)、Masashi Unoki(日本先进科学技术大学院大学) 💡 毒舌点评 这篇论文成功地将听觉通路的建模(从耳蜗到皮层)包装成一个“框架”,并应用于“人类模仿语音检测”这个小众但有趣的任务,达到了接近人类听众的准确率(71% vs. 70%),这是其亮点。然而,其核心“创新”很大程度上是现有特征工程(STM)和听觉模型(GTFB/GCFB)的组合应用,且实验仅在一个规模极小(100个样本)且未公开的数据集上进行,使得其结论的普适性和说服力大打折扣,这是其明显短板。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:论文使用了自定义的“人类模仿语音数据集”,但未说明如何获取或是否公开。 Demo:未提及。 复现材料:未提供训练细节、配置、检查点或附录说明。 论文中引用的开源项目:未提及依赖的具体开源工具或模型(GTFB和GCFB是标准模型,但论文未引用具体实现库)。 总体结论:论文中未提及开源计划。 📌 核心摘要 这篇论文旨在解决人类模仿语音(由人自然发出)检测这一比检测AI合成语音更具挑战性的问题,因为模仿语音保留了高度的自然性。其核心方法是提出一种受听觉感知启发的频谱-时间调制(STM)表示框架,该框架分别使用Gammatone(GTFB)和Gammachirp(GCFB)耳蜗滤波器组提取子带信号,并通过希尔伯特变换提取包络后,再进行二维快速傅里叶变换以联合分析频谱和时间维度的调制模式。与已有方法相比,其新颖之处在于:1)系统性地应用了更符合人耳非对称特性的GCFB模型;2)引入了分段STM(Segmental-STM)以捕捉短时时变调制模式;3)将检测任务与人类听觉处理机制更紧密地对齐。主要实验结果表明,在一个包含100个样本的小型数据集上,分段STM(GCFB)特征配合Extra Trees分类器达到了71%的准确率,略高于人类听众70%的准确率,而传统的Mel频谱和音色特征表现较差。该工作的实际意义在于为语音鉴伪提供了一种基于生物启发式特征的新思路。主要局限性是实验所用数据集规模极小且未公开,限制了结果的可靠性和可复现性。 🏗️ 模型架构 本文提出的并非一个端到端的深度学习模型,而是一个基于传统信号处理和特征提取的“框架”,用于生成可分类的特征向量。其整体流程如图1所示。 输入与听觉滤波:输入语音信号首先通过一个模拟耳蜗功能的听觉滤波器组(GTFB或GCFB)。GTFB是耳蜗频率选择性的一阶近似(64通道,覆盖60Hz-7.6kHz),而GCFB在此基础上进一步模拟了随声级变化的滤波器非对称性。此步骤将宽带信号分解为多个符合临界带结构的子带信号。 包络提取:对每个子带信号,通过希尔伯特变换计算其解析信号,取模平方后经低通滤波器(截止频率64Hz)得到功率包络 e_k^2[n]。这模拟了听觉神经对子带信号的缓慢振幅变化的编码。 调制分析: 全局STM:将所有通道、所有时间点的包络组成一个二维矩阵,进行2D-FFT,取幅度谱得到 STM_GTFB 或 STM_GCFB。这捕捉了整个语音段在频谱调制(SM)和时间调制(TM)上的能量分布。 分段STM (Segmental-STM):为捕捉短时动态,将包络重采样到160Hz后,分割为1秒长、50%重叠的片段(如图2所示)。对每个片段独立进行上述2D-FFT操作,得到 STM_seg(i),并将所有片段的STM沿时间轴拼接成一个三维张量 STM_seg ∈ R^{K×M×S}。 分类:将最终得到的STM特征(展平、标准化后)输入至SVM、KNN或Extra Trees分类器,进行真假语音的二分类。 设计选择动机:整个架构的设计动机是模拟从耳蜗到听觉皮层的处理层级(图1),并利用调制域分析来捕捉对人类感知至关重要、但可能被传统频谱特征忽略的动态信息。 ...

2026-04-28 · 更新于 2026-05-20 · 1 min · 208 words

Earable Platform with Integrated Simultaneous EEG Sensing and Auditory Stimulation

📄 Earable Platform with Integrated Simultaneous EEG Sensing and Auditory Stimulation #音频事件检测 #信号处理 #多通道 #时频分析 📝 5.5/10 | 后50% | #音频事件检测 | #信号处理 | #多通道 #时频分析 | arxiv 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 -1.0 | 置信度 中 👥 作者与机构 第一作者:Min Suk Lee (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) 通讯作者:Yuchen Xu (yux013@ucsd.edu), Gert Cauwenberghs (gcauwenberghs@ucsd.edu) 作者列表: Min Suk Lee (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) Abhinav Uppal (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) Ananya Thota (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) Chetan Pathrabe (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) Rommani Mondal (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering) Akshay Paul (UC San Diego, Institute for Neural Computation) Yuchen Xu (UC San Diego, Institute for Neural Computation) Gert Cauwenberghs (UC San Diego, Shu Chien-Gene Lay Department of Bioengineering; Institute for Neural Computation) 💡 毒舌点评 亮点在于其将定制化耳道模型与Ag/AgCl干电极喷涂技术相结合,显著提升了信号质量和佩戴舒适度,为长期脑电监测提供了实用方案。短板是验证仅限于单个受试者,且其中一个对侧通道表现出显著噪声,这使得“稳健”、“长期”等宣称的普适性大打折扣,更像一个精心调校的原型机演示。 ...

2026-04-27 · 更新于 2026-05-20 · 2 min · 270 words

Spectrographic Portamento Gradient Analysis: A Quantitative Method for Historical Cello Recordings with Application to Beethoven's Piano and Cello Sonatas, 1930--2012

📄 Spectrographic Portamento Gradient Analysis: A Quantitative Method for Historical Cello Recordings with Application to Beethoven’s Piano and Cello Sonatas, 1930–2012 #音乐信息检索 #时频分析 #数据集 ✅ 7.5/10 | 前25% | #音乐信息检索 | #时频分析 | #数据集 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Ignasi Sole(机构未说明) 通讯作者:未说明 作者列表:Ignasi Sole(机构未说明) 💡 毒舌点评 这篇论文巧妙地将宏观的历史音乐表演风格变迁(滑音的衰减),解构为一个连续的、可物理测量的微观参数(频谱梯度),其“渐平”假说比“消失”说更具解释力。然而,其验证过程严重依赖研究者的主观听觉判断来校准谱图标记点,且将贝多芬两首奏鸣曲的开头作为全部分析材料,结论的普适性需要打上一个问号。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:论文中声明“The full dataset and measurement protocol are publicly available”,并引用了来源[10],但未提供具体URL或获取方式。因此,数据集已公开但获取路径未在文中明确给出。 Demo:未提及。 复现材料:提供了详细的测量协议、校准参数(表1)和分析步骤(第IV、V节),构成了可复现的操作指南。 论文中引用的开源项目:Sonic Visualizer(由Chris Cannam在Queen Mary University of London开发)、GIMP(GNU Image Manipulation Program)、Sibelius(乐谱软件,用于标注)。 📌 核心摘要 问题:现有对弦乐滑音(portamento)的研究主要关注其出现频率和持续时间,将其视为二元现象,忽略了其内部表达特性的变化。 方法核心:提出“频谱梯度分析”方法,使用Sonic Visualizer提取旋律谱图,在GIMP中手动标记滑音起止点,通过校准将像素斜率转换为物理单位(Hz/s),以此量化滑音的“陡峭度”。同时开发了针对早期模拟录音的增益恢复协议。 新意:首次引入梯度(Hz/s)作为第三维度定量描述滑音,超越了传统的频率和时长测量。该方法能区分持续时间相同但音高变化率不同的滑音,捕捉其表达特质。 主要结果:对22个录音(1930-2012)的分析表明,滑音梯度与录音年份呈负相关(图7),并与演奏速度呈负相关(图8)。早期录音滑音梯度平均值约3015 Hz/s,晚期录音平均值约3065 Hz/s(表2),但无滑音录音集中于1990年后。结果支持滑音衰减是一个梯度持续变平的连续过程,而非突变。 实际意义:为音乐表演史研究提供了新的、物理可解释的量化工具,使跨时代、跨演奏者的滑音风格比较更加精细。其校准协议可应用于其他单音乐器录音分析。 主要局限性:分析仅限于两首贝多芬大提琴奏鸣曲的无伴奏开头段落,因多声部段落无法可靠分析。测量依赖人工���记,存在主观性风险。校准参数与特定软件设置绑定。 🏗️ 模型架构 本文并非提出传统意义上的“模型”,而是设计了一套分析测量协议(Protocol),其流程如下: ...

2026-04-27 · 更新于 2026-05-20 · 2 min · 236 words

Audio Spoof Detection with GaborNet

📄 Audio Spoof Detection with GaborNet #音频伪造检测 #信号处理 #数据增强 #时频分析 ✅ 评分:6.5/10 | arxiv 👥 作者与机构 第一作者:Waldemar Maciejko (根据论文标题及内容,未明确标注所属机构,推断为某大学或研究机构研究人员) 通讯作者:未明确标注 其他作者:无 机构信息:论文全文未提供作者所属机构信息。根据arXiv页面及论文内容推断,作者可能来自波兰某大学(如姓名暗示)或研究机构,但无法确认具体实验室/课题组。 💡 毒舌点评 亮点:论文系统性地评估了Gabor滤波器和LEAF前端在音频伪造检测任务中的应用,并提供了详尽的消融实验和数据增强对比,工作扎实。 槽点:创新性更像是“技术报告”而非“科研突破”,把Gabor滤波器塞进现成架构就完事了;结论有时过于绝对(如“LEAF在RawGAT-ST上效率低下”),缺乏更深层的机理分析;数据增强部分,SpecAugment无效就不展示了,选择性报告结果有点“报喜不报忧”。 🔗 开源详情 代码:已开源。论文页面提供了指向GitHub仓库的链接(标题下方的“GitHub Issue”以及页面中的“GitHub”按钮)。 模型权重:论文中未明确提及是否公开发布训练好的模型权重。 数据集:实验使用公开的ASVspoof 2019 LA数据集,以及用于增强的RIR和MUSAN数据集,这些均可公开获取。 预训练权重:未提及。 在线Demo:未提及。 引用的开源项目:论文依赖PyTorch、Torchaudio等框架,并提及使用了Torchaudio Sox和Ffmpeg后端进行编解码增强。 📌 核心摘要 本论文旨在解决传统SincNet前端在音频伪造检测中因有限长度sinc函数截断导致的频率泄漏问题。作者提出使用可学习的Gabor滤波器组(GaborNet)替代SincNet,并将其集成到两种先进的端到端检测架构RawNet2和RawGAT-ST中。同时,论文探索了将LEAF(Learnable Frontend for Audio Classification)的完整组件(包括高斯低通池化和可学习PCEN归一化)作为前端。实验在ASVspoof 2019逻辑访问数据集上进行,系统评估了不同前端、架构及数据增强方法(包括编解码转换、房间脉冲响应和噪声添加)的效果。主要发现包括:GaborNet前端对RawNet2架构有轻微提升(EER从4.131%降至4.025%),但对更复杂的RawGAT-ST架构反而有害;完整的LEAF前端在RawNet2上效果最佳(EER 3.807%),但在RawGAT-ST上性能下降;在数据增强方法中,仅编解码转换被证明有效。论文的贡献在于为音频伪造检测提供了新的可学习前端选择,并通过详实的实验揭示了不同组件组合的有效性,但其方法的创新性和普适性有待进一步验证。 🏗️ 模型架构 论文主要研究和修改了两种端到端音频伪造检测架构:RawNet2 和 RawGAT-ST。核心改动在于将它们的输入前端从SincNet替换为基于Gabor滤波器的GaborNet或更完整的LEAF前端。 1. Gabor RawNet2 架构流程: 输入:原始音频波形,固定长度为64,600个样本(约4秒@16kHz)。 前端 (GaborNet/LEAF): Gabor卷积层:使用N个可学习的复数值Gabor滤波器(中心频率η_n,带宽σ_n)对输入波形进行一维卷积。论文中RawNet2使用1024个滤波器,长度20;RawGAT-ST使用128个滤波器,长度70。 取模平方:将复数卷积结果取模平方,转化为实数序列,得到子带希尔伯特包络。 高斯低通池化:进行步长为3的下采样,使用参数化的高斯脉冲响应作为低通滤波器。 可学习PCEN归一化:应用可学习的感知归一化(Per-Channel Energy Normalization),参数包括平滑系数s、压缩指数r等,所有参数联合学习。 最大池化:进一步下采样。 批归一化+SeLU激活。 特征提取主体 (RawNet2): 残差块组1:包含3个残差块,每个块内有两层一维卷积(核大小3,通道数128)、批归一化、LeakyReLU激活,以及最大池化。每个残差块输出后应用特征图缩放(FMS) 机制,通过一个小型子网络生成缩放因子r_f,对特征图c_f进行c'_f = (c_f * r_f) + r_f的变换,以强调重要特征。 残差块组2:包含3个类似的残差块,但卷积通道数增加到128。 聚合与分类: 自适应平均池化:将时序特征聚合为固定长度。 全连接层1:将特征映射到1024维。 门控循环单元(GRU):128维隐藏层,用于聚合帧级特征为话语级嵌入。 全连接层2:映射到2维输出。 LogSoftmax:输出“真实”或“伪造”的对数概率。 2. Gabor RawGAT-ST 架构流程: ...

2026-04-22 · 更新于 2026-05-20 · 4 min · 689 words