Leveraging Large Multimodal Models for Audio-Video Deepfake Detection: A Pilot Study

📄 Leveraging Large Multimodal Models for Audio-Video Deepfake Detection: A Pilot Study #音频深度伪造检测 #多模态模型 #监督微调 #跨模态 ✅ 7.0/10 | 前25% | #音频深度伪造检测 | #多模态模型 | #监督微调 #跨模态 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Songjun Cao(腾讯优图实验室) (注:论文中注明与Yuqi Li贡献均等) 通讯作者:未说明 作者列表:Songjun Cao¹, Yuqi Li¹, ², Yunpeng Luo¹, Jianjun Yin², Long Ma¹ (¹ 腾讯优图实验室, ² 复旦大学) 💡 毒舌点评 亮点:将“音视频深度伪造检测”巧妙地重塑为“多模态问答任务”,利用现成的顶级多模态大模型(Qwen 2.5 Omni)作为骨架,通过两阶段微调迅速达到了领域内顶尖水平,证明了LMM在多媒体取证中的巨大潜力。 短板:作为一篇方法论论文,其核心创新(SFT LMM)对基础模型架构的依赖性极强,且未提供任何开源资源(代码、模型、训练脚本),使得“复现即正义”的学术圈同仁难以验证和跟进,更像是一个概念验证(Pilot Study)。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及是否公开微调后的AV-LMMDetect模型权重。 数据集:论文使用了公开数据集FakeAVCeleb和MAVOS-DD,并给出了引用和部分划分信息(如FakeAVCeleb使用70%/30%划分)。 Demo:未提及在线演示。 复现材料:未提供训练细节、配置、检查点或附录说明。 引用的开源项目:论文中明确引用了Qwen 2.5 Omni作为基座模型,以及MAVOS-DD、FakeAVCeleb等数据集。 开源计划:论文中未提及开源计划。 📌 核心摘要 要解决的问题:现代生成模型制造的音视频深度伪造内容日益逼真,现有的多模态检测器多为任务特定的小模型,存在泛化能力弱、跨域性能差的问题。 方法核心:提出AV-LMMDetect,首次将监督微调的大型多模态模型(基于Qwen 2.5 Omni)用于端到端的音视频深度伪造检测。方法将检测任务重新定义为一个二元分类问答:“这个视频是真实的还是伪造的?”。训练采用两阶段策略:第一阶段通过LoRA对语言模型部分进行轻量级对齐;第二阶段解冻视觉和音频编码器进行全量微调,以最大化跨模态协同效应。 与已有方法相比新在哪里:不同于传统的小型任务特定模型(如CNN/Transformer流水线)或仅处理单模态的音频LLM,本工作首次证明了经过SFT的通用大型多模态模型(LMM)能够作为统一的检测器,直接处理原始的音视频流,并展现出更强的跨模态推理和泛化能力。 主要实验结果:在FakeAVCeleb数据集上,AV-LMMDetect取得了98.02%的准确率和99.2%的AUC,与当前SOTA方法AVFF(98.6%准确率)性能相当。在更具挑战性的多语言MAVOS-DD数据集上,该方法在“开放集完整”场景下达到了85.09%的准确率和0.96的mAP,显著优于所有对比方法,树立了新的SOTA。消融实验表明,两阶段训练策略缺一不可。 实际意义:为多媒体安全领域提供了一种新的、基于大模型基座的通用检测范式,有望提升检测器对未知生成模型和跨语言场景的泛化能力,维护媒体内容的真实性。 主要局限性:该方法完全依赖于特定的基座大模型(Qwen 2.5 Omni),其性能受限于该模型的能力边界;训练过程可能计算成本较高;论文未提供开源实现,限制了成果的快速验证与应用。 🏗️ 模型架构 AV-LMMDetect的整体架构直接建立在已有的大型多模态模型Qwen 2.5 Omni之上。其核心思路是将音视频深度伪造检测重新表述为一个视觉问答(VQA)任务。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 385 words

Localizing Speech Deepfakes Beyond Transitions via Segment-Aware Learning

📄 Localizing Speech Deepfakes Beyond Transitions via Segment-Aware Learning #音频深度伪造检测 #数据增强 #自监督学习 #语音安全 #鲁棒性 🔥 8.0/10 | 前25% | #音频深度伪造检测 | #数据增强 | #自监督学习 #语音安全 学术质量 7.5/7 | 选题价值 0.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Yuchen Mao 通讯作者:Yanmin Qian 作者列表:Yuchen Mao (Auditory Cognition and Computational Acoustics Lab, MoE Key Lab of Artificial Intelligence, AI Institute, School of Computer Science, Shanghai Jiao Tong University), Wen Huang (同Yuchen Mao的单位), Yanmin Qian (上海交通大学计算机科学学院 听觉认知与��算声学实验室,教育部人工智能重点实验室,AI学院; VUI Labs) 💡 毒舌点评 亮点:论文精准地指出了现有方法过度依赖“过渡区域伪影”的“捷径学习”短板,并提出了简洁有效的“段感知学习”框架,通过位置监督和跨段混合,强制模型理解伪造内容本身,显著提升了在最具挑战性的“中间段”的检测能力和跨数据集泛化性能。短板:尽管实验充分,但对模型容量(如Conformer块的具体参数)、训练硬件和时长的描述不够详尽,且未公开模型权重,这为学术界和工业界的复现与直接应用设置了一定门槛。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 361 words

MSCT: Differential Cross-Modal Attention for Deepfake Detection

📄 MSCT: Differential Cross-Modal Attention for Deepfake Detection #音频深度伪造检测 #注意力机制 #音视频 #多模态模型 ✅ 6.5/10 | 前10% | #音频深度伪造检测 | #注意力机制 | #音视频 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -1.0 | 置信度 高 👥 作者与机构 第一作者:Fangda Wei(北京理工大学) 通讯作者:Shenghui Zhao(北京理工大学,有星号标记) 作者列表:Fangda Wei(北京理工大学),Miao Liu(北京理工大学),Yingxue Wang(中国电子技术标准化研究院),Jing Wang(北京理工大学),Shenghui Zhao(北京理工大学),Nan Li(中国电子技术标准化研究院) 💡 毒舌点评 论文提出的“差分跨模态注意力”(DCA)模块设计巧妙,其通过注意力矩阵相减来增强模型对伪造内容敏感性的思路,确实指出了传统注意力机制在伪造检测任务中可能存在的目标冲突问题,是一个不错的洞察。然而,如此强调性能提升的论文,却在开源复现信息上“一毛不拔”,连基础的代码仓库或超参数都不公开,这无异于在沙滩上画出宏伟蓝图却不提供任何工具,对推动整个领域的可复现进步毫无贡献。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及公开模型权重。 数据集:使用公开数据集FakeAVCeleb,但论文中未说明获取方式(通常可公开获取)。 Demo:未提供在线演示。 复现材料:未提供详细的训练配置、超参数、检查点或附录说明。 论文中引用的开源项目:引用了DLIB(用于人脸检测)、Res2Net、CBAM、Wavelet Convolution等工具或模型,但未说明是否基于其开源代码。 总体开源计划:论文中未提及任何开源计划。 📌 核心摘要 要解决的问题:现有音频-视觉深度伪造检测方法主要依赖跨模态对齐,但传统的跨模态注意力机制可能与对齐损失目标冲突(对伪造内容不敏感),且缺乏有效的多尺度时间特征提取。 方法核心:提出多尺度跨模态Transformer编码器(MSCT),包含两个核心模块:差分跨模态注意力(DCA) 和 多尺度自注意力(MSSA)。DCA通过计算自注意力矩阵与跨模态注意力矩阵的差值,增强对伪造线索的关注。MSSA使用不同尺度的卷积处理Key矩阵,以整合相邻嵌入的多尺度时间信息。 与已有方法相比新在哪里:与传统跨模态注意力相比,DCA能更好地适配基于对齐损失的伪造检测任务;与标准自注意力相比,MSSA提供了更丰富的时间尺度感知能力,弥补了帧级特征提取的不足。 主要实验结果:在FakeAVCeleb数据集上,该方法取得了98.75%的准确率(ACC) 和 98.83%的AUC,显著优于表1中列出的所有基线方法,包括ACC为94.05%的MRDF-CE和96.30%的BusterX。消融实验(表2)表明,DCA模块(+1.25% ACC)比MSSA模块(+0.25% ACC)带来更大的性能增益。T-SNE可视化(图5)显示,本方法能更好地区分类别。 实际意义:提升了音视频深度伪造检测的准确性和鲁棒性,为多媒体内容安全提供了更强大的技术工具。 主要局限性:实验仅在单一数据集FakeAVCeleb上进行,缺乏跨数据集泛化性验证;未提供代码和详细复现参数,可复现性极差;与最新方法BusterX的对比缺少AUC指标。 🏗️ 模型架构 本文提出的多尺度跨模态Transformer编码器(MSCT)框架如图2所示,包含单模态特征提取和多模态特征融合两大模块。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 220 words

On deepfake voice detection - It’s all in the presentation

📄 On deepfake voice detection - It’s all in the presentation #音频深度伪造检测 #数据增强 #自监督学习 #预训练 #鲁棒性 🔥 8.0/10 | 前25% | #音频深度伪造检测 | #数据增强 | #自监督学习 #预训练 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:未说明(作者列表按字母顺序排列) 通讯作者:未说明 作者列表:Héctor Delgado(Microsoft)、Giorgio Ramondetti(Microsoft)、Emanuele Dalmasso(Microsoft)、Gennady Karvitsky(Microsoft)、Daniele Colibro(Microsoft)、Haydar Talib(Microsoft) 💡 毒舌点评 论文最大的亮点在于它跳出技术细节,直指领域痛点:当前研究普遍在“无菌实验室”里训练模型,却指望它们能解决“菜市场”里真实发生的诈骗,通过精心设计的实验有力地证明了“数据呈现方式”比“模型规模”更能决定实战效果。但短板也十分明显,作为一个强调“现实世界有效性”的工业界工作,却吝于公开核心代码、模型和训练细节,这极大地削弱了其主张的可复现性和社区推动潜力,让人怀疑其方法论推广的诚意。 🔗 开源详情 代码:论文中未提及代码链接。仅提供了一个用于测试协议的GitHub仓库名称,但未给出具体URL。 模型权重:未提及公开任何模型权重。 数据集:部分使用了公开数据集(ASVspoof, MLS, Switchboard等),但本文构建的核心新数据集(Presented类别和Realworld的Fraud Academy数据集)未公开。 Demo:未提供在线演示。 复现材料:论文详细描述了训练策略、超参数和硬件配置,提供了Table 1和Table 2的详细数据。然而,缺失模型权重和代码,使得从零复现变得极其困难。 引用的开源项目:论文在方法和数据部分引用了多个开源项目,包括: TTS引擎:ElevenLabs, play.ht, OpenAI Voice Engine, Mars5, YourTTS 数据集:ASVspoof 2019/5, MLS English, Switchboard, VoxCeleb, Fisher Spanish等(具体见参考文献) 模型/工具:WavLM (预训练模型), HIFI-GAN/WaveGrad/WaveNet (声码器), Encodec/Vocos (编解码器), RawBoost (数据增强) 📌 核心摘要 这篇论文指出,当前深度伪造语音检测领域的研究数据集和方法过于理想化(使用原始纯净音频),导致训练出的模型难以泛化到真实世界通过电话等信道传输的伪造语音。为解决此问题,作者提出了一个完整的“欺骗攻击序列”框架,不仅包含深度伪造语音生成,还关键性地纳入了通过扬声器播放或直接注入电话的“呈现”阶段。基于此,他们构建了包含不同“呈现”方式的新型训练数据集(Presented)和一个完全保留真实场景、未用于训练的“真实世界”测试集(Fraud Academy)。实验表明,在训练中加入“呈现”数据,能显著提升模型在真实场景下的性能:在更稳健的实验室设置中准确率提升39%,在真实世界基准上提升57%。此外,论文证明,优化数据集带来的性能提升,比使用更大、更昂贵的SOTA模型更为重要。主要的局限性是,所提出的轻量级模型在处理扬声器播放场景时性能仍有不足,且整体研究未开源核心代码与权重。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 251 words

Robust Deepfake Audio Detection via Multi-Level Intermediate Feature Fusion

📄 Robust Deepfake Audio Detection via Multi-Level Intermediate Feature Fusion #音频深度伪造检测 #特征融合 #自监督学习 #鲁棒性 ✅ 7.5/10 | 前25% | #音频深度伪造检测 | #特征融合 | #自监督学习 #鲁棒性 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Jinpeng Zhao(中山大学计算机科学与工程学院) 通讯作者:Peijia Zheng(中山大学计算机科学与工程学院) 作者列表:Jinpeng Zhao, Jian Zhao, Yufei Zhou, Peijia Zheng†, Yusong Du(中山大学计算机科学与工程学院) 💡 毒舌点评 亮点在于,论文非常务实地通过一个轻量级(仅增加0.002%计算量)的MIFF模块,有效挖掘了现有强大骨干网络(XLSR-Mamba)中被忽视的中间层信息,实现了“小改进,大收益”。短板是,该工作本质上是将成熟的注意力机制(SE block)应用于特定模型(Mamba)的中间层特征融合,创新深度有限,更像是一个有效但非突破性的工程优化。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:使用公开的ASVspoof 2019 LA、ASVspoof 2021 LA/DF和In-The-Wild数据集,未提及新的数据集。 Demo:未提及。 复现材料:论文提供了较为详细的实验设置(数据集、增强方法、优化器、学习率、batch size等)、超参数(Mamba层数、缩减比、特征维度)和消融实验细节,为复现提供了良好基础,但未提供完整的配置文件或脚本。 论文中引用的开源项目: XLSR-Mamba [7]:本文的主要基线模型。 XLS-R [2, 3, 6]:作为前端特征提取器。 Mamba [8]:作为后端骨干网络。 RawBoost [19]:用于数据增强。 Squeeze-and-Excitation Networks [17]:MIFF模块中注意力机制的灵感来源。 其他对比方法(AASIST [4], Conformer [5], SLS [6]等)。 📌 核心摘要 本文针对现有深度伪造音频检测器(如XLSR-Mamba)主要依赖最终层特征、导致中间层判别性信息丢失的问题,提出了多级中间特征融合模块。该模块应用于双列双向Mamba网络的每个方向,通过引入Squeeze-and-Excitation机制,自适应地计算并加权聚合所有Mamba层的输出特征,并与最终层的残差输出融合,从而生成一个更全面、更具判别力的表征用于分类。实验表明,在ASVspoof 2021 DF和In-The-Wild数据集上,该方法分别取得了1.68%和5.66%的EER,相比基线XLSR-Mamba(1.88%和6.71%)实现了10.6%和15.6%的相对误差降低,尤其在应对自回归神经声码器生成的伪音时表现突出。该研究证明了多层次特征融合对于增强检测模型鲁棒性的有效意义。主要局限性在于方法未在更多样化的攻击类型或跨语言场景下进行验证,且依赖于特定的XLSR前端和Mamba后端组合。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 295 words

StreamMark: A Deep Learning-Based Semi-Fragile Audio Watermarking for Proactive Deepfake Detection

📄 StreamMark: A Deep Learning-Based Semi-Fragile Audio Watermarking for Proactive Deepfake Detection #音频深度伪造检测 #端到端 #鲁棒性 #数据集 🔥 8.0/10 | 前25% | #音频深度伪造检测 | #端到端 | #鲁棒性 #数据集 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Zhentao Liu(EPFL, Switzerland) 通讯作者:未说明 作者列表:Zhentao Liu(EPFL, Switzerland)、Milos Cernak(Logitech Europe, Switzerland) 💡 毒舌点评 这篇论文巧妙地将图像领域的“半脆弱水印”概念移植到音频,并精准定义了“良性”与“恶意”操作,为应对深度伪造提供了比传统鲁棒水印更聪明的“主动告警”方案,思路值得称赞。然而,其将所有深度伪造攻击简化为“变调”这一单一操作进行模拟,失真层的设计略显“偷懒”,可能无法完全覆盖未来更复杂的合成攻击(如更自然的音色替换或内容编辑),削弱了结论的绝对说服力。 🔗 开源详情 代码:提供了代码仓库链接:https://github.com/L1uZhentao/deepfake_benchmark 模型权重:论文中未提及公开预训练模型权重。 数据集:论文开源了用于评估的深度伪造基准测试集(Deepfake Benchmark),作为代码仓库的一部分发布。 Demo:未提及。 复现材料:提供了充分的训练细节,包括数据集(LibriSpeech子集)、模型参数量、损失函数公式与权重、优化器超参数(Adam,β值,学习率)、训练硬件(2x RTX 2080),这为复现提供了良好基础。 论文中引用的开源项目:未提及依赖的其他开源工具或模型。 总结:论文在可复现性方面表现良好,开源了关键的数据和代码,但缺少现成的模型权重。 📌 核心摘要 要解决什么问题:现有的被动深度伪造音频检测方法面临泛化能力差、易被对抗攻击绕过、难以区分良性AI处理(如降噪)与恶意伪造的困境。传统鲁棒水印在伪造后仍能提取,反而无法证明音频已被篡改。 方法核心是什么:提出StreamMark,一种基于深度学习的半脆弱音频水印系统。其核心是设计一个Encoder-Distortion-Decoder架构,其中失真层包含并行的良性变换(如裁剪、加噪)和恶意变换(如变调,模拟音色/内容篡改)。通过复合损失函数训练,使水印在经历良性操作后仍可恢复,但在经历语义篡改的恶意操作后无法恢复(准确率降至随机水平)。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 265 words

Subgraph Localization in the Subbands for Partially Spoofed Speech Detection

📄 Subgraph Localization in the Subbands for Partially Spoofed Speech Detection #音频深度伪造检测 #图神经网络 #信号处理 #时频分析 🔥 8.0/10 | 前25% | #音频深度伪造检测 | #图神经网络 | #信号处理 #时频分析 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者:Ji Liu (天津大学 认知计算与应用天津市重点实验室) 通讯作者:Longbiao Wang (天津大学 认知计算与应用天津市重点实验室; 苏州智言信息科技有限公司) 作者列表:Ji Liu (天津大学 认知计算与应用天津市重点实验室), Chenghan Lin (未说明具体机构,同属天津大学), Longbiao Wang (天津大学 认知计算与应用天津市重点实验室; 苏州智言信息科技有限公司), Kong Aik Lee (香港理工大学) 💡 毒舌点评 亮点:论文抓住了“短伪造片段在长真实语音中易被平均掉”这一实际痛点,并巧妙地将“不同伪造痕迹在不同频带显著”这一先验知识融入模型设计(子带划分),方法动机充分且直观。短板:方法本质上是子带特征提取+子图网络的模块化组合,创新性更多体现在特定任务上的工程优化,而非全新的建模范式;此外,论文未提供任何开源信息,对于后续研究的复现构成了主要障碍。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及。 数据集:实验使用ADD 2023挑战赛Track 2数据集,该数据集为公开竞赛数据集,但论文未说明获取方式。 Demo:未提供在线演示。 复现材料:提供了部分训练细节(优化器、学习率、轮数、超参数等)和消融实验设置,但缺乏模型层维度、具体代码实现、检查点文件等。 引用的开源项目:依赖的开源项目包括Facebook的wav2vec2-xls-r-300m模型(用于W2V2+AASIST基线)。 开源计划:论文中未提及开源计划。 📌 核心摘要 本文针对部分伪造语音检测中,短伪造片段难以被现有基于固定聚合长度的方法准确定位的问题,提出了一种名为“子带子图定位”(SLS)的新方法。该方法包含两个核心模块:一是子带特征提取模块,利用CQT滤波器初始化线性层,从语音频谱的低、中、高频子带中提取高分辨率特征,以捕捉不同伪造算法在不同频带留下的独特痕迹;二是子图模块,对每个子带的特征序列构建图结构,并通过基于阈值的边连接来鼓励同一类别(真实或伪造)帧的特征在图中聚集,从而增强类内紧凑性,特别是改善类别边界附近的特征混淆。实验在ADD 2023挑战赛Track 2数据集上进行,结果表明,SLS方法在帧级和段级定位性能上均优于TDL等现有方法。例如,在加权BCE损失权重w-=3.9时,获得了90.31%的帧级精确率和95.69%的召回率,帧级F1分数比TDL高1.24个百分点,段级F1分数比WavLM-ResNet高2.14个百分点。该方法通过精细化建模子带信息和改善边界处特征表征,提升了伪造语音定位的准确性和鲁棒性。其主要局限性在于模型复杂度较高,且未公开实现代码与权重。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 297 words

The Impact of Audio Watermarking on Audio Anti-Spoofing Countermeasures

📄 The Impact of Audio Watermarking on Audio Anti-Spoofing Countermeasures #音频深度伪造检测 #领域适应 #知识蒸馏 #音频水印 #音频安全 🔥 8.5/10 | 前25% | #音频深度伪造检测 | #领域适应 | #知识蒸馏 #音频水印 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Zhenshan Zhang(杜克昆山大学多模态智能系统苏州重点实验室, 数字创新研究中心) 通讯作者:Ming Li(杜克昆山大学多模态智能系统苏州重点实验室, 数字创新研究中心, ming.li369@dukekunshan.edu.cn) 作者列表:Zhenshan Zhang(杜克昆山大学多模态智能系统苏州重点实验室, 数字创新研究中心)、Xueping Zhang(杜克昆山大学多模态智能系统苏州重点实验室, 数字创新研究中心)、Yechen Wang(OfSpectrum, Inc.)、Liwei Jin(OfSpectrum, Inc.)、Ming Li(杜克昆山大学多模态智能系统苏州重点实验室, 数字创新研究中心) 💡 毒舌点评 亮点:选题填补了一个重要的认知空白——系统量化了“水印”这种合法但普遍存在的人为扰动对反欺骗系统的“无差别攻击”效果,实验设计严谨(控制水印比例、类型分布),结论可靠。提出的KPWL框架在“已知水印”适应上取得了立竿见影的效果,思路清晰实用。 短板:在“未见水印”场景下的性能反而下降,暴露了当前方法对水印特异性的过拟合,极大限制了其在真实世界(水印类型未知且多样)中的应用价值,也说明“领域适应”的本质挑战并未被彻底解决。 🔗 开源详情 代码:论文明确提供了代码仓库链接:https://github.com/Alphawarheads/Watermark_Spoofing.git。 模型权重:论文未提及是否公开预训练的模型权重(如基线XLSR+SLS或KPWL适应后的模型)。 数据集:论文指出构建了“Watermark-Spoofing”数据集,并提供了获取方式(通过上述GitHub仓库),表明数据集是公开的。 Demo:论文中未提及在线演示。 复现材料:论文详细说明了数据集构建协议(水印方法、比例)、训练配置(优化器、学习率、轮数、损失函数超参数)、评估设置,复现信息充分。 论文中引用的开源项目:引用了ASVspoof 2019/2021数据集[12,20]、In-the-Wild数据集[21]、多种水印方法(WavMark[4], Timbre[5], AudioSeal[13]等)、反欺骗模型(XLSR[6], SLS[9], Nes2Net[10])以及数据增强工具RawBoost[28]。 📌 核心摘要 问题:本文首次研究了广泛使用的音频水印技术(为版权保护设计)对语音反欺骗(深度伪造检测)系统性能的影响,发现这种影响之前被完全忽视。 方法核心:构建了包含多种手工和DNN水印的“Watermark-Spoofing”数据集,并系统评估了现有模型性能下降的程度。提出名为“知识保留水印学习”(KPWL)的适应框架,通过在冻结前端(XLSR)和分类器的情况下微调中间层,并结合对称知识蒸馏与参数锚定,使模型能适应水印引入的分布偏移。 创新:首次揭示了音频水印是反欺骗系统面临的一种新的、未被研究的领域偏移源;首次构建了用于评估和缓解此问题的专用数据集与基准;提出了首个旨在同时适应水印并保留原始域检测能力的专用框架。 实验结果:在ASVspoof 2021 LA数据集上,当75%的样本被水印时,基线模型(XLSR+SLS)的EER从3.02%上升至3.68%。KPWL模型在相同条件下将EER降至3.21%,同时在干净数据上保持3.06%(与基线3.02%接近)。然而,在“未见水印”评估中,基线模型在75%水印(LA21)下EER为9.94%,而KPWL模型恶化至11.22%。 实际意义:提醒反欺骗系统开发者需考虑水印带来的鲁棒性挑战;为构建抗水印污染的反欺骗系统提供了首个基准和初步解决方案;揭示了水印技术可能对语音安全生态产生的意外副作用。 主要局限性:KPWL框架在应对未见过的水印类型时效果不佳甚至有害,表明当前方法的适应能力局限于训练时接触过的特定水印,泛化能力有待突破。 🏗️ 模型架构 本文的核心模型架构并非提出一种全新的端到端神经网络,而是提出了一种训练策略与框架(KPWL),用于适应现有的反欺骗模型以应对水印干扰。以论文中作为骨干的 XLSR+SLS 模型为例,其整体流程与KPWL框架的适配如下: ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 390 words

Towards Data Drift Monitoring for Speech Deepfake Detection in the Context of MLOps

📄 Towards Data Drift Monitoring for Speech Deepfake Detection in the Context of MLOps #音频深度伪造检测 #数据漂移监控 #模型微调 #MLOps ✅ 7.0/10 | 前25% | #音频深度伪造检测 | #数据漂移监控 | #模型微调 #MLOps 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Xin Wang(日本国立信息学研究所) 通讯作者:未说明 作者列表:Xin Wang(日本国立信息学研究所),Wanying Ge(日本国立信息学研究所),Junichi Yamagishi(日本国立信息学研究所) 💡 毒舌点评 这篇论文的亮点在于其工程视角的前瞻性:它脱离了传统的“训练-测试”静态评估循环,首次在MLOps框架下系统性地探讨了语音伪造检测器面临的数据漂移问题,实验设计严谨且覆盖了多种检测器与距离度量。然而,其核心方法(用分布距离监控漂移、用新数据微调)本质上是对机器学习运维通用范式的直接应用,并未在漂移检测算法本身提出原创性贡献,创新高度有限。 🔗 开源详情 代码:论文中提及代码仓库链接(https://arxiv.org/abs/2509.10086),但未明确说明该仓库是否已公开发布及具体内容。 模型权重:未提及是否公开预训练或微调后的检测器权重。 数据集:使用了公开数据集(ASVspoof 2019, LJSpeech, MLAAD),但论文中未提供数据集的定制处理脚本或版本信息。 Demo:未提及。 复现材料:论文中提到了“代码仓库”,但未详细说明是否包含训练配置、环境依赖、实验脚本等。 引用的开源项目: ESPNet-TTS [13]:用于生成实验1的TTS数据。 AntiDeepfake toolkit [12]:用于实现W2V和XSLR2b检测器。 AASIST [4]:使用其官方实现。 总结:论文中提及了代码仓库,但缺乏关于开源项目状态、模型可用性和详细复现指南的明确信息。 📌 核心摘要 要解决什么问题:传统的静态语音深度伪造检测模型部署在云端后,面对不断涌现的新文本到语音(TTS)攻击,性能会下降。需要一种机制来自动监控新数据与原始训练/参考数据的分布差异(漂移),并据此更新模型。 方法核心是什么:从MLOps角度出发,提出两步框架:(1) 监控:利用检测器(如SSL模型)提取的音频嵌入特征,通过计算测试数据与参考数据在多个维度上的分布距离(如Wasserstein-1距离、K-S检验)来量化漂移;(2) 更新:当检测到显著漂移时,使用类似的新攻击数据对检测器进行微调,以减少漂移并恢复性能。 与已有方法相比新在哪里:与以往集中在提升检测准确率的实验室研究不同,本文首次将“数据漂移”概念引入语音伪造检测领域,并将其置于MLOps的运维闭环中进行研究。它关注的是模型上线后如何维持性能的可持续性问题。 主要实验结果如何:在玩具数据集和大规模MLAAD数据集上的实验证明: 监控有效性:较新的TTS攻击确实导致更高的漂移值(如图2、3所示)。例如,在MLAAD数据集上,v7版本(最新)的TTS系统产生的漂移值显著高于v2版本(早期)。 更新有效性:使用新攻击数据进行微调可以减少漂移。如图3(a)所示,使用8小时的v7数据微调后,XSLR2b检测器在v7测试集上的漂移值明显下降。同时,检测错误率(EER)也随之降低。表2显示,当用8小时v7数据微调后,XSLR2b在v7测试集上的EER从6.42%降至0.57%。 关键发现:使用与新攻击相似的数据(如用v6数据微调)对未见过的更新攻击(如v7)也有积极效果;但使用过时的数据(如v2)对新攻击的改善有限。 实际意义是什么:为语音伪造检测系统在真实云服务中的长期可靠运行提供了一套可行的监控与自适应更新框架,有助于应对持续演化的伪造技术,保障系统安全。 主要局限性是什么:论文中未明确提及。潜在局限包括:计算分布距离和频繁微调可能带来的运维开销;微调步骤依赖于对新攻击数据的获取与标注,这在实际场景中可能具有挑战性;实验未评估对真实语音数据误报率的影响。 🏗️ 模型架构 本文未提出一个新的端到端检测模型架构。其核心贡献在于监控和更新流程。该流程依赖于现有的语音伪造检测器来提取关键特征。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 248 words

Understanding the Strengths and Weaknesses of SSL Models for Audio Deepfake Model Attribution

📄 Understanding the Strengths and Weaknesses of SSL Models for Audio Deepfake Model Attribution #音频深度伪造检测 #自监督学习 #语音合成 ✅ 7.0/10 | 前50% | #音频深度伪造检测 | #自监督学习 | #语音合成 学术质量 7.0/7 | 选题价值 1.2/2 | 复现加成 0.3 | 置信度 中 👥 作者与机构 第一作者:Gabriel Pîrlogeanu(POLITEHNICA Bucharest大学,Speech and Dialogue Research Laboratory) 通讯作者:未说明(论文未明确指定通讯作者) 作者列表:Gabriel Pîrlogeanu(POLITEHNICA Bucharest大学,Speech and Dialogue Research Laboratory)、Adriana Stan(POLITEHNICA Bucharest大学 Speech and Dialogue Research Laboratory 及 Technical University of Cluj-Napoca Communications Department)、Horia Cucu(POLITEHNICA Bucharest大学,Speech and Dialogue Research Laboratory) 💡 毒舌点评 亮点在于其严谨的控制变量实验设计,像“实验室”一样剖析了SSL特征在音频归因任务中的敏感点,尤其是“零初始化检查点”的验证为“模型架构指纹”的存在提供了有趣证据;短板是研究停留在对已有方法的分析与验证,未提出更强的归因模型或更鲁棒的特征,且对更复杂的实际场景(如多说话人、商业系统)测试不足,结论的普适性有待验证。 ...

2026-04-29 · 更新于 2026-07-24 · 2 min · 304 words