基准测试

📄 Assessing Identity Leakage in Talking Face Generation: Metrics and Evaluation Framework #说话人脸生成 #模型评估 #基准测试 #音视频 ✅ 7.5/10 | 前25% | #说话人脸生成 | #模型评估 | #基准测试 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Dogucan Yaman（Karlsruhe Institute of Technology, KIT Campus Transfer GmbH (KCT)） 通讯作者：未说明（根据惯例和贡献推测，Alexander Waibel 可能为通讯作者，但论文未明确标注） 作者列表：Dogucan Yaman (Karlsruhe Institute of Technology, KCT)、Fevziye Irem Eyiokur (Karlsruhe Institute of Technology, KCT)、Hazım Kemal Ekenel (Istanbul Technical University)、Alexander Waibel (Karlsruhe Institute of Technology, KCT, Carnegie Mellon University) 💡 毒舌点评 亮点：精准戳中了当前说话人脸生成领域评估体系的“阿喀琉斯之踵”——高lip-sync分数可能掩盖了严重的“身份参考泄漏”问题，并设计了一套精巧的、可量化的“体检方案”来揭露它。短板：它本质上是一份详尽的“验尸报告”和“检测标准”，对于如何从根本上“治愈”泄漏问题（即设计新模型）着墨较少，创新止步于评估方法论层面。 ...

📄 Audio-Visual Deepfake Generation and Detection: An Exploratory Survey #音频深度伪造检测 #语音伪造检测 #对比学习 #基准测试 #数据集 ✅ 6.5/10 | 前25% | #音频深度伪造检测 | #对比学习 | #语音伪造检测 #基准测试 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Hang Xu（哈尔滨工程大学计算机科学与技术学院） 通讯作者：Boquan Li（哈尔滨工程大学计算机科学与技术学院，liboquan@hrbeu.edu.cn），Min Yu（中国科学院信息工程研究所，yumin@iie.ac.cn） 作者列表：Hang Xu（哈尔滨工程大学计算机科学与技术学院）、Yuning An（哈尔滨工程大学计算机科学与技术学院）、Pengrui Fu（哈尔滨工程大学计算机科学与技术学院）、Zhiyu Fan（中国科学院信息工程研究所）、Boquan Li（哈尔滨工程大学计算机科学与技术学院）、Jiakun Liu（哈尔滨工业大学计算学部）、Yachao Liang（中国科学院信息工程研究所）、Min Yu（中国科学院信息工程研究所） 💡 毒舌点评 这篇综述及时填补了音视频深度伪造这一新兴交叉领域综述的空白，系统梳理了生成技术、检测方法和关键数据集，并指出了现有检测器在泛化性和鲁棒性上的普遍短板。然而，其实验部分虽有价值，但复现条件苛刻（需对大量检测器重新实现/训练），且综述本身未提出新的检测算法，结论的普适性受限于所选的有限数据集和检测器。 🔗 开源详情 代码：论文中未提及提供本文相关的代码仓库链接。论文指出，许多被评估的检测器“要么没有开放其实现代码，要么发布的代码或模型不完整”，因此论文作者对这些检测器进行了重新实现或训练。 模型权重：未提及。 数据集：论文评估所用的数据集（FakeAVCeleb, IDForge, AVLips, LAV-DF）是已公开的，但论文未提供获取方式或整理脚本。 Demo：未提及。 复现材料：论文为每个检测器标注了参考文献，并说明了重新训练/评估的总体原则，但未提供详细的复现配置文件、超参数列表或检查点。 论文中引用的开源项目：论文作为综述，引用了大量生成与检测的原始工作（如Wav2Lip, SadTalker, SpeechForensics等），这些工作本身大多有公开代码，但论文并未将其整合为一个可运行的工具包。 📌 核心摘要 这篇论文旨在应对音视频深度伪造（Audio-Visual Deepfake）日益增长的威胁，通过系统综述和实验评估，深入分析当前生成技术、检测方法及挑战。方法核心是：1）梳理了音视频深度伪造的生成方法（唇形同步和说话人脸生成）和相关数据集（完全伪造与部分伪造）；2）将检测方法分为基于模态融合和基于模态不一致性两大类进行综述；3）通过泛化性实验和鲁棒性实验，评估了代表性检测器在多个数据集和多种失真下的可靠性。 ...

📄 Auditory Illusion Benchmark for Large Audio Language Models #模型评估 #基准测试 #音频大模型 #听觉认知 ✅ 7.0/10 | 前50% | #模型评估 | #基准测试 | #音频大模型 #听觉认知 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Hayoon Kim（首尔大学音乐与音频研究组，首尔大学智能信息学系） 通讯作者：Kyogu Lee（首尔大学音乐与音频研究组，首尔大学智能信息学系，AIIS，IPAI） 作者列表：Hayoon Kim（首尔大学音乐与音频研究组，首尔大学智能信息学系）、Eunice Hong（首尔大学音乐与音频研究组，首尔大学智能信息学系）、Kyogu Lee（首尔大学音乐与音频研究组，首尔大学智能信息学系，AIIS，IPAI） 💡 毒舌点评 亮点：论文首次将认知科学中的“听觉错觉”概念系统化为评估大型音频语言模型（LALMs）的基准，方法严谨（包含对照组和人类基线），指出了模型在“感知”层面与人类的关键差距，角度新颖且具有启发性。短板：所有评估任务被压缩为简单的二选一或三选一，这种简化可能无法充分捕捉复杂听觉错觉的微妙体验和动态过程；对模型内部为何产生差异的分析停留在表面，缺乏更深入的机理解释。 🔗 开源详情 代码：提供了生成AIB错觉刺激的开源代码仓库：https://github.com/gillosae/aib。 模型权重：未提及。论文评估的是已公开的模型（如Qwen2-Audio, MuLLaMa等），未提出或开源新的模型权重。 数据集：是，已公开。论文声明AIB基准数据集已通过上述GitHub仓库公开发布。 Demo：未提及。 复现材料：提供了数据集和刺激生成代码，复现评估结果需要访问被评估的模型及其权重（这些通常是公开的）。论文未提供详细的评估脚本或配置文件。 论文中引用的开源项目：引用了多个被评估模型的开源项目，如Pengi、Audio Flamingo、MuLLaMa、Qwen-Audio等。 📌 核心摘要 要解决什么问题：当前对大型音频语言模型（LALMs）的评估主要集中在识别准确性等客观任务上，缺乏评估其是否内化了人类特有的感知偏差（如对听觉错觉的易感性）的方法。本文旨在填补这一空白。 方法核心是什么：提出了首个听觉错觉基准（AIB），包含10种代表性听觉错觉（分为基于物理和基于物理+知识两类），涵盖音乐、声音和语音领域。将每个错觉的感知判断转化为多项选择题，并与控制刺激一起，对多款LALMs和人类被试（20名绝对音感者）进行平行测试。 与已有方法相比新在哪里：AIB是首个专门为LALMs设计的听觉错觉评估基准。与主要关注准确率或推理的现有音频基准不同，AIB的核心目标是衡量模型的“人类感知对齐度”（通过ISI等指标），即模型是否像人类一样“犯错”。 主要实验结果如何：人类被试在各类错觉上均表现出极高的易感性（ISI≈0.8-0.9）。LALMs的表现则系统性地分化：在“基音缺失”等低级声学错觉上，Qwen2-Audio表现出近人类易感性（ISI>0.9）；在需要结合知识的错觉（如谢泼德音调）上，大模型（如MuLLaMa）显示出部分对齐，但整体仍弱于人类；在语音相关错觉（语音转歌曲、音素恢复）上差距最大，仅Qwen2-Audio在音素恢复上达到完美人类对齐，但所有模型在语音转歌曲上均失败。详细结果见下表。 实际意义是什么：为评估和开发更具“人感”的音频AI模型提供了新的诊断维度和工具。有助于推动模型从追求信号保真度向模拟人类认知特性发展，并为认知科学提供对比人类与机器感知的实验平台。 主要局限性是什么：评估任务被简化为固定的多项选择题，可能无法全面评估错觉感知的丰富性。许多模型在控制条件下性能也不稳定，表明其基础音频理解能力仍有不足。论文未深入探讨模型架构或训练方式导致差异的具体原因。 实验结果表格： 模型 参数量 Physics (幻觉) HLA/RA/ISI Physics (控制) HLA/RA/ISI Physics+Knowledge (幻觉) HLA/RA/ISI Physics+Knowledge (控制) HLA/RA/ISI 总体平均 HLA/RA/ISI Human - 1.000/0.000/1.000 1.000/1.000/0.000 1.000/0.000/1.000 1.000/1.000/0.000 1.000/0.000/1.000 Pengi 323M 0.677/0.323/0.355 0.333/0.389/-0.056 0.715/0.285/0.430 0.083/0.224/0.141 0.408/0.296/0.112 Audio Flamingo Chat 2.2B 0.925/0.075/0.875 0.120/0.139/-0.019 0.963/0.037/0.926 0.245/0.217/0.028 0.901/0.056/0.845 MuLLaMa 7B 0.535/0.465/0.070 0.155/0.167/-0.012 0.856/0.144/0.711 0.084/0.217/0.133 0.519/0.240/0.279 Qwen-Audio-Chat 8.4B 0.305/0.695/-0.389 0.267/0.222/0.045 0.567/0.433/0.133 0.083/0.217/0.134 -0.023/0.512/-0.535 Qwen2-Audio 8.4B 0.985/0.015/0.971 0.015/0.111/-0.096 0.744/0.256/0.489 0.083/0.217/0.134 0.633/0.183/0.450 Qwen2-Audio-Instruct 8.4B 0.182/0.818/-0.636 0.314/0.222/0.092 0.470/0.530/-0.059 0.088/0.217/0.129 -0.232/0.616/-0.848 图1展示了AIB中三个错觉刺激（基音缺失、Zwicker音调、Tartini音调）及其对照刺激的示例，以及用于查询人类和AI模型的提示格式。这直观地说明了如何将听觉错觉感知转化为可评估的任务。 ...

📄 Benchmarking Music Autotagging with MGPHot Expert Annotations vs. Generic Tag Datasets #音乐信息检索 #基准测试 #模型评估 #音频分类 #预训练 ✅ 7.5/10 | 前25% | #音乐信息检索 | #基准测试 | #模型评估 #音频分类 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Pedro Ramoneda（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） 通讯作者：Pedro Ramoneda（论文中标注 Corresponding author: pedro.ramoneda@upf.edu） 作者列表： Pedro Ramoneda（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） Pablo Alonso-Jim´enez（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） Sergio Oramas（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） Xavier Serra（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） Dmitry Bogdanov（Music Technology Group, Universitat Pompeu Fabra, Barcelona, Spain） 💡 毒舌点评 这篇论文最大的价值在于“清理工作间”——它通过构建一个更严谨、更精细的评估基准，像一面镜子照出了当前六个主流模型在“通用标签”与“专家标注”任务上表现不一的尴尬现实。其严谨的数据收集（56.43%官方来源）和划分流程值得称道，但论文本身并未提出能解决这些差异的新模型，更像是为社区立了一个新的、更准确的“标尺”。 ...

📄 Beyond Face Swapping: A Diffusion-Based Digital Human Benchmark for Multimodal Deepfake Detection #音频深度伪造检测 #多模态模型 #基准测试 #扩散模型 #数据集 🔥 8.1/10 | 前25% | #音频深度伪造检测 | #多模态模型 | #基准测试 #扩散模型 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：未说明（论文标注Jiaxin Liu†和Jia Wang†贡献相等，未明确谁为第一） 通讯作者：Saihui Hou⋆， Zhaofeng He⋆ 作者列表：Jiaxin Liu（北京邮电大学，BUPT）、Jia Wang（北京师范大学，BNU）、Saihui Hou（未说明具体机构，可能来自BUPT或BNU）、Min Ren（滴滴出行，Didi Chuxing）、Huijia Wu（滴滴出行，Didi Chuxing）、Long Ma（未说明）、Renwang Pei（未说明）、Zhaofeng He（未说明具体机构，可能来自BUPT或BNU） 💡 毒舌点评 亮点在于构建了第一个专门为评估“扩散模型驱动的数字人”伪造而设计的大规模多模态数据集（DigiFakeAV），数据生成流程严谨，有效暴露了现有检测器的脆弱性，为领域提供了急需的试金石。短板则是提出的检测方法DigiShield虽然有效，但更像一个验证多模态融合有效性的“基线”而非一个具有颠覆性的新架构，且其在DigiFakeAV上80.1%的AUC也说明“道高一尺，魔高一丈”，真正的安全挑战远未解决。 🔗 开源详情 代码：论文中提及项目主页 https://hubeiwuhanliu.github.io/DigiFakeAV.github.io/，但未明确是否提供代码仓库链接。 模型权重：未提及是否公开DigiShield或其他模型的权重。 数据集：通过项目主页 https://hubeiwuhanliu.github.io/DigiFakeAV.github.io/ 提供获取信息，表明将开源。 Demo：未提及在线演示。 复现材料：给出了部分实现细节（如预处理、骨干网络ResNet-50、采样30帧、数据增强），但缺乏关键训练超参数（优化器、学习率等），复现材料不完整。 论文中引用的开源项目：引用了多个作为数据生成和对比的方法/模型，如Sonic [8], Hallo [5], EchoMimic [4], CosyVoice 2 [16], 以及基线检测器如Meso4 [19], Xception [2]等。 📌 核心摘要 要解决什么问题：现有深度伪造检测数据集和技术主要针对过时的面交换方法，无法有效评估和应对由扩散模型生成的、具有高度真实性和多模态一致性的新一代数字人伪造，导致现有检测器性能在现实威胁面前大幅下降。 ...

📄 Can Large Audio Language Models Understand Audio Well? Speech, Scene and Events Understanding Benchmark for LALMs #音频大模型 #基准测试 #音频场景理解 #语音识别 #链式推理 ✅ 7.0/10 | 前25% | #基准测试 | #链式推理 | #音频大模型 #音频场景理解 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Han Yin（KAIST 电气工程学院） 通讯作者：Jung-Woo Choi（KAIST 电气工程学院） 作者列表：Han Yin（KAIST 电气工程学院）、Jung-Woo Choi（KAIST 电气工程学院） 💡 毒舌点评 亮点： 论文精准切中了当前LALM评估的一个盲区——现实世界音频中“人声”与“环境声”的能量博弈及其联合理解，提出了首个明确建模SNR差异的综合基准，这个问题的提出本身就比很多论文更有价值。 短板： 实验部分主要依赖一个通用的文本嵌入模型来“迂回”评估模型对场景和事件的分类能力，这更像是一个工程上的权宜之计，而非严谨的评估范式；此外，只选了4个模型做评测，结论的普遍性略显不足。 🔗 开源详情 代码： 论文承诺公开代码，项目主页为 https://sites.google.com/view/sseu-bench。论文中未直接提供具体代码仓库链接。 模型权重： 论文评估的是已有开源LALM，未提及提供新的模型权重。 数据集： 论文核心贡献之一SSEU-Bench数据集将公开，可通过项目主页获取。 Demo： 论文未提及在线演示。 复现材料： 论文提供了详细的评估方法描述、CoT推理步骤说明，并声称将公开所有Prompt模板。 论文中引用的开源项目： 依赖DESED、MAESTRO-Real数据集，VCTK语料库，以及被评估的开源模型（LTU-AS, Qwen2-Audio, Kimi-Audio, Step-Audio）和CLAP模型。评估中使用了OpenAI的文本嵌入模型API。 📌 核心摘要 要解决什么问题： 现有大型音频语言模型（LALM）的评估基准忽略了两个关键现实特征：a) 音频信号通常混合了前景语音和背景非语音声音，且两者能量（信噪比）差异显著；b) 缺乏对同一音频片段中语音、场景和事件的联合理解评估。 方法核心是什么： 作者提出了SSEU-Bench，一个全新的音频理解基准。该基准通过混合纯净语音（来自VCTK）和真实环境背景音（来自DESED和MAESTRO-Real），并设置不同的信噪比（SNR），构建了21.72小时的测试音频。评估任务包括三个：自动语音识别（ASR）、声学场景分类（ASC）和音频事件标记（AT），并设计了“独立理解”和“联合理解”两种评估范式。此外，引入了链式思维（CoT）引导的推理方法来提升联合理解性能。 与已有方法相比新在哪里： 这是首个显式建模语音与非语音能量差异，并在同一音频上联合评估语音、场景、事件理解能力的基准。它超越了以往基准（如OpenAQA、AudioBench）多任务独立评估的模式，更贴近真实交互场景。 主要实验结果如何： 独立理解： CLAP系列模型在ASC和AT任务上显著优于LALM。在ASR上，Kimi-Audio表现最鲁棒（平均WER 8.78%），而LTU-AS因依赖外部ASR而表现极差（平均WER 89.29%）。 联合理解影响： 联合任务对不同LALM影响不一。例如，Qwen2-Audio-Instruct在联合模式下性能全面下降（WER从16.59升至22.16，mACC从31.24降至21.86）。Step-Audio 2 Mini则倾向于优先完成ASR，导致ASC和AT性能下降。 CoT效果： CoT能有效提升联合理解性能。例如，对Step-Audio 2 Mini，CoT使平均AT mAP提升了约4%。 模型 模式 WER ↓ (ASR) mACC ↑ (ASC) mAP ↑ (AT) Qwen2-Audio-Instruct 独立 16.59±0.1 31.24±0.1 33.42±0.1 联合 22.16±0.4 21.86±0.1 16.52±1.1 Kimi-Audio 独立 10.19±0.1 22.01±0.2 24.20±0.3 联合 17.84±0.6 22.80±0.2 26.91±0.4 Step-Audio 2 Mini 独立 22.27±0.5 35.73±0.3 36.73±0.5 联合 19.01±0.2 24.39±0.4 30.22±0.2 实际意义是什么： 推动LALM在更真实、更复杂的声学场景下进行评估和优化，为开发具备全面音频感知能力（听清说什么、听出在哪、听懂周围有什么）的下一代音频AI提供了关键的测试平台和初步改进思路（CoT）。 主要局限性是什么： a) 评估ASC和AT时，依赖外部文本嵌入模型计算相似度作为分类依据，可能无法完全反映LALM自身的分类能力；b) 仅评估了4个开源LALM，结论的普适性有待更多模型验证；c) CoT提示需要额外的推理步骤，增加了推理成本。 🏗️ 模型架构 本文的核心贡献不是提出新的LALM架构，而是提出一个评估框架（SSEU-Bench）和一种推理增强方法（CoT）。 ...

📄 ClawMark: A Living-World Benchmark for Multi-Turn, Multi-Day, Multimodal Coworker Agents #基准测试 #模型评估 #多模态模型 #大语言模型 #动态环境 ✅ 7.0/10 | 前25% | #基准测试 | #模型评估 | #多模态模型 #大语言模型 | arxiv 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Fanqing Meng (Evolvent AI, National University of Singapore) - 根据论文附录，其有*号标记为共同贡献者。 通讯作者：Mengkang Hu†, Michael Qizhe Shieh† (Evolvent AI, National University of Singapore) - 根据论文附录，其有†号标记为通讯作者。 作者列表：Fanqing Meng (Evolvent AI, National University of Singapore), Lingxiao Du (National University of Singapore), Zijian Wu (National University of Singapore), Guanzheng Chen (National University of Singapore), Xiangyan Liu (National University of Singapore), Jiaqi Liao (Independent Researcher), Chonghe Jiang (Massachusetts Institute of Technology), Zhenglin Wan (National University of Singapore), Jiawei Gu (University of Washington), Pengfei Zhou (National University of Singapore), Rui Huang (The University of Hong Kong), Ziqi Zhao (The Hong Kong Polytechnic University), Shengyuan Ding (Fudan University), Ailing Yu (Independent Researcher), Bo Peng (Shanghai Jiao Tong University), Bowei Xia (University of Electronic Science and Technology of China), Hao Sun (Peking University), Haotian Liang (University of Science and Technology of China), Ji Xie (Zhejiang University), Jiajun Chen (National University of Singapore), Jiajun Song (Renmin University of China), Liu Yang (The Hong Kong Polytechnic University), Ming Xu (National University of Singapore), Qionglin Qiu (Hunan University), Runhao Fu (Anhui University), Shengfang Zhai (National University of Singapore), Shijian Wang (Southeast University), Tengfei Ma (The Chinese University of Hong Kong), Tianyi Wu (National University of Singapore), Weiyang Jin (The University of Hong Kong), Yan Wang (Tongji University), Yang Dai (National University of Singapore), Yao Lai (The University of Hong Kong), Youwei Shu (National University of Singapore), Yue Liu (National University of Singapore), Yunzhuo Hao (Zhejiang University), Yuwei Niu (Peking University), Jinkai Huang (Evolvent AI, National University of Singapore), Jiayuan Zhuo (Evolvent AI, National University of Singapore), Zhennan Shen (The Hong Kong University of Science and Technology), Linyu Wu (National University of Singapore), Cihang Xie (University of California, Santa Cruz), Yuyin Zhou (University of California, Santa Cruz), Jiaheng Zhang (National University of Singapore), Zeyu Zheng (University of California, Berkeley), Mengkang Hu (Evolvent AI, National University of Singapore), Michael Qizhe Shieh (Evolvent AI, National University of Singapore)。 💡 毒舌点评 亮点：提出了一个设计极其严谨、评估维度（多天、动态环境、全模态）全面且完全杜绝“LLM当裁判”评分模糊性的智能体基准测试，填补了重要空白。短板：作为基准测试，其本身不产出新的模型或算法，对推动模型能力提升的作用是间接的；且100个任务的规模对于构建稳健的排行榜可能稍显不足。 ...

📄 Combining SSL Speech Features, Contextual Transformers and Mamba Models for Realistic Audio Spoofing Detection #音频深度伪造检测 #状态空间模型 #预训练 #自监督学习 #基准测试 ✅ 7.5/10 | 前25% | #音频深度伪造检测 | #状态空间模型 | #预训练 #自监督学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Luis Buera（Microsoft） 通讯作者：未说明（论文作者列表未明确区分第一/通讯作者，但通讯邮箱为microsoft.com） 作者列表：Luis Buera（Microsoft），Héctor Delgado（Microsoft），Daniele Colibro（Microsoft），Antonio Miguel（University of Zaragoza, Spain） 💡 毒舌点评 亮点：论文构建的“真实世界”评测基准极具说服力，明确区分了注入和播放两种攻击呈现方式，并评估了模型在不同通话时长下的性能，这为学术研究与工业落地之间架设了更实际的桥梁。 短板：提出的“ResNet-CoT-Mamba”更像是一个高效的成功模型组装案例，其核心组件如Audio Mamba、Hymba集成方式的原创性有限，更多是对现有技术的巧妙组合与验证。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：论文使用了公开数据集（如ASVspoof系列，VoxCeleb等）和私有数据集。公开部分可从原数据集官网获取；私有数据集（Realworld, Augmented）未说明获取方式。 Demo：未提及。 复现材料：提供了相当详细的架构图、训练策略、超参数和数据增强方法。论文中引用的开源项目/工具包括：wav2vec 2.0, RawBoost, 各种神经编解码器（神经声码器/编解码器库）。 论文中未提及明确的开源计划。 📌 核心摘要 问题：传统音频伪造检测模型在实验室条件下效果良好，但在面对真实通话场景（如电话客服中心）中的注入和播放攻击时，性能会下降，且现有研究对攻击呈现方式关注不足。 方法核心：提出“ResNet-CoT-Mamba”架构。首先使用预训练的wav2vec 2.0提取语音特征，然后通过由残差网络（ResNet）和上下文Transformer（CoT）组成的模块捕获短时相关性，最后用Mamba状态空间模型（SSM）捕获长程依赖关系。论文探索了多种Mamba集成方式，包括单向、双向、Hymba（Transformer与Mamba并行）和双路径结构。 创新点：1) 构建了包含注入、播放和真实通话中心场景的全面评测基准；2) 提出将Transformer（CoT）与Mamba在检测任务中进行多种方式的组合，特别是首次将Hymba架构引入该领域。 实验结果：在提出的基准测试中，最佳模型（Dual+Hymba+u (6)）相比强基线LGF，在EER和MDR上分别实现了52.6%和56.3%的相对改进。在“真实世界”数据集上，该模型在播放攻击场景的MDR上显著优于基线。关键数据见下表： 模型 Pool EER(%) Avg. MDR(%) Pool MDR(%) 播放攻击MDR(%) LGF (基线) 7.27 19.90 23.84 39.72 Dual+Hymba+u (6) 3.28 10.58 8.15 未在表中直接给出 Dual+Hymba+u (4) 3.77 12.52 9.59 31.05 实际意义：该工作推动了音频伪造检测从实验室走向真实应用，为电话客服、金融通话等场景提供了更可靠的防御模型。 主要局限性：1) 模型架构的创新主要体现在组合方式上，而非基础模块的原创设计；2) 论文未开源代码、模型权重或测试数据集，影响了可复现性；3) 训练数据包含未公开的私有数据集（如Realworld, Augmented），尽管公开部分足够验证核心结论。 🏗️ 模型架构 论文提出了两种主要架构变体：ResNet-CoT-Mamba和ResNet-CoT-Dual-Mamba。 ...

📄 Content-Preserving Speech Representation Learning Via Adaptive Segment-Level Alignment #语音识别 #自监督学习 #数据增强 #基准测试 #鲁棒性 ✅ 7.5/10 | 前25% | #语音识别 | #自监督学习 | #数据增强 #基准测试 学术质量 7.5/7 | 选题价值 7.5/2 | 复现加成 7.0 | 置信度 高 👥 作者与机构 第一作者：Ling Dong（昆明理工大学，云南人工智能重点实验室） 通讯作者：Zhengtao Yu（昆明理工大学，云南人工智能重点实验室），Yuxin Huang（昆明理工大学，云南人工智能重点实验室） 作者列表：Ling Dong（昆明理工大学，云南人工智能重点实验室），Wenjun Wang（昆明理工大学，云南人工智能重点实验室），Zhengtao Yu（昆明理工大学，云南人工智能重点实验室），Yan Xiang（昆明理工大学，云南人工智能重点实验室），Yantuan Xian（昆明理工大学，云南人工智能重点实验室），Yuxin Huang（昆明理工大学，云南人工智能重点实验室） 💡 毒舌点评 亮点：方法设计轻量高效，仅需100小时（远少于SPIN的356小时）的自监督微调即可在多个内容相关任务上取得显著提升，尤其是音素识别错误率（PER）大幅下降。短板：核心创新（结构熵分割）虽然巧妙，但严重依赖预训练好的S3M（如HuBERT/WavLM），并非从头构建，其普适性和在更复杂场景（如极低资源、多语言）下的有效性有待进一步验证，且引入的结构熵计算（图构建与优化）会带来一定的计算开销。 🔗 开源详情 代码：论文中未提及明确的开源代码仓库链接。 模型权重：未提及开源本方法微调后的模型权重。上游预训练模型（HuBERT, WavLM）提供了下载链接。 数据集：使用公开的LibriSpeech和DEMAND数据集，但论文未提及提供处理好的增强数据集。 Demo：未提供在线演示。 复现材料：提供了非常详细的训练配置，包括模型架构、超参数、优化设置、训练硬件等，构成良好的复现基础。 论文中引用的开源项目：引用了HuBERT和WavLM作为上游模型。代码框架和评测工具可能基于s3prl（论文提及遵循其评测设置）。 📌 核心摘要 本文旨在解决自监督语音模型（S3Ms）提取的表征会纠缠语音内容与说话人/环境信息的问题，这影响了其在内容导向任务上的性能。为此，论文提出了一种轻量的自监督微调框架，核心是通过结构熵（SE）对帧级表征进行在线、自适应的分割，获得语言学上有意义的段级单元，然后在一个教师-学生架构中，教师网络从干净语音中提取这些段原型，学生网络通过注意力机制对受扰动的语音进行软分割并对齐，从而学习内容保持的鲁棒表征。与现有方法（如固定聚类数的SPIN、帧级对齐的SCORE）相比，其新意在于：1）实现了无需预设分割数的在线自适应分割；2）在段级而非帧级进行对齐，更稳定；3）整个框架轻量且端到端。实验在SUPERB基准测试的语音识别（ASR）、音素识别（PR）、关键词检索（KS）等任务上进行，结果显示，该方法将HuBERT-base的PR错误率（PER）从5.41降至4.01，WavLM-base的PER从4.84降至3.82，在多个任务上优于或匹配现有最佳微调方法，且仅需100小时训练。该工作的实际意义在于能以较低成本显著提升现有预训练语音模型在内容相关任务上的性能与鲁棒性。主要局限性在于其依赖现有的强大预训练模型，且未探讨在更复杂噪声或多语言场景下的表现。 🏗️ 模型架构 论文提出的框架整体如图1所示，基于BYOL（Bootstrap Your Own Latent）式的自蒸馏框架。 ...

📄 CoVA: Text-Guided Composed Video Retrieval for Audio-Visual Content #跨模态检索 #音视频 #多模态模型 #对比学习 #数据集 #基准测试 ✅ 6.5/10 | 前25% | #跨模态检索 | #多模态模型 | #音视频 #对比学习 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Gyuwon Han (Chung-Ang University) 通讯作者：Chanho Eom (Chung-Ang University) 作者列表：Gyuwon Han (Chung-Ang University)、Young Kyun Jang (Google DeepMind)、Chanho Eom (Chung-Ang University) 💡 毒舌点评 论文最大的亮点是提出了一个非常实际且被忽视的问题——用户可能因为音频不同而对视觉相似的视频有不同需求，并为此构建了首个音视频组合变化的检索基准，填补了领域空白。短板在于其提出的AVT融合模块本质上是为多模态特征学习一个加权平均，技术复杂度较低，核心模型架构创新有限。 🔗 开源详情 代码：论文中提供了代码仓库链接：https://github.com/perceptualai-lab/CoVA/ 模型权重：论文中未明确提及是否公开预训练或微调后的模型权重。 数据集：论文中构建了AV-Comp基准数据集，并提供了在线演示页面，但未明确说明数据集的公开下载方式。数据集地址：https://perceptualai-lab.github.io/CoVA/ Demo：提供了在线演示：https://perceptualai-lab.github.io/CoVA/ 复现材料：论文提供了实验设置、关键超参数（学习率、批大小、轮数）和训练硬件信息。未提供训练日志、配置文件或检查点。 论文中引用的开源项目： CLIP（视觉和文本编码器） AST（音频编码器） Qwen2.5-VL-32B-Instruct（用于生成视频描述） Gemini（用于生成修改文本） AudioCaps 2.0（提供人工标注的音频描述） 📌 核心摘要 要解决什么问题：现有的组合视频检索（CoVR）方法仅考虑视觉内容的修改，忽略了音频对用户检索意图的关键影响，导致视觉相似但音频不同的视频被错误地视为语义等价。 方法核心是什么：提出了CoVA任务和AV-Comp数据集。方法上，提出了AVT Compositional Fusion模块，该模块通过一个简单的MLP为来自参考视频、修改文本（拆分为对象、动作、属性、音频四个方面）的每个特征分量预测一个权重，然后进行加权融合，以动态适应查询语义。 与已有方法相比新在哪里：首次将音频模态的变化作为组合检索的核心考量因素。构建了首个支持音视频对齐变化查询的数据集AV-Comp。提出的AVT模块相比简单的平均融合，能更有效地利用多模态信息。 主要实验结果如何：在AV-Comp测试集上，CoVA（使用CLIP-L编码器）达到了35.9% R@1，显著优于LanguageBind（27.17%）和ImageBind（20.2%）。消融实验证明移除任何文本组件（对象、动作、属性、音频）都会导致性能下降，证实了四个组件的必要性。主要结果对比如下表： 方法 R@1↑ R@5↑ R@10↑ MnR↓ ImageBind 20.2 50.5 65.4 14.6 LanguageBind 27.17 61.44 77.12 8.7 CoVA (Ours) 35.9 73.7 86.4 6.2 实际意义是什么：为音视频内容的精细检索提供了新的范式和评估基准，推动多模态检索模型更全面地理解人类的多感官意图。 主要局限性是什么：AVT模块设计相对简单，其性能提升部分依赖于更换了更强的文本编码器（CLIP-L）。数据集构建过程依赖于现成的视觉/音频描述生成模型（Qwen2.5-VL, Gemini），可能引入偏差。方法的可扩展性和在更复杂场景下的鲁棒性有待验证。 🏗️ 模型架构 CoVA框架整体分为三个模块：特征提取、门控融合Transformer（GFT）和AVT组合融合。其完整流程如下： ...