音视频

📄 AISHELL6-Whisper: A Chinese Mandarin Audio-Visual Whisper Speech Dataset with Speech Recognition Baselines #语音识别 #迁移学习 #数据集 #音视频 🔥 8.3/10 | 前25% | #语音识别 | #迁移学习 | #数据集 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Cancan Li（武汉大学计算机科学学院， 武汉大学人工智能学院） 通讯作者：Juan Liu（武汉大学计算机科学学院， 武汉大学人工智能学院）†； Ming Li（苏州城市多模态智能系统重点实验室， 杜克昆山大学数字创新研究中心）† 作者列表：Cancan Li（武汉大学计算机科学学院， 武汉大学人工智能学院）、Fei Su（武汉大学计算机科学学院， 武汉大学人工智能学院）、Juan Liu（武汉大学计算机科学学院， 武汉大学人工智能学院）、Hui Bu（北京飞识科技有限公司）、Yulong Wan（OPPO AI中心， 北京）、Hongbin Suo（OPPO AI中心， 北京）、Ming Li（苏州城市多模态智能系统重点实验室， 杜克昆山大学数字创新研究中心） 💡 毒舌点评 这篇论文最大的亮点是“用处很大”——它提供了一个规模空前、包含同步视频的中文耳语音频-视觉数据集，直接解决了该领域数据匮乏的痛点，对推动相关研究价值极高。然而，其提出的“基线模型”本质上是在强大的Whisper-Flamingo框架上做了一些有效的“微调”与“适配”，在模型架构的原创性上并未带来颠覆性突破，更多是工程整合与策略优化。 📌 核心摘要 问题：耳语音识别对于隐私保护、医疗辅助等场景至关重要，但其因缺乏基频、能量低等特点导致识别困难。中文耳语识别发展受限于缺乏大规模专用数据集，尤其是包含音视频信息的数据集。 方法核心：作者构建了AISHELL6-Whisper数据集，包含30小时耳语和30小时平行普通语音，其中121位说话人的数据配有同步的正面面部视频。基于此，提出了一个音频-视觉耳语识别基线模型，该模型分两阶段训练：第一阶段在共享的Whisper编码器/解码器上采用并行训练策略，同时处理成对的耳语和普通语音；第二阶段集成视觉特征，并引入一个投影层专门优化耳语特征的表示。 与已有方法相比新在哪里：1）数据集规模与模态上远超现有中文耳语数据集（如iWhisper-Mandarin, AVWD）。2）模型方面，创新性地将并行训练策略（强制耳语与普通语音特征对齐）和针对耳语设计的投影层相结合，有效弥合了两种语音模式间的差异。3）在公开的英文耳语基准wTIMIT上验证了方法的跨语言迁移能力。 主要实验结果：在自建的AISHELL6-Whisper测试集上，完整模型（包含并行训练+投影层+视频）在耳语上的CER为4.13%，在普通语音上为1.11%。在wTIMIT测试集上，使用在本数据集上预训练的模型进行微调后，在美国口音耳语WER上比原始Whisper Large-V3降低了1.85%，在新加坡口音耳语WER上降低了7.40%，取得了新的最先进（SOTA）结果。关键消融实验证明了并行训练、投影层和视频信息各自带来的性能提升。 模型/策略 Whisper Speech CER Normal Speech CER Whisper (Large-V3) 18.93% 3.95% + Finetune 6.69% 1.62% + Parallel training 4.53% 0.98% + Projection layer 4.34% 1.14% + Video 4.21% 1.08% + Video (Proposed) 4.13% 1.11% 表3：在AISHELL6-Whisper测试集上的性能消融实验。 实际意义：为中文耳语识别研究提供了宝贵的基准数据集和强基线，推动了该领域发展。所提方法展示了利用平行数据和少量结构改进提升特定语音识别任务的有效性，对低资源或特殊语音模式识别有借鉴意义。 主要局限性：论文未探讨耳语识别在真实噪声或低信噪比环境下的性能，而视觉信息在此类场景下可能更为重要。此外，模型依赖于预训练的强力Whisper和AV-HuBERT，对于计算资源有限的团队，完整训练或部署可能具有挑战性。 🏗️ 模型架构 本文提出的基线模型架构如图2所示，其训练分为两个阶段，整体基于Whisper和Whisper-Flamingo框架构建。 ...

📄 An Audio-Visual Speech Separation Network with Joint Cross-Attention and Iterative Modeling #语音分离 #注意力机制 #迭代建模 #音视频 #时频分析 ✅ 7.5/10 | 前25% | #语音分离 | #注意力机制 | #迭代建模 #音视频 学术质量 0.8/7 | 选题价值 0.7/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Fangxu Chen（新疆大学计算机科学与技术学院， 同时隶属于丝路多语种认知计算联合国际研究实验室） 通讯作者：Ying Hu（新疆大学计算机科学与技术学院， 同时隶属于丝路多语种认知计算联合国际研究实验室） 作者列表：Fangxu Chen（新疆大学计算机科学与技术学院）、Ying Hu（新疆大学计算机科学与技术学院）、Zhijian Ou（清华大学电机工程与应用电子技术系）、Hexin Liu（南洋理工大学电气与电子工程学院） 💡 毒舌点评 亮点在于提出的JCA模块和参数共享的迭代分离模块，成功地在提升分离性能（在多个数据集上取得SOTA）的同时，将模型参数量和推理时间（RTF）控制在极低水平（JCA-Net-4的RTF仅为0.021秒），展现了优秀的效率-性能权衡。短板在于实验评估主要基于标准学术数据集，论文未探讨模型在更极端噪声（如非平稳噪声、强混响）、说话人数量多于2人或跨语言场景下的鲁棒性，其实际应用的泛化能力有待进一步验证。 📌 核心摘要 要解决什么问题：传统的纯音频语音分离在强噪声、混响或重叠语音场景下面临瓶颈。本文旨在利用说话人的视觉线索（唇动）来增强分离性能，同时解决现有音视频融合方法仅关注跨模态关系而忽略模内关系，以及分离模块效率低下的问题。 方法核心是什么：提出了JCA-Net网络，其核心是联合交叉注意力（JCA）模块和参数共享的迭代分离模块。JCA模块通过引入音视频的联合表示，使注意力机制能同时建模模态内和模态间关系。分离模块则被迭代执行R次，每次共享参数，以平衡性能与效率。 与已有方法相比新在哪里：主要创新有两点：(1) 在音视频融合上，JCA模块首次将“联合表示”与“交叉注意力”结合，实现了更全面的特征交互，优于简单的拼接、加法或标准跨模态注意力。(2) 在分离建模上，提出了一种轻量级的迭代范式，通过参数共享，用较少的参数量和计算量（MACs）实现了性能的逐次提升，效率远优于基于Transformer的大型双路径网络。 主要实验结果如何：在三个主流基准数据集（LRS2, LRS3, VoxCeleb2）上，JCA-Net-12（迭代12次）取得了最佳的SI-SNRi和SDRi。例如，在LRS2上SI-SNRi达到15.6 dB，在VoxCeleb2上达到12.9 dB，均优于所有对比的7种SOTA方法。关键消融实验显示： 迭代次数增加带来性能提升但计算量线性增长。 JCA融合策略显著优于其他融合方法。 迭代模块中的AFM和MLFF组件均能独立带来性能增益，组合使用效果最佳。 方法 LRS2 SI-SNRi LRS3 SI-SNRi VoxCeleb2 SI-SNRi 参数量 (M) RTF (s) RTFS-Net-12 [8] 14.9 17.5 12.4 0.74 0.055 JCA-Net-12 15.6 17.7 12.9 1.26 0.049 JCA-Net-4 14.2 15.5 11.3 1.26 0.021 实际意义是什么：该研究为嘈杂或重叠语音环境下的语音增强（如助听器、会议转录、语音助手）提供了一个高效且高性能的解决方案。特别是JCA-Net-4模型，其极低的实时因子（RTF）使其具备在资源受限设备上实时处理的潜力。 主要局限性是什么：论文未讨论模型对非理想视觉输入（如遮挡、侧脸、光照差）的鲁棒性；实验设置为2人混合，未验证更多说话人的场景；此外，模型性能虽高，但其架构复杂度仍高于最轻量的纯音频模型（如AV-Convtasnet），在某些极端低功耗场景可能仍是挑战。 🏗️ 模型架构 论文提出的JCA-Net整体框架如上图所示。其完整流程如下： ...

📄 Assessing Identity Leakage in Talking Face Generation: Metrics and Evaluation Framework #说话人脸生成 #模型评估 #基准测试 #音视频 ✅ 7.5/10 | 前25% | #说话人脸生成 | #模型评估 | #基准测试 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Dogucan Yaman（Karlsruhe Institute of Technology, KIT Campus Transfer GmbH (KCT)） 通讯作者：未说明（根据惯例和贡献推测，Alexander Waibel 可能为通讯作者，但论文未明确标注） 作者列表：Dogucan Yaman (Karlsruhe Institute of Technology, KCT)、Fevziye Irem Eyiokur (Karlsruhe Institute of Technology, KCT)、Hazım Kemal Ekenel (Istanbul Technical University)、Alexander Waibel (Karlsruhe Institute of Technology, KCT, Carnegie Mellon University) 💡 毒舌点评 亮点：精准戳中了当前说话人脸生成领域评估体系的“阿喀琉斯之踵”——高lip-sync分数可能掩盖了严重的“身份参考泄漏”问题，并设计了一套精巧的、可量化的“体检方案”来揭露它。短板：它本质上是一份详尽的“验尸报告”和“检测标准”，对于如何从根本上“治愈”泄漏问题（即设计新模型）着墨较少，创新止步于评估方法论层面。 ...

📄 Asynchrony-Aware Decoupled Multimodal Control for Cued Speech Video Generation #语音合成 #扩散模型 #流匹配 #音视频 #低资源 ✅ 7.5/10 | 前10% | #语音合成 | #扩散模型 | #流匹配 #音视频 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Fengji Ma（香港科技大学（广州）） 通讯作者：Li Liu（香港科技大学（广州），邮箱：avrillliu@hkust-gz.edu.cn） 作者列表：Fengji Ma（香港科技大学（广州））、Xiao-Ping Zhang（清华伯克利深圳学院）、Li Liu（香港科技大学（广州）） 💡 毒舌点评 这篇论文的亮点在于将“手语视频生成”这个具体任务分解得非常清晰，并针对其中“控制纠缠”、“动作异步”和“长视频漂移”三个痛点分别设计了技术方案（DCL、SAMP、MS-CWD），体现了扎实的工程思维和问题导向。然而，其短板也显而易见：作为一篇强调生成质量的工作，却未提供任何开源代码或预训练模型，甚至训练数据集的公开性也未明确，这极大削弱了其作为学术贡献的可验证性和后续研究价值；此外，长视频一致性的验证仅在500帧左右，对于实际应用可能需要更长序列的表现未做探讨。 📌 核心摘要 要解决的问题：论文旨在解决从语音和姿态信号生成手语视频（Cued Speech Video）时面临的三个关键挑战：(1) 语音与姿态模态间的控制纠缠，导致嘴唇和手部细节模糊；(2) 手语系统固有的手部动作与语音的自然异步性，严格对齐会导致动作不自然；(3) 长视频生成中缺乏长期时序一致性。 方法核心：提出一个名为“解耦课程学习”（Decoupled Curriculum Learning, DCL）的三阶段训练框架。该框架先分别训练语音分支（控制嘴唇）和姿态分支（控制上半身和手势），再进行联合微调。同时，引入了区域感知重建损失（RAR）以增强局部细节，设计了语音异步调制（SAMP）机制来建模手势与语音的自然时间偏移，并提出了多尺度上下文窗口去噪（MS-CWD）推理策略以保证长视频的时序连贯性。 与已有方法的创新点：与以往通用的人像动画或说话人头部生成方法不同，本文是首个针对“手语视频生成”这一特定任务进行系统性建模的工作。其创新点包括：(1) 明确的解耦训练策略（DCL）以避免模态干扰；(2) 区域感知的精细化损失（RAR）聚焦于嘴唇和手部这两个关键区域；(3) 首次在生成任务中显式建模语音与手势的异步关系（SAMP）；(4) 专为长视频设计的多尺度、加权融合的推理算法（MS-CWD）。 主要实验结果：在自建的普通话手语（MCCS）数据集上，本文方法在所有评估指标上均优于StableAnimator (SA) 和 UniAnimate-DiT (UAD) 两个SOTA方法。具体数值见表1。消融实验证明，移除任何一个提出模块（DCL, RAR, SAMP, MS-CWD）都会导致性能下降，其中移除DCL影响最大。图4显示，在500帧长视频中，本文方法的手部关键点置信度（HKC）和语音-嘴唇同步置信度（Sync-C）的衰减率仅为约3%，远低于基线方法（约7%-22%）。 实际意义：该技术有望为听障人群生成易于理解的、手语辅助的教学或交流视频，打破沟通壁垒。其提出的技术（如异步建模、长视频生成）也可能迁移至其他需要多模态协调控制的视频生成任务中。 主要局限性：论文未提供代码和模型，复现困难；实验仅在普通话手语数据集上进行，未验证其他语言手语的通用性；未分析模型的计算开销和训练成本；长视频测试的最长长度为500帧，对于更长的序列（如分钟级）的稳定性有待进一步验证。 🏗️ 模型架构 论文的整体架构基于一个扩散Transformer（DiT）骨干网络，并遵循Rectified Flow（RF）目标进行训练。其核心设计是“解耦课程学习”（DCL），分为三个阶段（如图2所示）： ...

📄 Attentive AV-Fusionnet: Audio-Visual Quality Prediction with Hybrid Attention #音视频 #多模态模型 #注意力机制 #模型评估 #工业应用 ✅ 7.0/10 | 前25% | #音视频 | #注意力机制 | #多模态模型 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Ina Salaj (Dolby Germany GmbH) 通讯作者：未说明（根据作者列表和常规署名，第一作者或第二作者可能为通讯作者，但论文中未明确标注） 作者列表：Ina Salaj (Dolby Germany GmbH)， Arijit Biswas (Dolby Germany GmbH) 💡 毒舌点评 亮点：论文提出的混合注意力融合框架（结合GML学习特征和VMAF手工特征）设计精巧，实验结果在内部数据集上显著优于基线（Rp提升至0.97），且提供了可解释的模态重要性估计。短板：论文严重依赖于Dolby的“内部数据集”和“内部实现的GML/VMAF特征”，外部可复现性存疑，且在公开基准LIVE-SJTU上的提升（如RMSE从0.47降至0.44）相对有限，未能完全证明其“鲁棒性”声称。 📌 核心摘要 问题：现有音视频质量评估（AVQ）方法常采用简单的融合策略（如加权求和），无法有效建模内容相关的跨模态动态依赖关系（例如，高质量视频可补偿音频瑕疵），且依赖过时的单模态特征。 方法：提出Attentive AV-FusionNet。模型首先提取视频VMAF内部特征（6维）和音频GML深层特征（512维）。通过可学习投影将视频特征对齐到音频空间。核心融合阶段采用双向多头交叉注意力，使音频和视频特征相互关注，生成1024维联合表征；随后使用自注意力进一步精炼该表征，以捕捉模态内依赖。最终通过浅层全连接网络预测质量分数。 创新：1) 融合了深度学习（GML）和传统感知模型（VMAF）的异构特征；2) 利用混合注意力机制显式建模跨模态和模态内交互；3) 引入了模态相关性估计器，可量化每个模态对最终预测的贡献。 结果：在内部数据集（1500训练，125测试）上，该模型达到 Pearson (Rp) = 0.97, Spearman (Rs) = 0.96, RMSE = 0.22，显著优于加权乘积基线（Rp=0.84）和SVR方法（Rp=0.90）。在外部LIVE-SJTU数据集上，取得 Rp=0.92, Rs=0.92, RMSE=0.44，表现与SVR-8F（Rp=0.90）和Recursive AV-FusionNet（Rp=0.92）相当或略优。 意义：该模型为流媒体平台提供了更准确、可解释的音视频联合质量预测工具，其模态重要性估计为实现内容自适应的音视频比特率分配提供了可能。 局限：模型依赖于未公开的内部数据集和特定特征提取器（GML、VMAF内部表示），外部验证数据集（LIVE-SJTU）规模有限，且未能提供代码或详细复现指南。 🏗️ 模型架构 Attentive AV-FusionNet 是一个端到端的全参考音视频质量预测模型，包含三个主要阶段：特征提取、注意力融合、质量预测。 ...

📄 Audio-Visual Feature Fusion for Calibrating Relevance Scores of Video Moment Retrieval #视频片段检索 #晚期融合 #重评分 #音视频 #多任务学习 ✅ 7.0/10 | 前25% | #视频片段检索 | #晚期融合 | #重评分 #音视频 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Takehiro Imamura（名古屋大学，LY Corporation） 通讯作者：未说明（论文中未明确标注通讯作者） 作者列表：Takehiro Imamura（名古屋大学, LY Corporation）、Tatsuya Komatsu（LY Corporation）、Hokuto Munakata（LY Corporation）、Tomoki Toda（名古屋大学） 💡 毒舌点评 这篇论文的亮点在于它精准地识别并试图解决DETR类模型在VMR中“定位准但排序乱”的痛点，提出的LARS模块设计清晰且与主流的早期融合形成完美互补。然而，其短板也相当明显：作为一项融合工作，创新性略显平淡（本质是一个轻量级的重评分网络），且未能与近年来可能更强的SOTA基线（如基于大型视频-语言模型的方法）进行对比，削弱了结论的冲击力。 📌 核心摘要 要解决什么问题：现有的DETR类视频片段检索（VMR）模型存在两个主要问题：（1）突变的视觉场景容易导致片段边界误检；（2）由于DETR的条件独立输出和sigmoid分数校准问题，模型输出的片段相关性分数不可靠，导致排序不佳。 方法核心是什么：提出“晚期融合重评分模块”（LARS）。它在VMR模型（如QD-DETR）输出候选片段后介入，提取每个候选片段对应的音视觉融合特征，计算这些特征与文本查询的对齐分数（基于余弦相似度），然后将该分数与VMR模型原始的前景/背景分类分数拼接，通过一个MLP进行最终的分数重校准。 与已有方法相比新在哪里：传统方法多采用“早期特征融合”（EFF），在模型输入阶段就拼接音视觉特征，这有助于改善片段定位，但无法解决DETR固有的分数校准问题。LARS则是一种“晚期特征融合”策略，在输出端对分数进行精炼，与EFF作用于模型的不同阶段，互为补充。 主要实验结果如何： 在QVHighlights、HiREST和Charades-Audiomatter三个基准上，单独使用LARS或单独使用EFF均能提升性能（如mAP avg.和R1@0.7）。 两者结合（EFF+LARS）能取得最佳性能，证实了互补性。例如在QVHighlights上，CLIP+Slowfast+PANNs特征下，仅EFF的mAP avg.为41.83，仅LARS为42.44，结合后为42.57。 消融实验显示，即使不使用音频特征，LARS也能提升性能，证明其对DETR分数的校准能力。 定性分析表明，EFF主要改进了定位精度（图2），而LARS主要提升了分数可靠性（图3）。 实际意义是什么：为VMR系统提供了一个即插即用的后处理模块，能有效利用音频信息来提升检索结果的排序质量，对于构建更精准的视频搜索、推荐和编辑工具有实用价值。 主要局限性是什么：创新相对有限，是一个针对性很强的工程化改进。实验中未与当前最前沿（如基于大型多模态语言模型）的VMR方法进行对比。LARS的计算开销和其带来的性能提升之间的权衡未被充分讨论。 🏗️ 模型架构 整体架构包含两个主要阶段：基线VMR模型和提出的LARS模块。基线模型通常采用带有早期特征融合（EFF）的QD-DETR。 ...

📄 AVO-65: A Large-Scale Hierarchical Audio-Visual Object Dataset #音视频 #数据集 #多模态模型 #模型评估 ✅ 7.0/10 | 前50% | #音视频 | #数据集 | #多模态模型 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：未说明（论文中注明“† These authors contributed equally”，但未明确排序） 通讯作者：Dongchen Zhu12, （注有号） 作者列表：Zehao Yao1,2,†; Guanghui Zhang1,†; Lei Wang1,2; Dongchen Zhu1,2,* （注1：1为Bio-Vision System Laboratory, Science and Technology on Micro-system Laboratory, Shanghai Institute of Microsystem and Information Technology, Chinese Academy of Sciences； 2为University of Chinese Academy of Sciences） 💡 毒舌点评 这篇论文的亮点在于提出了一套严谨、系统化的多模态数据集构建流程，并特别强调了音视频“多重一致性”和层次化标注，填补了现有数据集的空白。然而，其短板也十分明显：论文的核心贡献本质上是一个高质量的“工程产物”（数据集），而在算法、模型或理论层面几乎没有提出新的方法，实验部分主要使用现成的模型进行基线测试，创新性不足。 ...

📄 Bimodal Fusion Framework for Dynamic Facial Expression Recognition In-The-Wild #语音情感识别 #多模态模型 #跨模态 #音视频 #预训练 ✅ 7.0/10 | 前25% | #语音情感识别 | #多模态模型 | #跨模态 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Bohui Yang（东南大学计算机科学与工程学院） 通讯作者：Chunfeng Yang（东南大学计算机科学与工程学院）， Wentao Xiang（南京医科大学生物医学工程与信息学院） 作者列表：Bohui Yang（东南大学计算机科学与工程学院）， Luo Lilin（未说明具体单位，仅在作者列表中）， Xiaojia Wang（未说明具体单位，仅在作者列表中）， Chunfeng Yang（东南大学计算机科学与工程学院）， Wentao Xiang（南京医科大学生物医学工程与信息学院） 💡 毒舌点评 这篇论文的框架设计精巧，将视觉Transformer的参数高效微调（PEFT）思想成功移植到音频-视觉双模态动态表情识别任务中，三个模块（MSA、BFA、CMTM）分工明确，消融实验设计得当，有力支撑了其有效性。然而，其核心创新——在预训练模型中插入适配器（Adapter）进行轻量微调——并非全新概念，论文在探索更深层或更具解释性的跨模态交互机制上着墨不多，主要贡献是工程上的有效整合与验证。 📌 核心摘要 该论文针对野外动态表情识别（DFER）中单模态方法难以捕捉跨模态关联的问题，提出了一个名为BFF-DFER的双模态融合框架。该框架的核心思想是利用预训练的音视频Transformer模型作为骨干网络，冻结其大部分参数，仅通过训练三个轻量级模块来实现高效适配：1) 模态特定适配（MSA）用于增强单模态特征；2) 双模态融合适配器（BFA）用于融合跨模态特征；3) 跨模态时序建模（CMTM）用于建模时间动态。与先前单模态微调或直接融合的方法相比，本工作强调在保持预训练模型完整性的前提下，设计专门的模块来显式建模模态内与时序/跨模态关系。在DFEW和MAFW两个大规模野外基准数据集上，BFF-DFER取得了具有竞争力的性能（DFEW: 67.52% UAR, 78.28% WAR; MAFW: 44.46% UAR, 58.41% WAR），超越了多数现有方法。消融实验证实了各模块的贡献，可视化显示其学习的特征具有更好的类内紧凑性和类间可分性。该工作展示了在资源受限条件下，通过参数高效方法整合多模态预训练知识的有效路径。其主要局限性可能在于框架的复杂性（多个适配器模块）以及未探讨更极端的数据或计算受限场景。 ...

📄 Can Hierarchical Cross-Modal Fusion Predict Human Perception of AI Dubbed Content? #模型评估 #多模态模型 #音频分类 #音视频 ✅ 6.0/10 | 前25% | #模型评估 | #多模态模型 | #音频分类 #音视频 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：未说明（论文作者列表中未明确标注顺序） 通讯作者：未说明 作者列表：Ashwini Dasare（Sony Research India）、Nirmesh Shah（Sony Research India，邮箱已提供）、Ashishkumar Gudmalwar（Sony Research India，邮箱已提供）、Pankaj Wasnik（Sony Research India，邮箱已提供） 💡 毒舌点评 亮点：论文提出的“代理MOS+主动学习”框架，巧妙地将多种客观指标融合成弱监督标签，为解决昂贵的人工标注瓶颈提供了一个实用且可扩展的工程化方案。短板：其核心的“层级多模态融合”架构本质上是几种成熟模块（预训练编码器、LoRA、注意力门控、Transformer）的拼装，创新深度有限；且所有实验仅基于Hindi-English双向配音的特定数据集，结论的普适性有待验证。 📌 核心摘要 要解决的问题：评估AI配音质量高度依赖昂贵且难以规模化的人工评分（MOS），现有的单一维度客观指标无法全面反映人类的整体感知。 方法核心：提出一种层级化多模态融合架构，分别提取音频（说话人、韵律、情感）、视频（全局上下文、面部表情）和文本（语义）的特征，并通过模态内融合和跨模态融合层进行整合，最终预测一个综合的“配音分数”（DubScore）。为解决训练数据不足，设计了一个两阶段训练流程：先使用由多个客观指标加权聚合而成的“代理MOS”进行弱监督预训练（权重通过主动学习优化），再用少量人工MOS数据进行微调。 新意：新意在于将主动学习应用于优化代理MOS的权重，并将该弱监督策略与参数高效（LoRA）的多模态层级融合网络相结合，形成一个从弱监督到强监督的完整训练pipeline。 主要实验结果：在12k Hindi-English配音片段上训练后，最终模型预测的DubScore与人工MOS的皮尔逊相关系数（PCC）达到0.76，斯皮尔曼秩相关系数（SRCC）为0.77。消融实验表明，全模态（A+V+T）性能显著优于单模态或双模态；主动学习策略在权重学习上全面优于随机采样；“代理MOS+微调”的组合效果最佳（PCC从0.68提升到0.76）。关键实验数据见表2、表4、表5。 实际意义：提供了一种可扩展的AI配音质量自动化评估方案，可用于指导配音系统优化、内容批量质检，降低对人工评估的依赖。 主要局限性：1）模型和评估完全依赖于预训练特征提取器的质量；2）实验数据集规模（12k）和语言对（仅Hindi-English）有限，未在更多语言、更复杂的配音场景中验证；3）缺乏与最新配音评估方法（如基于LLM的评估）的直接对比；4）开源性不足，难以复现和扩展。 🏗️ 模型架构 论文提出的架构如图1所示，其核心思想是模拟人类对配音质量的多层次感知过程，采用“先模态内融合，再跨模态融合”的层级设计。 ...

📄 CoVA: Text-Guided Composed Video Retrieval for Audio-Visual Content #跨模态检索 #音视频 #多模态模型 #对比学习 #数据集 #基准测试 ✅ 6.5/10 | 前25% | #跨模态检索 | #多模态模型 | #音视频 #对比学习 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Gyuwon Han (Chung-Ang University) 通讯作者：Chanho Eom (Chung-Ang University) 作者列表：Gyuwon Han (Chung-Ang University)、Young Kyun Jang (Google DeepMind)、Chanho Eom (Chung-Ang University) 💡 毒舌点评 论文最大的亮点是提出了一个非常实际且被忽视的问题——用户可能因为音频不同而对视觉相似的视频有不同需求，并为此构建了首个音视频组合变化的检索基准，填补了领域空白。短板在于其提出的AVT融合模块本质上是为多模态特征学习一个加权平均，技术复杂度较低，核心模型架构创新有限。 📌 核心摘要 要解决什么问题：现有的组合视频检索（CoVR）方法仅考虑视觉内容的修改，忽略了音频对用户检索意图的关键影响，导致视觉相似但音频不同的视频被错误地视为语义等价。 方法核心是什么：提出了CoVA任务和AV-Comp数据集。方法上，提出了AVT Compositional Fusion模块，该模块通过一个简单的MLP为来自参考视频、修改文本（拆分为对象、动作、属性、音频四个方面）的每个特征分量预测一个权重，然后进行加权融合，以动态适应查询语义。 与已有方法相比新在哪里：首次将音频模态的变化作为组合检索的核心考量因素。构建了首个支持音视频对齐变化查询的数据集AV-Comp。提出的AVT模块相比简单的平均融合，能更有效地利用多模态信息。 主要实验结果如何：在AV-Comp测试集上，CoVA（使用CLIP-L编码器）达到了35.9% R@1，显著优于LanguageBind（27.17%）和ImageBind（20.2%）。消融实验证明移除任何文本组件（对象、动作、属性、音频）都会导致性能下降，证实了四个组件的必要性。主要结果对比如下表： 方法 R@1↑ R@5↑ R@10↑ MnR↓ ImageBind 20.2 50.5 65.4 14.6 LanguageBind 27.17 61.44 77.12 8.7 CoVA (Ours) 35.9 73.7 86.4 6.2 实际意义是什么：为音视频内容的精细检索提供了新的范式和评估基准，推动多模态检索模型更全面地理解人类的多感官意图。 主要局限性是什么：AVT模块设计相对简单，其性能提升部分依赖于更换了更强的文本编码器（CLIP-L）。数据集构建过程依赖于现成的视觉/音频描述生成模型（Qwen2.5-VL, Gemini），可能引入偏差。方法的可扩展性和在更复杂场景下的鲁棒性有待验证。 🏗️ 模型架构 CoVA框架整体分为三个模块：特征提取、门控融合Transformer（GFT）和AVT组合融合。其完整流程如下： ...