多模态模型

📄 CoVA: Text-Guided Composed Video Retrieval for Audio-Visual Content #跨模态检索 #音视频 #多模态模型 #对比学习 #数据集 #基准测试 ✅ 6.5/10 | 前25% | #跨模态检索 | #多模态模型 | #音视频 #对比学习 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Gyuwon Han (Chung-Ang University) 通讯作者：Chanho Eom (Chung-Ang University) 作者列表：Gyuwon Han (Chung-Ang University)、Young Kyun Jang (Google DeepMind)、Chanho Eom (Chung-Ang University) 💡 毒舌点评 论文最大的亮点是提出了一个非常实际且被忽视的问题——用户可能因为音频不同而对视觉相似的视频有不同需求，并为此构建了首个音视频组合变化的检索基准，填补了领域空白。短板在于其提出的AVT融合模块本质上是为多模态特征学习一个加权平均，技术复杂度较低，核心模型架构创新有限。 🔗 开源详情 代码：论文中提供了代码仓库链接：https://github.com/perceptualai-lab/CoVA/ 模型权重：论文中未明确提及是否公开预训练或微调后的模型权重。 数据集：论文中构建了AV-Comp基准数据集，并提供了在线演示页面，但未明确说明数据集的公开下载方式。数据集地址：https://perceptualai-lab.github.io/CoVA/ Demo：提供了在线演示：https://perceptualai-lab.github.io/CoVA/ 复现材料：论文提供了实验设置、关键超参数（学习率、批大小、轮数）和训练硬件信息。未提供训练日志、配置文件或检查点。 论文中引用的开源项目： CLIP（视觉和文本编码器） AST（音频编码器） Qwen2.5-VL-32B-Instruct（用于生成视频描述） Gemini（用于生成修改文本） AudioCaps 2.0（提供人工标注的音频描述） 📌 核心摘要 要解决什么问题：现有的组合视频检索（CoVR）方法仅考虑视觉内容的修改，忽略了音频对用户检索意图的关键影响，导致视觉相似但音频不同的视频被错误地视为语义等价。 方法核心是什么：提出了CoVA任务和AV-Comp数据集。方法上，提出了AVT Compositional Fusion模块，该模块通过一个简单的MLP为来自参考视频、修改文本（拆分为对象、动作、属性、音频四个方面）的每个特征分量预测一个权重，然后进行加权融合，以动态适应查询语义。 与已有方法相比新在哪里：首次将音频模态的变化作为组合检索的核心考量因素。构建了首个支持音视频对齐变化查询的数据集AV-Comp。提出的AVT模块相比简单的平均融合，能更有效地利用多模态信息。 主要实验结果如何：在AV-Comp测试集上，CoVA（使用CLIP-L编码器）达到了35.9% R@1，显著优于LanguageBind（27.17%）和ImageBind（20.2%）。消融实验证明移除任何文本组件（对象、动作、属性、音频）都会导致性能下降，证实了四个组件的必要性。主要结果对比如下表： 方法 R@1↑ R@5↑ R@10↑ MnR↓ ImageBind 20.2 50.5 65.4 14.6 LanguageBind 27.17 61.44 77.12 8.7 CoVA (Ours) 35.9 73.7 86.4 6.2 实际意义是什么：为音视频内容的精细检索提供了新的范式和评估基准，推动多模态检索模型更全面地理解人类的多感官意图。 主要局限性是什么：AVT模块设计相对简单，其性能提升部分依赖于更换了更强的文本编码器（CLIP-L）。数据集构建过程依赖于现成的视觉/音频描述生成模型（Qwen2.5-VL, Gemini），可能引入偏差。方法的可扩展性和在更复杂场景下的鲁棒性有待验证。 🏗️ 模型架构 CoVA框架整体分为三个模块：特征提取、门控融合Transformer（GFT）和AVT组合融合。其完整流程如下： ...

📄 Cross-Modal Bottleneck Fusion for Noise Robust Audio-Visual Speech Recognition #语音识别 #多模态模型 #跨模态 #鲁棒性 #音视频 ✅ 7.5/10 | 前25% | #语音识别 | #多模态模型 | #跨模态 #鲁棒性 学术质量 6.0/7 | 选题价值 7.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Seaone Ok（首尔大学IPAI、首尔大学智能信息学系） 通讯作者：Kyogu Lee（首尔大学IPAI、首尔大学智能信息学系、首尔大学AIIS） 作者列表：Seaone Ok（首尔大学IPAI、首尔大学智能信息学系）、Min Jun Choi（首尔大学IPAI、首尔大学智能信息学系）、Eungbeom Kim（首尔大学IPAI）、Seungu Han（首尔大学智能信息学系）、Kyogu Lee（首尔大学IPAI、首尔大学智能信息学系、首尔大学AIIS） 💡 毒舌点评 该工作的核心亮点在于将“注意力瓶颈”这一高效范式巧妙移植到音视频语音识别中，通过一组可学习的紧凑令牌来调节跨模态信息流，在数据效率和噪声鲁棒性上展现出明显优势，尤其是在极端噪声（-7.5dB）下性能提升显著。然而，其最终性能天花板仍被使用海量数据预训练的模型（如Auto-AVSR）牢牢压制，表明瓶颈融合本身并不能解决AVSR对大规模数据的根本依赖，创新性更多体现在工程优化而非原理突破。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：使用公开的LRS2和LRS3数据集。 Demo：未提及在线演示。 复现材料：提供了非常详细的训练配置、超参数和数据增强策略，为复现提供了良好的基础。 论文中引用的开源项目：NOISEX-92噪声库、Speech Commands数据集。 总体而言，论文中未提及开源计划，但提供了详实的复现细节。 📌 核心摘要 要解决的问题：传统的音频语音识别在噪声下性能严重下降。现有的音频-视觉语音识别融合方法要么融合效果不佳，要么计算开销过大。核心挑战是如何设计一种机制，让模型在音频信号退化时能有效利用视觉信息，同时在干净语音下保持高性能。 方法核心：提出CoBRA框架，采用双流（音频/视频）Conformer编码器，并在其中层引入一组紧凑的可学习“瓶颈令牌”。音频和视频流不直接交互，而是通过这组令牌进行信息交换，从而高效且可控地融合跨模态信息。 与已有方法相比新在哪里：与传统的拼接或全注意力交叉融合相比，CoBRA通过瓶颈令牌严格调节信息流，减少了冗余和计算量。与应用于视频分类的MBT不同，本文专门针对AVSR的时序和解码特性进行了适配和深入研究，特别是系统地探索了融合层位置的影响。 主要实验结果：在LRS3数据集上，使用664小时训练数据，干净语音WER为1.6%，在-7.5dB的babble噪声下WER为11.79%，相比基线（18.58%）相对提升约36.6%。在LRS2上取得2.8% WER。消融实验表明，中层融合（第4层）和32个瓶颈令牌是最优配置。注意力分析显示，随着噪声增强，模型更多地依赖视觉线索。 数据集 方法 训练小时数 干净WER (%) -7.5dB Babble WER (%) LRS3 CM-seq2seq (基线) 596 2.30 18.58 LRS3 CoBRA (Ours) 664 1.6 (主结果表) / 1.96 (消融表) 11.79 LRS2 CM-seq2seq (基线) 381 3.7 未提供 LRS2 CoBRA (Ours) 664 2.8 未提供 注：主结果表与消融表中的基线和CoBRA数值存在细微差异，可能源于不同的实验设置或数据子集，此处一并列出。 ...

📄 DAMO: A Data-Efficient Multimodal Orchestrator for Temporal Reasoning with Video LLMS #视频问答 #多模态模型 #时间定位 #渐进训练 ✅ 7.0/10 | 前25% | #视频问答 | #多模态模型 | #时间定位 #渐进训练 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Bo-Cheng Chiu (国立阳明交通大学人工智能学院) 通讯作者：未明确标注。根据贡献和机构排序，推测可能为通讯作者的是：Jen-Jee Chen (国立阳明交通大学人工智能学院)， Yu-Chee Tseng (国立阳明交通大学人工智能学院)， 或 An-Zi Yen (国立阳明交通大学计算机科学系)。论文中未明确指定。 作者列表：Bo-Cheng Chiu (国立阳明交通大学人工智能学院)， Jen-Jee Chen (国立阳明交通大学人工智能学院)， Yu-Chee Tseng (国立阳明交通大学人工智能学院)， Feng-Chi Chen (国家卫生研究院人口健康科学研究所)， An-Zi Yen (国立阳明交通大学计算机科学系) 💡 毒舌点评 这篇论文在“用有限数据做好时间推理”这个问题上给出了一个工程上漂亮的答卷，其四阶段训练策略和针对时间性的架构设计确实能提升模型对视频时间线的理解力，实验也证明了其在特定benchmark上的有效性。但说实话，它的核心组件如双流融合、可学习查询、LoRA微调等都不是独创，更像是针对视频任务的一次精心的“乐高组装”；另外，其宣称的“数据高效”优势，在论文比较表中与部分基线使用的数据规模差异巨大，这种对比的公平性值得进一步考量。 ...

📄 DBFT-SD: Weakly Supervised Multimodal Detection of Sensitive Audio-Visual Content #多模态模型 #音频事件检测 #对比学习 #知识蒸馏 #弱监督学习 🔥 8.0/10 | 前25% | #音频事件检测 | #对比学习 #知识蒸馏 | #多模态模型 #对比学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Song Xiao (中国科学技术大学， 北京电子科学和技术学院) 通讯作者：Xu Ji (中国科学技术大学) 作者列表：Song Xiao（中国科学技术大学， 北京电子科学和技术学院）、Xu Ji（中国科学技术大学， 北京电子科学和技术学院）、Haodong Yan（西安电子科技大学）、Xinyue Yu（中国科学技术大学） 💡 毒舌点评 论文的核心亮点在于其双分支自蒸馏架构，巧妙地利用一个更稳定的视觉分支来“教导”多模态分支，有效缓解了弱监督场景下音频噪声和模态不平衡问题。然而，作为一篇顶会论文，其核心方法（瓶颈融合、混合头部注意力）的理论深度和新意略显不足，更多是工程技巧的有效组合与验证，对比学习部分的马氏距离度量也相对常规。 🔗 开源详情 代码：论文提供了代码仓库链接：https://github.com/Sphnix-box/DBFT-SD。 模型权重：论文中未提及是否提供预训练模型权重下载。 数据集：论文中使用了XD-Violence数据集，但未说明其获取方式或是否公开提供。 Demo：论文中未提及提供在线演示。 复现材料：论文提供了部分训练细节（优化器、学习率、批大小、epoch数、硬件、Dropout率、关键自蒸馏超参数）。 论文中引用的开源项目：未明确列出依赖的开源工具或模型，但特征提取使用了I3D/CLIP (视觉) 和 VGGish (音频)。 📌 核心摘要 本文针对弱监督下大规模在线音视频敏感内容（如暴力、色情）检测的挑战，提出了动态瓶颈融合Transformer（DBFT）及其自蒸馏变体DBFT-SD。要解决的核心问题是现有方法中多模态信息融合效率低、弱监督标签噪声大以及模态间不平衡导致性能受限。方法核心是：1）在DBFT中，设计了包含动态路由的混合头部注意力机制和瓶颈融合Transformer，实现自适应的模态内与模态间特征聚合；2）在DBFT-SD中，引入一个仅使用视觉特征的辅助分支，通过基于余弦调度器的权重移动平均自蒸馏，将视觉分支的稳定知识迁移至多模态分支，并结合基于马氏距离的对比学习来增强关键帧的判别力。与已有方法相比，新在提出了整合动态注意力、瓶颈融合和自蒸馏的端到端多模态检测框架，能更好地处理噪声和模态不平衡。主要实验在XD-Violence数据集上进行，DBFT-SD达到了85.9%的平均精度（AP），超越了之前最优的多模态方法BN-WVAD（85.26% AP）和视觉方法VadCLIP（84.51% AP）。实际意义在于为社交媒体、视频平台的内容安全审核提供了更高效准确的自动化工具。主要局限性是对比实验仅在一个标准数据集上进行，缺乏更多样化或更具挑战性场景的验证。 ...

📄 DDSR-Net: Robust Multimodal Sentiment Analysis via Dynamic Modality Reliability Assessment #语音情感识别 #多模态模型 #对比学习 #特征分解 ✅ 6.5/10 | 前50% | #语音情感识别 | #对比学习 | #多模态模型 #特征分解 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Jianwen Hou (新疆大学计算机科学与技术学院) 通讯作者：Kurban Ubul (新疆大学计算机科学与技术学院) 作者列表：Jianwen Hou (新疆大学计算机科学与技术学院), Enguang Zuo (新疆大学智能科学与技术学院, 清华大学电子工程系), Chaorui Shi (新疆大学计算机科学与技术学院), Kurban Ubul (新疆大学计算机科学与技术学院) 💡 毒舌点评 该论文的“评估-修复-聚焦”闭环设计思路巧妙，为处理多模态数据中的质量不均衡问题提供了一个系统性框架，且在主流基准测试上取得了不错的成绩。然而，其核心组件之一“协同重建”的生成器（QGME-Net）内部结构细节在正文和附图中均未清晰展示，这为理解其工作原理和复现带来了障碍。 🔗 开源详情 代码：论文中未提及代码链接或开源仓库。 模型权重：未提及公开权重。 数据集：使用公开的CMU-MOSI和CMU-MOSEI数据集，但未说明具体获取方式或预处理脚本。 Demo：未提供在线演示。 复现材料：论文未提供训练细节（如优化器、学习率、batch size）、超参数配置、检查点或附录说明。 论文中引用的开源项目：论文中引用了多个基线模型（如TFN, MulT, Self-MM等）的官方代码仓库（[6]-[22]），但未明确说明DDSR-Net���身是否基于或依赖这些项目。 总结：论文中未提及任何关于开源计划、代码发布或模型共享的信息。 📌 核心摘要 这篇论文旨在解决多模态情感分析中，现实场景下非对齐数据存在的模态质量动态不均和噪声问题。其核心方法DDSR-Net提出了一种“动态质量感知”的框架，包含四个主要模块：模态质量评估模块（为每个样本的每个模态计算可靠性分数）、特征分解模块（将特征分解为共享和模态特定部分）、协同重建模块（利用高质量模态信息修复低质量模态的特定特征）以及动态聚焦注意力模块（根据质量分数自适应融合特征）。该方法通过“评估-修复-聚焦”的闭环流程，动态处理噪声和不对称性。实验结果在CMU-MOSI和CMU-MOSEI两个基准数据集上，DDSR-Net在多数指标（如MOSI的MAE、Corr、Acc-5）上超越了已有的最先进方法。其实际意义在于提升了多模态情感分析模型在非理想数据下的鲁棒性。主要局限性在于协同重建模块的具体生成器架构描述不够详细，可能影响理解和复现。 ...

📄 DGSDNet: Dual-Graph Spectral Diffusion Network for Incomplete Multimodal Emotion Recognition in Conversations #语音情感识别 #扩散模型 #图神经网络 #多模态模型 #缺失模态补全 🔥 8.0/10 | 前25% | #语音情感识别 | #扩散模型 | #图神经网络 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Mingjian Yang（电子科技大学，智能协同计算实验室） 通讯作者：Wen Yin（电子科技大学，智能协同计算实验室） 作者列表：Mingjian Yang（电子科技大学，智能协同计算实验室）、Yong Wang（电子科技大学，智能协同计算实验室）、Peng Liu（电子科技大学，智能协同计算实验室）、Wen Yin†（电子科技大学，智能协同计算实验室） 💡 毒舌点评 亮点： 精准抓住了现有方法在“保持对话图谱结构”与“对齐特征分布”之间的核心矛盾，并通过将扩散过程严格约束在谱空间（特征值扩散）来优雅地同时解决这两个问题，设计思路清晰且有理论依据。 短板： 门控谱分类（GSC）模块中的熵加权机制更像是一种启发式的不确定性融合，对于“说话人连续性”和“情感方差”等关键对话动态的显式建模略显不足，可能限制了其在更复杂交互场景下的性能天花板。 🔗 开源详情 代码： 论文提供了开源代码仓库链接：https://github.com/Yyyy-aizhien/DGSDNet。 模型权重： 论文中未提及是否公开预训练模型权重。 数据集： 论文使用的IEMOCAP和CMU-MOSI为公开数据集，但论文中未提供获取或预处理脚本的具体说明。 Demo： 论文中未提及提供在线演示。 复现材料： 论文提供了基础实现细节（优化器、学习率、Dropout率等），但缺少训练步数、批量大小、特征提取模型版本、具体GPU环境等关键复现信息。 论文中引用的开源项目： 论文中未明确列出所依赖的特定开源工具或模型库（如特征提取器）。 📌 核心摘要 要解决的问题： 现实对话场景中，模态（文本、音频、视觉）缺失导致多模态情感识别性能严重下降。现有基于图或扩散的方法存在“语义不连续”（破坏图结构或改变特征分布）和“静态融合”（固定权重无法适应动态变化）两大挑战。 方法核心： 提出DGSDNet框架，包含双谱扩散（DSD）模块和门控谱分类（GSC）模块。DSD将对话图谱（说话人图和时序图）分解为拓扑不变的特征向量和可扩散的特征值，并在特征值空间施加扩散过程以恢复缺失模态，从而同时保持图结构并生成分布对齐的特征。GSC模块基于节点特征的熵进行自适应门控，动态融合双图谱信息。 与已有方法相比新在哪里： 区别于直接在特征空间或邻接矩阵上扩散的方法，本工作首次将扩散过程严格限制在图谱的谱空间（对角特征值矩阵）上进行，理论上避免了扩散过程破坏图的局部拓扑。同时，提出了基于重建不确定性的动态门控融合机制，替代了传统的静态加权。 主要实验结果： 在IEMOCAP和CMU-MOSI两个基准数据集上，当模态缺失率从0.0到0.7变化时，DGSDNet的平均加权F1分数（WAF1）分别达到77.60% 和 79.7%，超过了所有对比的SOTA方法（如GCNet， SDR-GNN， DiCMoR）。消融实验证实了说话人图、时序图、双谱扩散和门控分类模块的有效性，移除DSD模块性能下降最显著。 实际意义： 提升了多模态对话系统在传感器故障、隐私限制等真实复杂环境下的情感理解鲁棒性，对智能客服、人机交互、心理健康监测等应用有潜在价值。 主要局限性： 1) 未处理异步多模态序列和更开放域的对话场景。2) 门控融合模块对对话动态的建模相对简单。3) 仅在两种标准数据集上验证，泛化性有待进一步考察。 🏗️ 模型架构 DGSDNet的架构（如图2所示）分为三个主要阶段： ...

📄 DPT-Net: Dual-Path Transformer Network with Hierarchical Fusion for EEG-based Envelope Reconstruction #语音生物标志物 #对比学习 #多模态模型 #跨模态 ✅ 7.0/10 | 前25% | #语音生物标志物 | #对比学习 | #多模态模型 #跨模态 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -1.0 | 置信度 中 👥 作者与机构 第一作者：Ximin Chen（南方科技大学电子与电气工程系） 通讯作者：Fei Chen（南方科技大学电子与电气工程系） 作者列表：Ximin Chen（南方科技大学电子与电气工程系）、Xuefei Wang（南方科技大学电子与电气工程系）、Yuting Ding（南方科技大学电子与电气工程系）、Fei Chen（南方科技大学电子与电气工程系） 💡 毒舌点评 亮点在于双路径设计巧妙地平衡了EEG的时序特异性（路径一）与跨模态通用性（路径二），并通过分层融合模块有效整合二者，在公开数据集上取得了显著的性能提升。然而，论文最大的短板是复现性信息严重缺失，既未开源代码也未提供模型权重，甚至连训练所用的GPU型号和耗时都未提及，使得其优异结果的可验证性和可推广性大打折扣。 🔗 开源详情 代码：论文中未提及代码链接或开源计划。 模型权重：未提及公开模型权重。 数据集：实验使用公开数据集SparrKULee [19]，但未在论文中提供获取方式（通常可从原数据集论文[19]获取）。 Demo：未提供在线演示。 复现材料：论文给出了一些关键训练细节（优化器、学习率、调度器、batch size、epoch数、损失函数权重），但缺少模型参数量、具体层配置、随机种子、GPU型号与数量、训练总时长等关键复现信息。 论文中引用的开源项目：论文中引用了多个基线模型（VLAAI, HappyQuokka, CL-Transformer, SSM2Mel），但未明确说明是否依赖或集成了这些项目的代码。文中提及DPT-Net的时序动态路径遵循作者先前工作[15]，对齐路径采用了[13]的设计。 论文中未提及开源计划。 📌 核心摘要 问题：从非侵入式EEG信号中解码语音包络，因EEG信噪比低、个体间差异大而极具挑战性，现有方法或仅关注单模态内部时序建模，或仅进行跨模态潜在空间对齐，未能充分利用两者的优势。 方法核心：提出了DPT-Net，一个双路径Transformer网络。路径一（时序动态路径）处理原始EEG以捕获丰富的时序上下文；路径二（EEG-语音对齐路径）通过CLIP损失学习EEG与语音表征间的判别性对齐特征。两条路径的输出经自适应门控融合后，送入一个分层重建模块（含U-Net和多尺度瓶颈）进行包络预测。 创新点：首次将单模态内时序学习与跨模态对齐学习并行整合到一个统一的框架中；设计了新颖的自适应门控融合机制和分层多尺度重建模块，以有效聚合互补特征。 主要实验结果：在SparrKULee数据集上，DPT-Net在测试集1（已见受试者）和测试集2（未见受试者）上的平均皮尔逊相关系数分别为0.1923和0.1112。增强版DPT-Net (E) 通过微调和集成学习，分别达到0.2200和0.1213，相比VLAAI基线提升41.30%和27.42%，在所有指标上超越了先前SOTA模型SSM2Mel。消融实验证实了双路径结构、密集跳跃连接、多尺度瓶颈和自适应门控融合的有效性。 主要对比结果表（来自表1） 模型 测试集1 (平均r) 测试集2 (平均r) 最终分数 平均分数 VLAAI [3] 0.1557 0.0952 0.1355 0.1456 HappyQuokka [7] 0.1896 0.0928 0.1573 0.1735 CL-Transformer [13] 0.1872 0.1153 0.1632 0.1752 SSM2Mel*[8] 0.208 0.116 0.1773 0.1928 DPT-Net 0.1923 0.1112 0.1653 0.1788 DPT-Net (E) 0.2200 0.1213 0.1871 0.2036 实际意义：该研究提升了从EEG重建语音包络的准确性和泛化性，为发展更鲁棒的无创脑语音接口、理解听觉神经机制以及潜在的听力诊断提供了有力工具。 主要局限性：模型计算复杂度可能较高（双路径Transformer + U-Net）；跨模态对齐路径依赖预训练或同步的语音特征，限制了其在完全无监督或仅使用EEG场景下的应用；论文未公开代码、模型和硬件细节，影响可复现性和公平比较。 🏗️ 模型架构 DPT-Net的整体架构如图1所示，主要包含两个并行的特征提取路径和一个分层重建模块。 ...

📄 DSSR: Decoupling Salient and Subtle Representations Under Missing Modalities for Multimodal Emotion Recognition #多模态模型 #情感识别 #对比学习 #鲁棒性 ✅ 7.5/10 | 前25% | #情感识别 | #对比学习 | #多模态模型 #鲁棒性 学术质量 7.5/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Huan Zhao（湖南大学计算机科学与电子工程学院） 通讯作者：Yingxue Gao*（湖南大学计算机科学与电子工程学院） 作者列表：Huan Zhao（湖南大学计算机科学与电子工程学院）、Zhijie Yu（未说明）、Yong Wei（未说明）、Bo Li（未说明）、Yingxue Gao（湖南大学计算机科学与电子工程学院） 💡 毒舌点评 这篇论文最大的亮点在于其问题洞察和框架设计——将模糊的“模态缺失鲁棒性”问题，转化为对“显著”与“细微”情感表征的显式解耦与利用，MHDW机制对此提供了巧妙的工程实现。短板在于，其生成模块（GM）采用简单的1D卷积聚合可用模态信息来“补全”缺失模态，这一假设（缺失模态信息可由其他模态线性合成）可能过于理想，在更极端或语义不一致的缺失场景下其有效性值得怀疑，论文对此缺乏深入分析。 🔗 开源详情 代码：论文中提供了代码仓库链接：https://github.com/YYYYuZJ/DSSR.git。 模型权重：论文中未提及是否公开预训练模型权重。 数据集：使用的是公开的标准基准数据集（CMU-MOSI, CMU-MOSEI, IEMOCAP），如何获取未在论文中说明，通常需遵循各数据集官方协议。 Demo：论文中未提及提供在线演示。 复现材料：论文中提供了一些实现细节（优化器、学习率、批大小、Dropout率），但缺乏训练轮数、具体硬件、关键超参数（如MHDW的头数h）的详细说明，也未提及是否提供训练好的检查点、详细配置文件或附录说明。 论文中引用的开源项目：论文未明确列出其代码依赖的具体开源工具或模型。根据架构图推测，可能使用了预训练的wav2vec、DeBERTa、MA-Net作为各模态的特征提取器，但未在文中引用。 📌 核心摘要 问题：多模态情感识别（MER）在实际部署中常面临模态缺失问题（如传感器故障），导致关键情感信号（尤其是微妙线索）丢失或模糊。现有注意力方法易受主导但无关信号干扰，难以捕获细微但有辨别力的线索。 方法核心：提出DSSR（解耦显著与细微表征）两阶段框架。第一阶段，通过动态对比学习在完整模态数据上训练通用编码器，提取跨模态不变的“显著”情感表征。第二阶段，针对缺失模态场景，先利用轻量生成模块补全缺失模态特征；然后，将显著表征作为自适应提示，通过多头动态加权（MHDW）机制，在多个子空间中评估并选择性地增强各模态的“细微”情感表征。 创新点：相较于现有直接融合或恢复缺失模态的方法，DSSR首次将情感表征显式分解为“显著”和“细微”两部分，并设计了针对性的学习机制（动态对比学习提取显著表征，MHDW增强细微表征）来分别处理，框架设计新颖。 主要实验结果：在CMU-MOSI、CMU-MOSEI和IEMOCAP三个基准数据集的多种模态缺失场景（如仅声学、仅文本、缺两模态等）下，DSSR整体性能达到了SOTA。例如，在CMU-MOSI上，平均准确率/F1为75.86%/75.05%，优于次优方法P-RMF（76.71%/未提供）。消融实验证实，去除MHDW模块导致性能下降最大（如CMU-MOSI平均准确率下降2.82%）。 实际意义：该方法提高了MER系统在传感器故障、数据传输不完整等现实挑战下的可靠性，增强了其在人机交互、情感计算等应用中的实用性。 主要局限性：生成模块（GM）的补全能力依赖于其他模态的“线性聚合”假设，其对于复杂或语义冲突的缺失情况可能效果有限，论文未对此进行深入探讨和验证。 🏗️ 模型架构 DSSR是一个两阶段框架，其整体架构如图1所示。 ...

📄 Dual Contrastive Learning for Semi-Supervised Domain Adaptation in Bi-Modal Depression Recognition #语音生物标志物 #对比学习 #领域适应 #多模态模型 ✅ 7.0/10 | 前25% | #语音生物标志物 | #对比学习 | #领域适应 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Lei Jin（东南大学计算机科学与工程学院） 通讯作者：Chunfeng Yang（东南大学计算机科学与工程学院）， Wentao Xiang（南京医科大学生物医学工程与信息学院） 作者列表：Lei Jin（东南大学计算机科学与工程学院）， Zhuochang Xu（未说明）， Yudong Zhang（未说明）， Shijie Wang（未说明）， Chunfeng Yang（东南大学计算机科学与工程学院）， Wentao Xiang（南京医科大学生物医学工程与信息学院） 💡 毒舌点评 亮点：针对抑郁症识别中数据稀缺和领域偏移的核心痛点，提出了一个结构清晰、技术整合度高的双对比学习框架，将无监督跨模态对齐与有监督伪标签优化有机结合，逻辑自洽。短板：虽然方法有效，但核心组件（对比学习、伪标签）均非全新，更像是现有技术的精巧组合与适配；且论文未提供代码或训练细节，对于一篇发表在ICASSP（信号处理会议）上的工作，其音频/语音处理深度和可复现性细节略显不足。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：论文使用了三个公开数据集（AVEC 2014, CMDC, DAIC-WOZ），但未说明其获取方式或预处理脚本。 Demo：未提及。 复现材料：论文未提供训练超参数、模型配置、检查点或附录说明。 论文中引用的开源项目：论文未明确列出所依赖的开源工具或模型代码库。 总结：论文中未提及任何开源计划或具体材料。 📌 核心摘要 这篇论文旨在解决双模态（音频与视频）抑郁症识别任务中标注数据稀缺以及跨数据集（跨语言、设备、人群）存在领域偏移的问题。为此，作者提出了一个名为DuCL的双对比学习半监督领域适应框架。该框架的核心是两个模块：1) 语义一致性加权无监督对比学习（SCW-UCL），利用样本间的语义相似度来抑制假负例，增强音频与视频模态间的通用表征对齐；2) 联合伪标签加权有监督对比学习（JPW-SCL），通过融合分类器预测和样本相似性信息生成更可靠的伪标签，并利用置信度加权来降低噪声和缓解领域偏移。与已有方法相比，其创新点在于将两种互补的对比学习策略系统性地整合，以更充分、可靠地利用大量无标签数据。实验在三个公开数据集（AVEC 2014, CMDC, DAIC-WOZ）上进行，结果表明该方法在准确率���F1分数等指标上一致性地优于DANN、MME、CDAC、CLDA等基线方法，特别是在跨语言迁移（如DAIC-WOZ到AVEC2014）任务中取得了最佳的F1分数（0.52）。该研究的实际意义在于提升了自动化抑郁识别模型在真实临床场景下的鲁棒性和适用性。主要局限性是框架的性能可能高度依赖于伪标签的质量和相似度建模的准确性，且实验未探讨模型在更极端或更复杂的领域偏移下的表现。 ...

📄 Dual-Perspective Multimodal Sentiment Analysis with MoE Fusion: Representation Learning via Semantic Resonance and Divergence #多模态情感分析 #多模态模型 #对比学习 #混合专家 #情感计算 ✅ 7.0/10 | 前50% | #多模态情感分析 | #多模态模型 | #对比学习 #混合专家 学术质量 6.0/7 | 选题价值 1.3/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Kaiwei Sun（重庆邮电大学 数据工程与可视化计算重点实验室） 通讯作者：未说明 作者列表：Kaiwei Sun（重庆邮电大学 数据工程与可视化计算重点实验室）、Yixian Guo（同前）、Jin Wang（同前）、Xin Deng（同前） 💡 毒舌点评 亮点在于将“共振”与“分歧”这一对哲学概念巧妙地映射到多模态表示学习中，并借助MoE机制实现了灵活的上下文感知融合，框架设计新颖且具有较好的可解释性潜力。然而，论文的“厚度”不足：训练细节披露不全（如GPU型号、具体训练时长）、消融实验过于“标准”而缺乏更深层的机制探索（如门控网络权重可视化），且对MoE中“专家”的具体结构描述简略，让扎实的创新打了折扣。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用的是公开基准数据集（MOSI, MOSEI, CH-SIMS），但论文未说明是否提供处理好的数据或获取指引。 Demo：未提及。 复现材料：提供了部分超参数（学习率、batch size、训练轮数、损失权重），但缺失模型架构具体参数（如层数、维度）、训练硬件、优化器类型等关键信息。 论文中引用的开源项目：提到了使用BERT作为文本编码器，但未说明具体是哪个版本或实现。 论文中未提及开源计划。 📌 核心摘要 要解决什么问题：现有基于表示学习或融合学习的多模态情感分析方法，面临模态间冗余噪声干扰以及融合策略静态、不灵活的挑战。 方法核心是什么：提出DPMSA-MoE框架。首先分别提取文本、音频、视觉的单模态特征；然后将每个特征投影到“语义共振”和“语义分歧”两个子空间，共形成六个视角的表征，并通过对比学习进行约束；最后，设计一个基于混合专家（MoE）的“语义中介”模块，利用门控网络动态加权融合这六个专家（每个子空间对应一个专家）的输出，生成最终的多模态表征。 与已有方法相比新在哪里：1）首次在多模态情感分析中显式建模“共振”（模态一致情感）与“分歧”（模态冲突情感）的双重视角。2）将MoE机制引入多模态融合，实现了根据输入上下文自适应地选择和组合不同语义来源的动态融合，而非固定的加权拼接或注意力机制。 主要实验结果如何：在三个基准数据集上，DPMSA-MoE均取得优异性能。在MOSI数据集上，7分类准确率（Acc-7）达到45.77%，相比次优模型CGGM提升2.56个百分点；在MOSEI上，5分类准确率（Acc-5）达到54.28%，相比基线有显著提升；在CH-SIMS上，3分类准确率（Acc-3）达到71.12%，相比ALMT提升2.19个百分点。消融实验表明，移除分歧建模、共振建模或MoE融合模块都会导致性能显著下降，其中MoE模块的移除影响最大。 实际意义是什么：该框架为处理复杂、冲突的多模态情感信号提供了一种新的范式，其动态融合机制增强了模型在真实世界多变场景下的鲁棒性和适应性，可应用于更精细的社交情绪理解、人机交互反馈等场景。 主要局限性是什么：论文未公开代码、模型和详细复现实验的硬件环境，降低了可复现性。消融实验未能深入探究MoE中专家数量、门控网络设计等关键超参数的影响。此外，双视角投影层的具体设计（如Tanh激活的作用）缺乏更深入的理论或实验分析。 🏗️ 模型架构 论文提出的DPMSA-MoE框架（如图1所示）主要由三个阶段组成： ...