多模态模型

📄 EmoTri-RL: Emotion- and Cause-Aware Reinforcement Learning for Multi-Modal Empathetic Dialogue #语音情感识别 #强化学习 #多模态模型 #生成模型 #多任务学习 ✅ 7.0/10 | 前25% | #语音情感识别 | #强化学习 | #多模态模型 #生成模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Zhongtian Hu（Northwestern Polytechnical University） 通讯作者：Changhong Jiang（Northwestern Polytechnical University, Email: chjiang@nwpu.edu.cn） 作者列表：Zhongtian Hu（Northwestern Polytechnical University）、Changhong Jiang*（Northwestern Polytechnical University）、Mingting Yu（未说明）、Wei Zhang（未说明）、Jiashi Lin（未说明） 💡 毒舌点评 本文的亮点在于系统性地将共情对话生成分解为三个明确任务（生成、情感识别、情感原因识别）并通过多模态融合与强化学习统一解决，这种“解耦再融合”的框架设计清晰且具有启发性。然而，论文的短板也相当明显：开源信息完全缺失，且消融实验虽多，但未提供人工评估的消融结果，使得“每个组件都必要”的结论在用户最终关心的“共情质量”上证据稍显单薄。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开的模型权重。 数据集：论文使用了IEMOCAP和MELD公共数据集，并提及按照REC-CON协议扩展了情感原因标注，但未提供扩展后的数据集或获取方式。 Demo：未提及在线演示。 复现材料：给出了PPO阶段的学习率、裁剪范围等部分超参数，但缺少监督预热阶段的完整配置、优化器、batch size、训练硬件与总时长、最终模型检查点等信息。 论文中引用的开源项目：引用了并可能使用了以下预训练模型：BART (文本编码/解码)， Wave2Vec 2.0 (语音编码)， ViT (视觉编码)， OpenFace (用于提取视觉特征)， BERT (用于计算奖励中的语义保真度)。 📌 核心摘要 要解决什么问题：现有的共情对话生成系统主要依赖文本，忽略了语音、视觉等模态的情感线索（问题一）；忽视了情感产生的原因，导致生成回复缺乏可解释性（问题二）；以及普遍采用最大似然估计训练，其优化目标与共情所需的主观、微妙质量不匹配（问题三）。 方法核心是什么：本文提出了EmoTri-RL框架，一个“三模态三任务”的强化学习模型。它首先利用预训练模型提取文本、语音、视觉特征并进行融合，然后在一个统一的解码器中联合执行响应生成、情感识别和情感原因识别三个任务，最后采用带有包含语义保真度、情感对齐和原因一致性三项奖励信号的近端策略优化进行训练。 与已有方法相比新在哪里：与大多数仅使用文本或简单融合多模态信息的方法相比，其新意在于：a) 引入情感原因识别任务作为显式监督，为生成的共情回复提供可解释的因果依据；b) 设计了多信号强化学习奖励，直接优化共情相关的多个维度，而非仅模仿参考文本。 主要实验结果如何：在IEMOCAP和MELD数据集上，EmoTri-RL在几乎所有自动评估指标上均优于强基线。在IEMOCAP数据集上，与最强基线（IAMM）相比，困惑度（PPL）从38.40降至29.90（提升约22.1%）， Dist-2从5.09飙升至11.50（提升125.7%），情感识别准确率从69.72%提升至72.80%，BERTScore从81.69提升至85.10。人工评估和LLM评估（GPT-4o）显示，在共情、连贯性、流畅性方面，本模型对CASE和IAMM的胜率均超过65%。消融实验表明，移除强化学习或多模态输入会导致性能显著下降。 实际意义是什么：该工作为构建更可信、更具可解释性的情感支持对话系统（如心理健康咨询、教育辅导）提供了一个有效的技术框架，其核心思路（融合原因识别与多模态强化学习）可推广至其他需要高度情境理解和情感智能的交互场景。 主要局限性是什么：论文的局限性包括：a) 实验仅在英文数据集（IEMOCAP， MELD）上进行，其在多语言环境下的泛化能力未知；b) 所提框架依赖大量标注数据（情感标签和原因跨度标注），数据获取成本高；c) 论文未提供代码或模型，复现门槛较高。 🏗️ 模型架构 图1 阐述了本工作的核心动机：仅用文本模态（Text-only Modality）可能误判情感（如将悲伤误解为感激）；即使加入多模态线索（MultiModal），若不进行情感原因推理，生成的回复仍可能肤浅。本文的EmoTri-RL旨在通过多模态融合与原因感知来生成高质量、可解释的共情回复。 ...

📄 Empowering Multimodal Respiratory Sound Classification with Counterfactual Adversarial Debiasing for Out-of-Distribution Robustness #音频分类 #生物声学 #对比学习 #数据增强 #多模态模型 ✅ 7.0/10 | 前25% | #音频分类 | #对比学习 | #生物声学 #数据增强 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Heejoon Koo（伦敦大学学院，RSC LAB） 通讯作者：June-Woo Kim（RSC LAB，光州科学技术院） 作者列表：Heejoon Koo（伦敦大学学院，RSC LAB）、Miika Toikkanen（RSC LAB）、Yoon Tae Kim（RSC LAB，韩国科学技术院）、Soo Yong Kim（RSC LAB）、June-Woo Kim†（RSC LAB，光州科学技术院） 💡 毒舌点评 本文的亮点在于构建了一个系统性较强的去偏框架，将因果推理中的反事实估计与公平学习领域的对抗去偏相结合，并针对医疗数据特点设计了具体的元数据增强策略，逻辑自洽。短板是创新性主要体现在技术组合与特定领域适配上，且实验部分的广度有限，仅在一个主任务（呼吸音分类）和两个数据集上验证，缺乏对更通用音频任务或更复杂偏见场景的探讨。 🔗 开源详情 详�� 代码：是，提供代码仓库链接：https://github.com/RSC-Toolkit/BTS-CARD。 模型权重：论文中未提及是否公开预训练模型权重。 数据集：ICBHI和SPRSound均为公开数据集，论文中给出了具体引用和获取信息。 Demo：论文中未提及提供在线演示。 复现材料：论文中提供了详细的训练数据集描述、预处理步骤、训练超参数、损失函数配置以及评估协议，复现信息较为充分。 论文中引用的开源项目/模型：RUBi用于融合，Clinical TinyBERT用于元数据文本编码，Audio-CLAP/BTS作为基础模型，AdamW优化器。 📌 核心摘要 要解决的问题：多模态呼吸音分类模型易受患者元数据（如年龄、性别、采集设备）产生的虚假关联（伪相关）影响，导致在不同临床环境（分布外数据）下泛化性能显著下降。 方法核心：提出BTS-CARD框架，通过三重机制缓解偏见：1）基于因果图的反事实去偏，通过估计并减去自然直接效应（NDE）来抑制元数据对预测的直接虚假影响；2）对抗去偏，在NDE路径上引入梯度反转层，学习对位置和设备不敏感的特征表示；3）反事实元数据增强，在训练中用中性占位符替换敏感元数据，模拟干预以打破虚假依赖。 与已有方法相比新在哪里：首次将反事实推理与对抗去偏相结合用于多模态呼吸音分类。不同于简单地删除或掩码元数据，本文通过精心设计的反事实估计和对抗学习，旨在保留元数据中可能包含的有益间接信息，同时抑制其直接带来的偏见。 主要实验结果：在ICBHI（分布内）和SPRSound（分布外）数据集上，BTS-CARD在ICBHI Score（敏感性与特异性均值）指标上均优于强基线（如BTS）。具体而言，在分布外设置下，本文方法取得了61.96%的分数，显著高于BTS的53.42%。消融实验表明，三个组件对性能均有贡献，其中去除反事实元数据增强对分布外性能影响最大。参数分析显示，推理时去除直接效应（α=0）反而能获得最佳分布外性能。 实际意义：该方法提升了呼吸音分类模型在不同医院、不同设备间的泛化能力和鲁棒性，对于推动临床AI系统的实际部署具有积极意义。 主要局限性：研究的泛用性有待验证，仅在单一任务和特定数据集组合上进行评估。对抗去偏主要针对采集位置和设备，对年龄、性别等其他敏感属性的去偏效果在实验中未显示出优势，其普适性值得商榷。 🏗️ 模型架构 BTS-CARD框架建立在BTS（Bridging Text and Sound）多模态模型基础上，旨在对BTS预测进行反事实去偏。整体流程如下： ...

📄 Enhancing Audio Question-Answering Performance Through Log-Likelihood Guided Reward Functions #音频问答 #强化学习 #多模态模型 #基准测试 🔥 8.5/10 | 前25% | #音频问答 | #强化学习 | #多模态模型 #基准测试 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sam Blouir (Amazon) 通讯作者：未说明 作者列表：Sam Blouir (Amazon), Ganesh Ramachandra Kini (Amazon), Qingming Tang (Amazon), Raphael Petegrosso (Amazon), Chieh-Chi Kao (Amazon), Ankur Gandhe (Amazon), Chao Wang (Amazon) 💡 毒舌点评 亮点：论文提出的“概率比奖励”设计巧妙，将传统RLVR中非黑即白的准确率信号转化为一个能反映模型对正确答案相对置信度的连续信号，为“接近正确”但未得分的样本提供了有效学习信号，这在奖励稀疏的强化学习微调中至关重要。 短板：所有实验仅在单一的MMAU基准上完成，且基础模型固定为Qwen2.5-Omni-7B，该方法在其他音频任务（如开放式QA、不同声源类型）或不同规模的模型上的效果和泛化能力有待验证。 🔗 开源详情 代码：论文中���提及代码仓库链接。 模型权重：未提及公开的微调模型权重。 数据集：使用了公开的数据集（EchoInk-R1基于AVQA，MMAU），但未说明如何获取其特定版本。 Demo：未提及。 复现材料：提供了非常详细的复现信息，包括：基础模型（Qwen2.5-Omni-7B）、训练数据（EchoInk-R1）、评估数据集（MMAU test-mini）、生成长度（64 tokens）、采样温度（1.0）、评估协议（8次采样多数投票）、奖励函数完整公式。这为复现其核心实验提供了充分指导。 论文中引用的开源项目：引用了多个开源模型和数据集，如Qwen2.5-Omni, AVQA, MMAU, EchoInk-R1。 开源计划：论文中未提及开源计划。 📌 核心摘要 要解决什么问题：现有的强化学习与验证奖励（RLVR）方法在训练音频问答系统时，通常只使用格式是否正确和答案是否完全匹配的二元奖励信号，这种稀疏的信号对模型几乎正确但未得分的样本无法提供有效的学习指导。 方法核心是什么：提出了一种新的基于对数几率（log-odds）的奖励函数。该函数在生成推理链（）之后、答案文本生成之前，计算模型对正确答案选项与最可能的错误答案选项的标准化对数似然之差，以此作为奖励信号。这鼓励模型通过推理链增加正确答案相对于最强干扰项的概率优势。 与已有方法相比新在哪里：新在将音频问答的RL训练奖励从简单的二元正确性/格式惩罚，升级为利用模型自身策略分布的“软”概率比奖励。这提供了更密集、更有方向性的梯度信号。 主要实验结果如何：在MMAU测试集（mini版）上，使用所提方法微调的模型平均准确率达到78.3%，优于使用传统“准确率+格式”奖励的基线（76.3%）和未微调的Qwen2.5-Omni-7B基础模型（70.4%）。消融实验表明，“log-odds”奖励变体优于“概率”奖励和“提升”奖励。 关键实验结果表格： 模型/方法 基础模型 Sound (%) Music (%) Speech (%) 平均准确率 (%) log-odds (ours) Qwen2.5-Omni 83.4 73.3 78.2 78.3 accuracy + format (our setup) Qwen2.5-Omni 81.6 70.9 76.4 76.3 Omni-R1 [9] Qwen2.5-Omni 81.7 73.4 76.0 77.0 Qwen2.5-Omni-7B (base) – 77.8 61.1 72.4 70.4 Step-Audio-2 [17] – 84.0 73.6 75.1 77.6 消融实验表格： 奖励变体 平均准确率 (%) — — log-odds (ours) 78.3 (从主表) prob 77.2 lift 77.0 实际意义是什么：为训练更有效的多选题音频问答系统提供了一种新的、更优的强化学习奖励设计范式，证明了在RLVR框架下，超越二元信号的似然度引导能提升模型的音频推理能力。 主要局限性是什么：1) 验证实验仅限于MMAU这一个复杂的音频问答基准；2) 方法的核心组件（对数似然计算）依赖于一个具有较强基础能力的预训练多模态大模型（如Qwen2.5-Omni），在更小的模型上是否有效未知；3) 论文未讨论该奖励函数对开放式生成任务（如音频描述）的适用性。 🏗️ 模型架构 论文并未提出一个新的端到端模型架构，而是设计了一个针对现有多模态大模型（M-LLM）进行强化学习微调的训练框架。 ...

📄 FastAV: Efficient Token Pruning for Audio-Visual Large Language Model Inference #音频问答 #大语言模型的压缩与加速 #音视频 #多模态模型 ✅ 7.0/10 | 前25% | #音频问答 | #大语言模型的压缩与加速 | #音视频 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Chaeyoung Jung（韩国科学技术院，Korea Advanced Institute of Science and Technology, South Korea） 通讯作者：未说明 作者列表：Chaeyoung Jung（韩国科学技术院）、Youngjoon Jang（韩国科学技术院）、Seungwoo Lee（韩国科学技术院）、Joon Son Chung（韩国科学技术院） 💡 毒舌点评 亮点：本文敏锐地发现了现有token剪枝研究在音视频大语言模型领域的空白，并首次提出了系统性的解决方案，其两阶段剪枝策略（全局剪枝+精细剪枝）在实验上取得了显著且一致的效率提升（>40% FLOPs降低），且不损害甚至能提升性能，这对于推动此类昂贵模型的实际部署具有明确的工程价��。 短板：技术路线本质上是对视觉token剪枝方法的“移植”和“拼接”（全局剪枝基于视觉工作常见的注意力回溯，精细剪枝基于LLM剪枝中常见的最后token分析），在剪枝机制本身上创新有限。此外，实验对比集中在自身设定的不同剪枝策略上，缺乏与更多元、更强的基线方法（如其他可能适用于多模态的剪枝或加速技术）的横向比较。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：论文中使用的AVQA、MUSIC-AVQA、AVHBench为公开数据集，但论文未说明具体获取或预处理方式。 Demo：未提及。 复现材料：论文给出了关键超参数（剪枝层选择、P=20%、保留的token数量），描述了剪枝算法的公式和步骤，但未提供完整的配置文件、脚本或检查点。 论文中引用的开源项目：引用了VideoLLaMA2和video-SALMONN2作为基线模型，并链接了VideoLLaMA2的GitHub仓库（https://github.com/DAMO-NLP-SG/VideoLLaMA2/tree/audio_visual），但这是基线模型的仓库，而非FastAV的实现。 📌 核心摘要 要解决的问题：音视频大语言模型在处理包含音频、视频、文本的多模态输入时，token数量巨大，导致推理时内存消耗和计算成本剧增，限制了其实际应用。 方法核心：提出FastAV，一个两阶段的推理时token剪枝框架。第一阶段在中间层进行“全局剪枝”，利用注意力回溯机制分析token重要性，移除位置靠后、影响力较弱的大部分token（如2/3）；第二阶段在后续层进行“精细剪枝”，基于最后一个查询token的注意力权重，逐层迭代移除最不重要的20% token。 与已有方法相比新在哪里：这是首个专门为音视频大语言模型设计的token剪枝框架。不同于直接应用在纯文本LLM或视觉-语言模型上的方法，FastAV综合考虑了音视频模态的特点，并通过注意力回溯揭示了此类模型在中间层后注意力集中于早期token的“锚定”模式，从而设计了针对性的剪枝策略。 主要实验结果：在VideoLLaMA2和video-SALMONN2两个模型上，FastAV将理论FLOPs降低了40%以上（见表1），同时推理速度提升约30%，内存占用降低。在AVQA, MUSIC-AVQA, AVHBench三个基准测试上，性能保持持平甚至有所提升（例如在AVHBench的AV匹配任务上，VideoLLaMA2的准确率从57.8%提升至69.0%）。消融实验表明，基于注意力回溯的全局剪枝策略优于随机剪枝和基于原始注意力权重的策略（表2），精细剪枝的剪枝比例P=20%为最优（表4）。 实际意义：使音视频大语言模型能够更高效地处理长视频、复杂音频等多模态长上下文输入，降低了部署的硬件门槛和延迟，有助于推动其在实时交互、边缘设备等场景的应用。 主要局限性：剪枝策略的有效性依赖于“注意力在中间层后集中于早期token”这一观察，该模式是否在所有音视频大语言模型和任务中普遍存在尚不明确。此外，论文未探讨该剪枝框架对模型训练或微调阶段的影响，也未提供理论保证证明性能不会在更极端的压缩下下降。 🏗️ 模型架构 FastAV本身并非一个独立的音视频大语言模型，而是一个应用于现有模型（如VideoLLaMA2、video-SALMONN2）推理阶段的加速框架。其整体流程如图3所示。 图3：FastAV框架概览。输入序列包含视频（X_vis）、音频（X_aud）和文本（X_lang）token。整体推理过程（a）在中间层（L/2）进行全局剪枝，在后续层进行精细剪枝。剪枝机制（b）展示了全局剪枝依据注意力回溯，精细剪枝依据最后查询token的注意力分析。 ...

📄 Fine-Tuning Large Audio-Language Models with Lora for Precise Temporal Localization of Prolonged Exposure Therapy Elements #音频事件检测 #多模态模型 #语音生物标志物 #迁移学习 ✅ 6.5/10 | 前50% | #音频事件检测 | #多模态模型 | #语音生物标志物 #迁移学习 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Suhas BN (College of Information Sciences & Technology, The Pennsylvania State University, USA) 通讯作者：论文中未明确标注通讯作者信息。 作者列表： Suhas BN (College of Information Sciences & Technology, The Pennsylvania State University, USA) Andrew M. Sherrill (Department of Psychiatry & Behavioral Sciences, Emory University, USA) Jyoti Alaparthi (Department of Psychiatry & Behavioral Sciences, Emory University, USA) Dominik Mattioli (School of Interactive Computing, Georgia Institute of Technology, USA) Rosa I. Arriaga (School of Interactive Computing, Georgia Institute of Technology, USA) Chris W. Wiese (School of Psychology, Georgia Institute of Technology, USA) Saeed Abdullah (College of Information Sciences & Technology, The Pennsylvania State University, USA) 💡 毒舌点评 亮点：论文精准地切入了一个真实且重要的临床痛点（PE疗法评估），并设计了一套从标注（LLM+人工验证）到建模（多模态微调）再到部署（隐私保护）的完整流水线，展现了扎实的领域应用思维。 短板：实验的说服力很大程度上受限于其“自产自销”——用自己定义的任务、自己标注（尽管经过验证）的数据、自己提出的数据划分来评估自己的方法，缺乏与领域内或更通用任务上现有SOTA方法的横向比较，使得“最佳MAE 5.3秒”的优越性难以完全确立。 ...

📄 FOCA: Multimodal Malware Classification via Hyperbolic Cross-Attention #音频分类 #多模态模型 #恶意软件检测 #双曲神经网络 #跨模态融合 ✅ 7.5/10 | 前25% | #音频分类 | #多模态模型 | #恶意软件检测 #双曲神经网络 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Nitin Choudhury (印度信息技术学院德里分校， IIIT-Delhi)， Bikrant Bikram Pratap Maurya (印度信息技术学院德里分校， IIIT-Delhi) （论文指出两位作者贡献相等，共同作为第一作者） 通讯作者：Orchid Chetia Phukan (orchidp@iiitd.ac.in) （印度信息技术学院德里分校， IIIT-Delhi） 作者列表：Nitin Choudhury (IIIT-Delhi)， Bikrant Bikram Pratap Maurya (IIIT-Delhi)， Orchid Chetia Phukan (IIIT-Delhi)， Arun Balaji Buduru (IIIT-Delhi) 💡 毒舌点评 亮点：首次将双曲空间和双曲交叉注意力机制引入多模态恶意软件分类，为融合具有潜在层次关系的模态数据提供了新颖且理论优雅的解决方案，实验结果也确实证明了其有效性。短板：论文虽展示了性能提升，但对于“音频模态编码细粒度字节特征，视觉模态捕获高层空间结构”这一层次假设的实证分析不足，且双曲计算带来的额外开销与性能收益的权衡讨论缺失。 ...

📄 FoleyBench: A Benchmark for Video-to-Audio Models #音频生成 #基准测试 #音视频 #多模态模型 ✅ 7.5/10 | 前25% | #音频生成 | #基准测试 | #音视频 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Satvik Dixit（Carnegie Mellon University） 通讯作者：未说明 作者列表：Satvik Dixit (Carnegie Mellon University), Koichi Saito (Sony AI), Zhi Zhong (Sony AI), Yuki Mitsufuji (Sony AI, Sony Group Corporation), Chris Donahue (Carnegie Mellon University) 💡 毒舌点评 论文精准地指出了现有V2A评估基准（如VGGSound）在Foley场景下的核心缺陷（74%样本音画对应差），并针对性地提出了首个专用基准，分析深入且实用。然而，其数据集构建管道严重依赖商业模型（Gemini 2.5 Pro）进行质量过滤，这不仅增加了复现成本，也使得“可扩展自动化”的宣称打了一定折扣。 🔗 开源详情 代码：论文中未提及公开的代码仓库链接（如用于数据集构建的管道代码）。 模型权重：未提及。本文是基准论文，不提出自有模型。 数据集：论文提供了数据集样本网站（https://gclef-cmu.org/foleybench），并描述了数据来源和构建方法，但未明确说明完整数据集是否公开下载及具体获取方式。 Demo：未提及。 复现材料：论文详细描述了数据集构建的多阶段管道、使用的工具（YAMNet， Gemini 2.5 Pro）和过滤参数，为复现其数据集创建过程提供了清晰指南。评测指标使用了公开的AV-benchmark工具包。 论文中引用的开源项目：YAMNet， AV-benchmark toolkit， PANNs， LAION-CLAP， ImageBind等。 📌 核心摘要 要解决什么问题：现有的视频到音频（V2A）生成模型评估基准（如VGGSound）与Foley（音效）等实际下游应用严重脱节。分析发现，VGGSound中74%的视频音画对应关系差，且内容被语音和音乐主导，无法有效评估专为视觉事件生成同步音效的模型。 方法核心是什么：提出FoleyBench，首个大规模、专门针对Foley场景的V2A评估基准。它包含5000个经过自动筛选的高质量（视频、真实音频、文本描述）三元组。其核心是一个自动化的多阶段数据集构建管道：收集网络视频 -> 场景检测与裁剪 -> 通过YAMNet过滤语音/音乐 -> 使用Gemini 2.5 Pro筛选确保音画因果关系。 与已有方法相比新在哪里：（1）定义并专注于Foley场景（非语音、非音乐、音源可见且同步），填补了专用基准的空白；（2）设计了包含AudioSet和UCS标签、声源复杂度、声音包络类型等丰富元数据的标注体系，支持细粒度分析；（3）提供了包含650个30秒长视频的子集FoleyBench-Long，以评估长音频生成能力。 主要实验结果如何： 基准对比：与VGGSound相比，FoleyBench的Foley类别覆盖更广（Shannon熵5.35 vs 4.73），且评估结果相关性在音频保真度指标上较弱，说明其能提供不同的评估视角。 模型评估：在对11个SotA V2A模型的评估中，MMAudio在多数指标上表现最佳，Seeing & Hearing在语义对齐(IB)上最优，V-AURA在时序同步(DS)上次优。主要发现包括：模型在生成离散事件音时，同步变好但质量变差；在处理背景音和多源声音时性能显著下降；文本条件能提供关键的语义先验。 长视频评估：在FoleyBench-Long上，所有模型性能普遍下降，MMAudio仍保持同步优势，但音频质量大幅下滑；而专为长视频设计的LOVA在音频质量上表现相对较好。 关键数据表格： 方法 VGGSound IB↑ FoleyBench IB↑ FoleyBench DS↓ FoleyBench FAD↓ FoleyBench IS↑ V-AURA 0.276 0.237 0.716 27.2 6.44 Seeing&Hearing 0.339 0.371 1.08 25.0 4.80 MMAudio^T 0.332 0.306 0.447 8.76 11.2 实际意义是什么：为V2A研究社区，特别是Foley合成方向，提供了一个更可靠、更贴近应用的评估标准，有助于更准确地衡量模型进展，并指明未来改进方向（如提升离散事件音保真度、处理多源/背景音、长时生成）。 主要局限性是什么：（1）数据集构建核心环节依赖商业黑箱模型（Gemini），可复现性和透明度受限；（2）虽然分析了失败模式，但并未提出解决这些核心挑战（如多源声音混合、长时一致性）的新模型或算法。 🏗️ 模型架构 本文并未提出一个新的V2A生成模型，而是提出了一个用于评估现有模型的基准测试框架。因此，其核心“架构”是数据集构建管道与评估体系。 ...

📄 Gelina: Unified Speech and Gesture Synthesis Via Interleaved Token Prediction #语音合成 #手势生成 #自回归模型 #流匹配 #多模态模型 ✅ 7.0/10 | 前50% | #语音合成 | #自回归模型 | #手势生成 #流匹配 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Téo Guichoux（ISIR, Sorbonne Université；STMS Lab – IRCAM, Sorbonne Université） 通讯作者：未说明 作者列表：Téo Guichoux（ISIR, Sorbonne Université；STMS Lab – IRCAM, Sorbonne Université）， Théodor Lemerle（STMS Lab – IRCAM, Sorbonne Université）， Shivam Mehta（KTH皇家理工学院）， Jonas Beskow（KTH皇家理工学院）， Gustav Eje Henter（KTH皇家理工学院）， Laure Soulier（ISIR, Sorbonne Université）， Catherine Pelachaud（ISIR, Sorbonne Université；CNRS）， Nicolas Obin（STMS Lab – IRCAM, Sorbonne Université） 💡 毒舌点评 这篇论文的亮点在于其“交错token预测”的架构设计直觉上非常优雅，为多模态序列建模提供了一个统一且时序对齐的方案，并在同步性上取得了可观的实验结果。然而，其最大的短板在于“统一”的代价——它在语音生成质量上显著落后于最新的纯语音SOTA（如CosyVoice-2），在手势丰富度（如手指）上也进行了简化，这使其宣称的“统一”和“竞争”显得有些取舍过重，更像是一次有潜力的概念验证而非成熟的系统性方案。 ...

📄 Graph-based Modality Alignment for Robustness in Conversational Emotion Recognition #多模态模型 #语音情感识别 #对比学习 #鲁棒性 🔥 8.0/10 | 前25% | #语音情感识别 | #多模态模型 | #对比学习 #鲁棒性 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Dae Hyeon Kim（光云大学电子通信工程系） 通讯作者：Young-Seok Choi*（光云大学电子通信工程系） 作者列表：Dae Hyeon Kim（光云大学电子通信工程系）， Young-Seok Choi（光云大学电子通信工程系） 💡 毒舌点评 亮点：该论文最大的贡献在于将对话上下文、说话者关系和多模态信息统一建模在一个异构图中，并通过一种无增强的跨模态图对比学习，显式地将不同模态的嵌入对齐到共享的情感空间，这在理论上优雅地解决了传统堆叠模型的信息瓶颈和模态崩溃问题。短板：论文的实验部分虽然全面，但其鲁棒性验证主要局限于单一模态缺失的极端情况，对于现实场景中更常见的模态质量退化（如音频噪声、视频模糊）或部分缺失的鲁棒性探讨不足。此外，代码未开源，这对于一篇依赖复杂图结构和对齐目标的工作而言，无疑是可复现性上的一个显著扣分项。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开预训练模型或检查点。 数据集：使用的IEMOCAP和MELD是公开的标准学术数据集。 Demo：未提及在线演示。 复现材料：论文中提供了非常详细的超参数设置、优化器配置、训练硬件和轮数等关键信息。 论文中引用的开源项目：openSMILE [13]（音频特征提取）、Sentence-BERT [14]（文本特征提取）、DenseNet [15]（视觉特征提取）、AdamW优化器 [23]。 📌 核心摘要 解决的问题：多模态会话情感识别（MERC）中，传统堆叠式模型容易产生信息瓶颈和冲突的归纳偏见，且缺乏显式的模态对齐，导致模型在推理时遇到某些模态缺失（即“缺失模态问题”）时鲁棒性差。 方法核心：提出了一个名为EmotionHeart的统一框架。其核心是一个异构图Transformer，它将对话（作为节点集合）和其中的关系（说话者内、说话者间、模态间）构建为一个单一的图进行联合建模。同时，引入了一种无增强的跨模态图对比学习（GCL） 训练目标，强制对齐不同模态（音频、文本、视觉）的嵌入表示。 创新之处：1）与以往“序列+图”的堆叠架构不同，采用统一的异构图结构同时编码所有信息源，避免了信息瓶颈。2）提出了跨模态图对比学习，直接对齐单个模态的特征，而非早期融合后的特征，从而更好地解决模态崩溃和缺失模态问题。 主要实验结果：在IEMOCAP和MELD两个基准数据集上达到了新的SOTA。具体而言，在IEMOCAP上加权F1（w.F1）达到73.1%，在MELD上达到69.0%，均显著优于之前的最佳模型（p<0.001）。消融实验证明了异构性和跨模态GCL组件的有效性。关键实验数据如下： 方法 年份 架构 IEMOCAP (w.F1 %) MELD (w.F1 %) BIG-FUSION 2025 混合 72.9 67.2 EmotionHeart – 统一 73.1 69.0 表2（消融实验）显示，从标准Transformer（68.99%）到完整模型（73.13%），每一步添加核心组件都带来了性能提升和稳定性改善（标准差从4.73降至1.09）。 ...

📄 HAVT-IVD: Heterogeneity-Aware Cross-Modal Network for Audio-Visual Surveillance: Idling Vehicles Detection with Multichannel Audio and Multiscale Visual Cues #音频事件检测 #多模态模型 #端到端 #麦克风阵列 🔥 8.0/10 | 前25% | #音频事件检测 | #多模态模型 | #端到端 #麦克风阵列 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Xiwen Li（Scientific Computing and Imaging Institute, University of Utah） 通讯作者：Tolga Tasdizen（Scientific Computing and Imaging Institute, University of Utah; Department of Electrical and Computer Engineering, University of Utah） 作者列表：Xiwen Li（Scientific Computing and Imaging Institute, University of Utah）、Xiaoya Tang（Scientific Computing and Imaging Institute, University of Utah）、Tolga Tasdizen（Scientific Computing and Imaging Institute, University of Utah; Department of Electrical and Computer Engineering, University of Utah） 💡 毒舌点评 这篇论文的亮点在于其问题导向的系统设计，针对异质性模态融合、多尺度检测和训练不稳定这三个具体痛点，分别用Transformer、特征金字塔和解耦头给出了清晰的解决方案，实验增益显著。然而，其短板在于创新点的“组合”色彩较重，每个组件（如Transformer用于融合、FPN、解耦头）在其他视觉任务中已有广泛应用，论文的核心贡献更多是巧妙地将这些成熟模块应用于特定任务，而非提出根本性的新机制。 ...