多模态模型

📄 Nemotron 3 Nano Omni: Efficient and Open Multimodal Intelligence #多模态模型 #混合专家 #跨模态 #强化学习 #模型评估 🔥 8.5/10 | 前25% | #多模态模型 | #混合专家 | #跨模态 #强化学习 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Amala Sanjay Deshmukh（NVIDIA） 通讯作者：未说明 作者列表：Amala Sanjay Deshmukh, Kateryna Chumachenko, Tuomas Rintamaki, Matthieu Le, Tyler Poon, Danial Mohseni Taheri, Ilia Karmanov, Guilin Liu, Jarno Seppanen, Arushi Goel, Mike Ranzinger, Greg Heinrich, Guo Chen, Lukas Voegtle, Philipp Fischer, Timo Roman, Karan Sapra, Collin McCarthy, Shaokun Zhang, Fuxiao Liu, Hanrong Ye, Yi Dong, Mingjie Liu, Yifan Peng, Piotr Zelasko, Zhehuai Chen, Nithin Rao Koluguri, Nune Tadevosyan, Lilit Grigoryan, Ehsan Hosseini Asl, Pritam Biswas, Leili Tavabi, Yuanhang Su, Zhiding Yu, Peter Jin, Alexandre Milesi, Netanel Haber, Yao Xu, Sarah Amiraslani, Nabin Mulepati, Eric Tramel, Jaehun Jung, Ximing Lu, Brandon Cui, Jin Xu, Zhiqi Li, Shihao Wang, Yuanguo Kuang, Shaokun Zhang, Huck Yang, Boyi Li, Hongxu Yin, Song Han, Pavlo Molchanov, Adi Renduchintala, Charles Wang, David Mosallanezhad, Soumye Singhal, Luis Vega, Katherine Cheung, Sreyan Ghosh, Yian Zhang, Alexander Bukharin, Venkat Srinivasan, Johnny Greco, Andre Manoel, Maarten Van Segbroeck, Suseella Panguliri, Rohit Watve, Divyanshu Kakwani, Shubham Pachori, Jeffrey Glick, Radha Sri-Tharan, Aileen Zaman, Khanh Nguyen, Shi Chen, Jiaheng Fang, Qing Miao, Wenfei Zhou, Yu Wang, Zaid Pervaiz Bhat, Varun Praveen, Arihant Jain, Ramanathan Arunachalam, Tomasz Kornuta, Ashton Sharabiani, Amy Shen, Wei Huang, Yi-Fu Wu, Ali Roshan Ghias, Huiying Li, Brian Yu, Nima Tajbakhsh, Chen Cui, Wenwen Gao, Li Ding, Terry Kong, Manoj Kilaru, Anahita Bhiwandiwalla, Marek Wawrzos, Daniel Korzekwa, Pablo Ribalta, Grzegorz Chlebus, Besmira Nushi, Ewa Dobrowolska, Maciej Jakub Mikulski, Kunal Dhawan, Steve Huang, Jagadeesh Balam, Yongqiang Wang, Nikolay Karpov, Valentin Mendelev, George Zelenfroynd, Meline Mkrtchyan, Qing Miao, Omri Almog, Bhavesh Pawar, Rameshwar Shivbhakta, Sudeep Sabnis, Ashrton Sharabiani, Negar Habibi, Geethapriya Venkataramani, Pamela Peng, Prerit Rodney, Serge Panev, Richard Mazzarese, Nicky Liu, Michael Fukuyama, Andrii Skliar, Roger Waleffe, Duncan Riach, Yunheng Zou, Jian Hu, Hao Zhang, Binfeng Xu, Yuhao Yang, Zuhair Ahmed, Alexandre Milesi, Carlo del Mundo, Chad Voegele, Zhiyu Cheng, Nave Assaf, Andrii Skliar, Daniel Afrimi, Natan Bagrov, Ran Zilberstein, Ofri Masad, Eugene Khvedchenia, Natan Bagrov, Borys Tymchenko, Tomer Asida, Daniel Afrimi, Parth Mannan, Victor Cui, Michael Evans, Katherine Luna, Jie Lou, Pinky Xu, Guyue Huang, Negar Habibi, Michael Boone, Pradeep Thalasta, Adeola Adesoba, Dina Yared, Christopher Parisien, Leon Derczynski, Shaona Ghosh, Wes Feely, Micah Schaffer, Radha Sri-Tharan, Jeffrey Glick, Barnaby Simkin, George Zelenfroynd, Tomasz Grzegorzek, Rishabh Garg, Aastha Jhunjhunwala, Sergei Kolchenko, Farzan Memarian, Haran Kumar, Shiv Kumar, Isabel Hulseman, Anjali Shah, Kari Briski, Padmavathy Subramanian, Joey Conway, Udi Karpas, Jane Polak Scowcroft, Annie Surla, Shilpa Ammireddy, Ellie Evans, Jesse Oliver, Tom Balough, Chia-Chih Chen, Sandip Bhaskar, Alejandra Rico, Bardiya Sadeghi, Seph Mard, Katherine Cheung, Meredith Price, Laya Sleiman, Saori Kaji, Wesley Helmholz, Wendy Quan, Michael Lightstone, Jonathan Cohen, Jian Zhang, Oleksii Kuchaiev, Boris Ginsburg, Jan Kautz, Eileen Long, Mohammad Shoeybi, Mostofa Patwary, Oluwatobi Olabiyi, Andrew Tao, Bryan Catanzaro, Udi Karpas（均来自NVIDIA） 💡 毒舌点评 NVIDIA用一套极其工程化、标准化的“组合拳”把文本、视觉、音频模型缝合成了一个高效且性能可观的“全家桶”，开源力度也极大，堪称工业界的模范作业。但其核心创新更像是在现有强大组件（MoE、C-RADIOv4、Parakeet）上的系统整合与优化，缺乏一种能改写多模态游戏规则的架构或算法层面的根本性突破。 ...

📄 Non-Line-of-Sight Vehicle Detection via Audio-Visual Fusion #音频分类 #多模态模型 #时频分析 #Conformer #声源定位 🔥 8.0/10 | 前25% | #音频分类 | #多模态模型 | #时频分析 #Conformer 学术质量 6.2/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Huaxuan Wang（北京理工大学机械工程学院） 通讯作者：Huilong Yu（北京理工大学机械工程学院）；Wei Zhou（Cardiff University, School of Computer Science and Informatics） 作者列表：Huaxuan Wang（北京理工大学机械工程学院），Huilong Yu（北京理工大学机械工程学院），Ruizeng Zhang（北京理工大学机械工程学院），Wei Zhou（Cardiff University, School of Computer Science and Informatics），Junqiang Xi（北京理工大学机械工程学院） 💡 毒舌点评 亮点：论文思路清晰，将“看不见的场景结构”（通过BEV图像表示）与“听得见的目标线索”（音频多域特征）显式融合，逻辑上自洽，实验也证明在特定场景下性能提升有效。短板：融合方式相对直接（拼接向量），且BEV生成依赖于已有地图和人工标注，限制了该框架在完全未知环境中的泛用性；验证仅限于公开数据集上的T型路口，现实复杂路况的鲁棒性存疑。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用了公开数据集OVAD和AOVD，但论文未提供额外数据或获取指南。 Demo：未提及。 复现材料：论文给出了一些训练超参数（学习率、batch size、epoch数、优化器），但未提供完整的配置文件、训练脚本或模型检查点。BEV生成的具体算法细节（如特征提取和LoS分析）描述较粗略。 论文中引用的开源项目：未明确提及依赖的具体开源工具/模型库（如PyTorch是框架，未特指某开源实现）。 📌 核心摘要 问题：自动驾驶车辆在交通盲区（如T型路口）无法直接感知突然出现的障碍物，现有感知手段（摄像头、雷达）受限于视距，而传统音频感知方法忽略了场景结构对声波传播的决定性影响。 方法核心：提出一个场景感知的音视频融合网络。核心是引入鸟瞰图（BEV）来显式表征场景空间结构，并从车载麦克风阵列音频中提取时频谱图和DOA能量谱图。网络采用三分支结构处理这些特征，其中音频分支创新性地结合了LSTM、CNN和Conformer模块，以建模音频信号的时序依赖与全局局部特征。 新颖性：相较于之前仅依赖音频或未考虑场景结构的方法，本工作的主要创新在于：a) 显式构建并利用BEV图像融入场景结构先验；b) 在音频特征处理中引入Conformer模块，增强了模型对复杂声学特征的建模能力。 实验结果：在OVAD和AOVD两个真实世界数据集上，该方法的整体准确率分别达到94.1%和97.0%（移除BEV分支），显著优于SVM（88.2%， 90.8%）和pCRNN（92.6%， 95.4%）等基线方法。消融实验验证了BEV分支和Conformer模块的有效性。 实际意义：为智能车辆在交叉路口等视距受限场景提供了新的、更可靠的早期碰撞预警方案，提升了自动驾驶的安全性。 主要局限性：系统性能高度依赖于先验的BEV地图生成（需要卫星图像和手动标注），限制了部署的灵活性；研究聚焦于T型路口这一特定场景，未在更复杂或未知环境中验证其泛化能力。 🏗️ 模型架构 论文提出的整体框架如 图1 (pdf-image-page2-idx0) 所示，是一个用于遮挡车辆分类的音视频融合网络。系统处理流程如下： ...

📄 OMNI-AVSR: Towards Unified Multimodal Speech Recognition With Large Language Models #语音识别 #多任务学习 #多模态模型 #大语言模型 #音视频 🔥 8.5/10 | 前10% | #语音识别 | #多任务学习 | #多模态模型 #大语言模型 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Umberto Cappellazzo（Imperial College London, UK） 通讯作者：未说明 作者列表：Umberto Cappellazzo（Imperial College London, UK）、Xubo Liu（University of Surrey, UK）、Pingchuan Ma（Imperial College London, UK）、Stavros Petridis（Imperial College London, UK）、Maja Pantic（Imperial College London, UK） 💡 毒舌点评 这篇论文的亮点在于其“统一”和“弹性”的工程设计思想——用一个模型搞定三种语音识别任务，并在推理时按需调整计算量，这比训练一堆专用模型要高明得多，且实验数据扎实。但短板在于，其“统一”建立在对现有LLM（Llama/Qwen）的微调之上，核心创新更多是训练范式和适配策略的巧妙组合，而非提出一个新的基础架构，因此其天花板可能受限于基础LLM的能力。 🔗 开源详情 代码：论文提供了代码仓库链接：https://github.com/umbertocappellazzo/Omni-AVSR。 模型权重：论文中未提及是否公开预训练或微调后的完整模型权重。 数据集：使用公开的LRS2和LRS3数据集，论文中未说明是否提供额外数据。 Demo：论文中未提及在线演示。 复现材料：论文详细说明了模型架构、训练细节（优化器、学习率、轮数、增强策略）、关键超参数（LoRA秩、压缩率、束搜索设置）等，复现信息较为充分。 论文中引用的开源项目：主要依赖预训练模型：Whisper（音频编码器）、AV-HuBERT（视频编码器）、Llama 3.2（LLM骨干）。 📌 核心摘要 问题：现有的基于大语言模型（LLM）的语音识别方法通常为听觉语音识别（ASR）、视觉语音识别（VSR）和音视频语音识别（AVSR）分别训练独立的模型，这导致了高昂的计算和部署成本，且忽略了任务间的潜在协同。此外，它们依赖固定的令牌压缩率，限制了在准确率和效率之间灵活权衡的能力。 方法核心：本文提出Omni-AVSR，一个统一的音视频LLM框架，能在单一模型中支持ASR、VSR和AVSR，并支持弹性推理。其核心技术包括：a) 优化后的“套娃表示学习”训练范式，通过在训练时随机采样音频和视频压缩率，将训练成本从与压缩率组合数成正比降低到仅与任务数成正比；b) 探索了三种基于LoRA的参数高效微调策略（Omni-LoRA-S/T/ST），以平衡共享与任务特异性。 创新点：与先前工作相比，Omni-AVSR首次在单一模型中同时实现了：i) 对ASR、VSR和AVSR三种任务的统一支持；ii) 支持弹性推理的多粒度训练。这使其训练和部署资源需求显著低于需要为每个任务和压缩率组合训练单独模型的方法（如Llama-AVSR）。 实验结果：在LRS2和LRS3数据集上，Omni-AVSR在三种任务和多种压缩率下均达到与或优于独立SOTA模型（如Llama-AVSR, Llama-MTSK）的性能。例如，在LRS3上，Omni-AVSR-T的平均WER达到7.9%。模型在噪声环境下表现出鲁棒性。通过缩放实验发现，1-3B参数的LLM在性能与效率间取得了良好平衡。关键结果如下表所示： 表I：LRS2与LRS3数据集上不同压缩率的ASR/VSR/AVSR结果（WER%） ...

📄 Perceptual Quality Assessment for Stylized Talking Heads #模型评估 #多模态模型 #数据集 ✅ 7.5/10 | 前50% | #模型评估 | #多模态模型 | #数据集 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Faron Wen (上海交通大学) 通讯作者：未明确说明，但论文中提供的联系邮箱为 wenfarong@sjtu.edu.cn，与第一作者邮箱一致。 作者列表：Faron Wen（上海交通大学, 滨鹏实验室, 上海人工智能实验室），Yuhang Zhang（上海交通大学），Yuqin Cao（上海交通大学, 滨鹏实验室），Yingjie Zhou（上海交通大学, 滨鹏实验室），Ziying Wang（中国矿业大学），Yu Xu（中国矿业大学），Yuanhao Xue（中国矿业大学），Jiezhang Cao（哈佛医学院），Yu Wang（上海交通大学），Yu Zhou（中国矿业大学），Xiaohong Liu（上海交通大学），Xiongkuo Min（上海交通大学），Guangtao Zhai（上海交通大学, 滨鹏实验室, 上海人工智能实验室） 💡 毒舌点评 论文的亮点在于极具前瞻性地识别并填补了“风格化数字人”质量评估这一细分领域的空白，构建了首个大规模多维度标注数据集，为后续研究提供了重要的基准。其短板在于提出的方法本质上是多种现有特征提取和回归模型的“拼盘式”集成，创新深度有限，且评估指标（如SRCC）虽优于基线，但绝对数值（0.79左右）显示与人类感知仍有明显差距，方法的实际应用鲁棒性未充分验证。 🔗 开源详情 代码：论文中提供了GitHub仓库链接：https://github.com/FarongWen/STHQA。 模型权重：论文中未提及是否公开预训练好的模型权重。 数据集：明确说明数据集已发布于上述GitHub仓库。 Demo：未提及是否提供在线演示。 复现材料：提供了训练的主要超参数（学习率、epoch数、batch size、优化器）和交叉验证设置，但未提供详细的配置文件、检查点或附录。 论文中引用的开源项目：列出了其依赖的生成方法和评估工具，如Aniportrait， Sadtalker， Audio2head， Dreamtalk， Echomimic， EDtalk， Hallo， Real3D（生成模型）； BRISQUE， NIQE， IL-NIQE， CPBD， V-BLIINDS， RAPIQUE， SimpVQA， Fast-VQA， VSFA， BVQA（对比方法）；以及MediaPipe FaceMesh， Video Swin Transformer， ResNet50等。 📌 核心摘要 问题：现有的数字人类质量评估方法主要针对真实人脸，无法有效处理风格化说话人头部（如动漫、卡通风格）在失真、头部抖动和音画同步等方面的独特质量问题，阻碍了该领域的发展。 方法核心：本文提出一个无参考质量评估框架（STHQA），通过三个并行分支分别提取视频的全局时空特征（Video Swin Transformer）、头部运动抖动特征（基于MediaPipe FaceMesh的关键点统计）和音画对齐特征（结合唇部视觉特征与音频MFCC，通过LSTM建模），最后将多特征融合并回归预测质量分数。 创新点：1）构建了首个大规模、多风格、多模态的风格化说话人头部质量评估数据集STHQA，包含1667个视频及多维度主观评分。2）提出了一个针对该特定任务的多特征融合评估框架，综合考虑了视觉、运动和音视频同步性。 主要实验结果：在STHQA数据集上，提出的方法在SRCC、PLCC、KRCC、RMSE四项指标上均优于所有对比的IQA和VQA方法。例如，提出方法SRCC为0.7931，而最强基线BVQA为0.7428。消融实验证实了视觉特征、抖动特征和对齐特征三个模块对最终性能均有贡献。 实际意义：为动画、游戏、影视等娱乐行业中风格化数字人的生成质量提供了客观评估基准和工具，有助于指导和优化生成算法。 主要局限：方法的创新性主要体现在任务定义和数据集构建，模型本身缺乏原理上的突破。评估框架依赖于特定的预训练模型（如MediaPipe, ResNet），其在极端风格或遮挡下的鲁棒性可能受限。 🏗️ 模型架构 本文提出的无参考质量评估框架（如图4所示）采用多分支特征提取与融合的架构，整体流程如下： ...

📄 PerformSinger: Multimodal Singing Voice Synthesis Leveraging Synchronized Lip Cues from Singing Performance Videos #歌唱语音合成 #多模态模型 #音视频 📝 4.5/10 | 后50% | #歌唱语音合成 | #多模态模型 | #音视频 学术质量 3.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 低 👥 作者与机构 第一作者：未说明 通讯作者：未说明 作者列表：未说明 💡 毒舌点评 用唱歌视频的唇部动态来指导歌唱合成，这个多模态想法确实新颖，理论上能提升口型同步和表现力。但问题在于，仅凭标题我们对方法实现一无所知，更不知道实验效果是否真的‘Perform’了，这种‘黑箱’分析风险很高。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：未提及 数据集：未提及 Demo：未提及 复现材料：论文中未提及 论文中引用的开源项目：未说明 📌 核心摘要 这篇论文旨在解决传统歌唱语音合成（SVS）方法大多依赖音频或文本输入，缺乏对真实演唱中视觉动态（如唇部动作）的利用，可能导致合成结果在口型同步和表现力上存在不足的问题。其方法核心是提出一个多模态框架，直接从歌手表演视频中提取并利用同步的唇部线索（Lip Cues）作为条件来引导歌唱语音的生成。与已有方法相比，其新意在于将视觉模态（特别是唇部动态）作为一种强条件信号引入SVS任务，而不仅仅依赖于音频特征或乐谱。论文中未提供具体的实验结果数值和对比数据。该研究的实际意义在于可能为虚拟歌手、数字人演唱、歌曲创作等应用场景提供更自然、更具表现力的合成技术。由于提供的文本信息极其有限，论文的主要局限性完全未知，包括方法细节、实验设计、性能表现、数据规模及通用性等均未说明。 🏗️ 模型架构 论文中未提供具体架构描述。基于标题推断，模型可能包含以下组件：一个视觉编码器（用于从输入视频中提取唇部区域特征）、一个音频/声学编码器（用于处理参考歌声或目标音高/时长）、以及一个跨模态融合与解码模块（用于综合视觉唇部线索和其他条件生成最终的歌唱语音波形或梅尔频谱）。组件之间的数据流可能为：视频帧 -> 视觉特征；乐谱/文本/参考音频 -> 音声特征 -> 与视觉特征融合 -> 解码器 -> 合成语音。关键设计选择在于如何有效、同步地融合视觉与声学信息。由于未看到论文中的架构图，无法进行图片说明。 ...

📄 Phrased: Phrase Dictionary Biasing for Speech Translation #语音翻译 #偏差学习 #多语言 #流式处理 #多模态模型 ✅ 7.5/10 | 前25% | #语音翻译 | #偏差学习 | #多语言 #流式处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Peidong Wang（Microsoft CoreAI） 通讯作者：Jinyu Li（Microsoft CoreAI） 作者列表：Peidong Wang（Microsoft CoreAI）、Jian Xue（Microsoft CoreAI）、Rui Zhao（Microsoft CoreAI）、Junkun Chen（Microsoft CoreAI）、Aswin Shanmugam Subramanian（Microsoft CoreAI）、Jinyu Li（Microsoft CoreAI） 💡 毒舌点评 亮点：本文提出的PHRASED方法具有良好的通用性，能将同一个思路（利用双语短语对）同时应用于传统的流式端到端模型（CTC-GMM）和新兴的多模态大模型，并在后者上实现了显著的短语召回率提升。短板：实验仅在中-英翻译任务上验证，且所用的“短语列表”规模（3K）与真实工业场景（可能包含数十万条目）的匹配度和鲁棒性存疑；此外，论文未提供任何代码或模型，极大地限制了其可复现性和直接应用价值。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：评估使用了RealSI和OntoNote5，但未说明是否提供了预处理后的版本或获取方式。 Demo：未提及。 复现材料：论文给出了一些训练超参数（如学习率、步数）和模型规模，但未提供完整的训练配置、数据预处理脚本或评估代码。不足以支撑完全复现。 论文中引用的开源项目：未提及依赖的特定开源工具/模型，Phi-4-multimodal为外部开源模型。 总体，论文中未提及开源计划。 📌 核心摘要 要解决的问题：实体短语（如专有名词、新词）因在训练数据中罕见，在端到端语音翻译（ST）中容易被错误翻译，影响核心语义理解。 方法核心：提出短语字典偏差（PHRASED），利用用户提供的源语言-目标语言实体短语对 {I: O} 来增强翻译。核心是先从中间表示（如ASR文本）中匹配源语言短语 I，再对匹配到的目标语言短语 O 进行概率加分。 新在何处：首次为端到端语音翻译设计并验证了“短语字典偏差”机制，与传统的仅使用目标短语列表（PLB）的偏差方法不同，它显式利用了源语言信息。同时，将该方法成功适配到流式Transducer模型和多模态大模型两种架构。 主要实验结果：在中文到英文的RealSI测试集上，PHRASED使流式CTC-GMM模型的短语召回率相对PLB提升了21%；使Phi-4多模态大模型的BLEU提升2.9点，短语召回率相对基线提升85%，远超PLB在大模型上失败的表现。关键数据见下表。 表1：流式语音翻译模型结果（RealSI 中-英） ...

📄 Prompt-Guided Mixture-of-Experts for Robust Multimodal Sentiment Analysis with Missing Modalities #语音情感识别 #多模态模型 #混合专家模型 #低资源 #知识蒸馏 #鲁棒性 🔥 8.5/10 | 前25% | #语音情感识别 | #混合专家模型 | #多模态模型 #低资源 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 0.2 | 置信度 中 👥 作者与机构 第一作者：Ziqi Shu (厦门大学电影学院) 通讯作者：Qingfeng Wu (厦门大学电影学院) 作者列表：Ziqi Shu† (厦门大学电影学院), Rongzhou Zhou† (厦门大学电影学院), Xiaodong Wang (厦门大学电影学院), Qingfeng Wu⋆ (厦门大学电影学院), Lu Cao (厦门大学) 💡 毒舌点评 亮点在于将MoE架构与Prompt生成、置信度加权相结合，为缺失模态问题提供了一个模块化且有理论深度的解决方案，且跨数据集、跨骨干网络的泛化性验证比较扎实。短板是论文对“生成式Prompt如何有效补偿缺失信号”这一核心假设的论证略显薄弱，更像一个工程组合而非原理上的突破，且完全未开源代码，对于声称解决实际问题的工作来说，可复现性大打折扣。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用了CMU-MOSI, MOSEI, IEMOCAP, CH-SIMS四个公开数据集。 Demo：未提及。 复现材料：提供了方法的核心公式、训练流程（如使用Adam、随机丢弃率70%、LoRA）和部分消融实验设置，但缺少具体超参数（如学习率、batch size、专家数量、损失权重）和硬件信息。 论文中引用的开源项目：提到了MulT [21]作为骨干网络，其代码应为公开。论文本身未声明开源计划。 📌 核心摘要 本文针对多模态情感识别中普遍存在的模态缺失问题，提出了一个名为PMoE（Prompt-guided Mixture-of-Experts）的鲁棒识别框架。该方法的核心在于，在冻结的预训练Transformer主干网络基础上，引入三个关键组件：1）一个基于生成式Prompt和置信度加权融合的缺失模态补偿方案，用于生成并动态融合缺失模态的可靠表示；2）一个具有两阶段动态路由机制的MoE层，通过模态特定专家和共享专家池实现灵活的跨模态特征融合；3）一个自蒸馏策略，利用历史模型输出作为软目标来稳定训练和提升泛化能力。与已有方法（如MCTN、MMIN、MPLMM等）相比，PMoE首次将Prompt引导的生成、置信度评估、MoE的动态专家选择以及知识蒸馏有机结合，更系统地应对信息补偿、融合不稳定和训练泛化三大挑战。实验在CMU-MOSI、MOSEI、IEMOCAP和CH-SIMS四个基准数据集上进行，结果表明PMoE在各种模态缺失场景下（尤其是严重缺失时）均取得最优的准确率和F1分数。例如，在MOSEI数据集上，其平均准确率比最强基线MPLMM高出1.34%。该工作的实际意义在于为真实世界中因设备、隐私等原因导致的模态不完整场景提供了一个高效、鲁棒的情感分析解决方案。主要局限性在于：缺失模态生成器的性能高度依赖跨模态映射和注意力机制的有效性，可能在模态差异巨大时失效；论文未提供代码，限制了复现和验证。 ...

📄 PromptSep: Generative Audio Separation Via Multimodal Prompting #语音分离 #扩散模型 #数据增强 #多模态模型 ✅ 7.5/10 | 前10% | #语音分离 | #扩散模型 | #数据增强 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yutong Wen (Adobe Research & University of Illinois Urbana-Champaign) 通讯作者：未明确说明 作者列表：Yutong Wen (Adobe Research & University of Illinois Urbana-Champaign), Ke Chen (Adobe Research), Prem Seetharaman (Adobe Research), Oriol Nieto (Adobe Research), Jiaqi Su (Adobe Research), Rithesh Kumar (Adobe Research), Minje Kim (University of Illinois Urbana-Champaign), Paris Smaragdis (MIT), Zeyu Jin (Adobe Research), Justin Salamon (Adobe Research) 💡 毒舌点评 亮点： 创新性地将“声音移除”与“声乐模仿”整合进统一框架，直击现有LASS系统的两大软肋，实验设计（多基准、多设置、消融研究）堪称全面典范。短板： 训练过程的“黑盒”化严重，关键优化超参数、硬件配置等细节缺失，使得其强大的结果难以被独立复现验证，削弱了学术贡献的坚实性。 ...

📄 Prototype-Guided Cross-Modal Contrastive Learning for Continual Audio-Visual Sound Separation #语音分离 #对比学习 #持续学习 #多模态模型 #音视频 ✅ 7.5/10 | 前25% | #语音分离 | #对比学习 | #持续学习 #多模态模型 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Wanrong Ma (国防科技大学计算机科学与技术学院，2. 国防科技大学并行与分布式计算国家重点实验室) （注：论文标注为共同第一作者） 通讯作者：Kele Xu (国防科技大学计算机科学与技术学院，2. 国防科技大学并行与分布式计算国家重点实验室) 作者列表：Wanrong Ma（国防科技大学计算机科学与技术学院；国防科技大学并行与分布式计算国家重点实验室）、Hongyu Wen（国防科技大学计算机科学与技术学院；国防科技大学并行与分布式计算国家重点实验室）、Zijian Gao（国防科技大学计算机科学与技术学院；国防科技大学并行与分布式计算国家重点实验室）、Qisheng Xu（国防科技大学计算机科学与技术学院；国防科技大学并行与分布式计算国家重点实验室）、Kele Xu（国防科技大学计算机科学与技术学院；国防科技大学并行与分布式计算国家重点实验室） 💡 毒舌点评 该工作在持续学习与多模态声音分离的交叉领域做得扎实，用原型和对比学习“框住”特征空间的想法巧妙且实验效果显著。但任务场景较为细分，且论文完全没提代码开源，对于想快速复现或在其他多模态任务上借鉴的读者不太友好。 🔗 开源详情 论文中未提及代码链接。 论文中未提及模型权重公开。 数据集MUSIC-21是公开的，但论文未说明具体获取方式或是否修改。 论文中未提及Demo。 论文提供了一定的训练细节（优化器、学习率、批大小、部分超参数），但缺少完整配置、检查点和代码，复现材料不充分。 论文中引用的开源项目/工具包括：iQuery [5] (用于特征提取流程参考)、Video-MAE [15] (预训练视频编码器)、CLIP [16] (预训练视觉编码器)。 论文中未提及开源计划。 ...

📄 Rationale-Guided Learning for Multimodal Emotion Recognition #语音情感识别 #多模态模型 #对比学习 ✅ 7.0/10 | 前25% | #语音情感识别 | #对比学习 | #多模态模型 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Sujung Oh（Pixel Lab, Sungkyunkwan University, South Korea） 通讯作者：Jung Uk Kim*（Visual AI Lab, Kyung Hee University, South Korea） 作者列表：Sujung Oh（Pixel Lab, Sungkyunkwan University, South Korea），Jung Uk Kim（Visual AI Lab, Kyung Hee University, South Korea），Sangmin Lee（Pixel Lab, Korea University, South Korea） 💡 毒舌点评 亮点： 论文的核心设计思路巧妙，借鉴“双过程理论”将情感推理分解为“直觉、情境、整合”三个方面，并通过离线生成的推理依据库，在训练时引导模型内部表示向“类人推理”模式对齐，最终模型在推理时无需依赖庞大的多模态大模型（MLLM），兼顾了性能与效率。 短板： 这种“借鸡生蛋”的方式（依赖GPT-4o生成监督信号）略显取巧，模型的真正推理能力仍受限于离线生成的文本质量，且论文未能深入探讨或验证该框架在MLLM生成的推理依据存在偏差或错误时的鲁棒性。 ...