多模态模型

📄 Omni-Embed-Audio: Leveraging Multimodal LLMs for Robust Audio-Text Retrieval #音频检索 #多模态模型 #鲁棒性 #基准测试 ✅ 评分：7.5/10 | arxiv 👥 作者与机构 第一作者：HaeJun Yoo（韩国西江大学） 通讯作者：Myoung-Wan Koo（韩国西江大学）（根据论文联系邮箱推断） 其他作者：Yongseop Shin, Insung Lee, Du-Seong Chang（均来自韩国西江大学） 💡 毒舌点评 亮点：论文最犀利的地方在于“掀桌子”——直接指出大家常用的AudioCaps/Clotho评测集和真实用户查询方式（平均才1.8个词！）严重脱节，并为此精心打造了一套更贴近现实的“用户意图查询”（UIQ）考题和“硬负样本辨别”评分标准，这比单纯刷高几个点的Recall@K有意义得多。 槽点：模型本身（OEA）有点像“富二代”——背靠强大的多模态LLM（Qwen2.5-Omni等）这个“家族产业”，通过LoRA等手段“微调”一下就上岗了。虽然效果不错，但核心创新更多在“评测”和“应用”层面，而非底层模型架构的突破，让人感觉“这活儿我上我也行（如果有足够GPU的话）”。 🔗 开源详情 代码：论文承诺开源，将发布在GitHub（文中提及 https://github.com/omni-embed-audio）。 模型权重：论文承诺开源训练后的OEA模型权重。 数据集：论文承诺开源三个UIQ基准数据集（AudioCaps-UIQ, Clotho-UIQ, MECAT-UIQ）。 在线Demo：论文提供了交互式Web演示地址：https://omni-embed-audio.github.io，包含75个代表性样本。 依赖的开源项目：论文中引用了多个开源模型和数据集作为基线或组件，如LAION-CLAP, MGA-CLAP, M2D-CLAP, WavCaps, AudioCaps, Clotho, MECAT, BGE嵌入模型等。 📌 核心摘要 这篇论文旨在解决当前音频-文本检索模型在真实、多样化用户查询下性能下降的问题。作者指出，现有基准测试（如AudioCaps, Clotho）依赖描述性标题式查询，与真实世界中简短、多变的搜索行为（如问题、命令、关键词、排除性查询）存在巨大差距。为此，论文提出了两大核心贡献：1) Omni-Embed-Audio (OEA)：一个基于多模态大语言模型（如Qwen2.5-Omni）的统一编码器架构，通过LoRA适配器将文本和音频映射到同一嵌入空间，充分利用LLM强大的语义理解能力；2) User-Intent Queries (UIQ) 基准：包含五种查询类型（问题、命令、关键词、同义改写、排除性查询）的评测集，并配套提出了硬负样本辨别率 (HNSR) 等新指标，以评估模型抑制语义相似但内容相异干扰项的能力。实验表明，OEA在传统文本到音频检索上与SOTA的M2D-CLAP持平，但在文本到文本检索（相对提升22%）和硬负样本辨别（HNSR@10提升4.3个百分点）上显著领先，证明了LLM骨干在理解复杂查询和进行细粒度语义区分方面的优势。论文还进行了详尽的数据泄漏分析，并发布了无泄漏的MECAT基准评测结果。 🏗️ 模型架构 OEA的核心设计是利用一个预训练的多模态LLM作为统一的双模态编码器，而非传统的双塔（独立文本/音频编码器）结构。 整体流程： 输入处理： 文本：将查询包装为 query: <文本> 格式，经过分词器转换为Token序列。 音频：将16kHz单声道原始波形输入到多模态LLM内置的音频编码器中，转换为音频特征，再包装为 passage: <音频特征> 格式。 骨干网络：文本Token或音频特征序列被送入共享的多模态LLM骨干（如Qwen2.5-Omni-3B/7B, Omni-Embed-Nemotron-3B）。骨干网络的大部分权重被冻结。 参数高效适配：在骨干网络的注意力层中插入LoRA适配器（仅约11-16M可训练参数），用于模态适配。 特征聚合：对骨干网络输出的最后一层隐藏状态进行平均池化，得到一个固定长度的向量。 投影与归一化：池化后的向量分别通过各自模态专属的投影头（一个线性层+LayerNorm+L2归一化），映射到一个共享的512维检索嵌入空间，并进行L2归一化，得到最终的单位范数嵌入向量。 关键设计理由： 统一编码器：旨在缩小模态差异，并让音频理解直接受益于LLM强大的语言先验和推理能力。 LoRA：在保持预训练知识的同时，以极低的参数成本实现模态适配。 共享嵌入空间：便于直接计算文本与音频嵌入之间的余弦相似度，用于对比学习和检索。 💡 核心创新点 系统性评估框架创新（UIQ基准）： ...

📄 Video-Robin: Autoregressive Diffusion Planning for Intent-Grounded Video-to-Music Generation #音乐生成 #自回归模型 #多模态模型 #基准测试 #音视频 🔥 评分：8.0/10 | arxiv 👥 作者与机构 第一作者：Vaibhavi Lokegaonkar（University of Maryland College Park, USA） 通讯作者：Aryan Vijay Bhosale, Vishnu Raj（根据“Corresponding authors”及邮箱 {vlokegao,aryanvib}@umd.edu 推断，均来自 University of Maryland College Park, USA） 其他作者： Gouthaman KV（University of Maryland College Park, USA） Ramani Duraiswami（University of Maryland College Park, USA） Lie Lu（Dolby Laboratories, USA） Sreyan Ghosh（University of Maryland College Park, USA） Dinesh Manocha（University of Maryland College Park, USA） 💡 毒舌点评 亮点在于巧妙地将自回归模型的“宏观规划”能力和扩散模型的“细节雕刻”能力缝合在一起，解决了视频配乐中“既要懂视频又要听指挥”的痛点，还顺手做了个挺专业的评测基准ReelBench。槽点是缝合的“线”（如FSQ, RITE）都是现成的，而且目前只能给10秒短片配乐，离给一部电影完整配乐的“终极梦想”还有不小的距离，更像是个精致的概念验证版。 ...

📄 Beyond Monologue: Interactive Talking-Listening Avatar Generation with Conversational Audio Context-Aware Kernels #音视频 #扩散模型 #多模态模型 #数据集 #全双工交互 🔥 评分：9.0/10 | arxiv 👥 作者与机构 第一作者：Yuzhe Weng (翁宇哲)，中国科学技术大学 (USTC) 通讯作者：Jun Du (杜俊)，中国科学技术大学 (USTC)，邮箱：jundu@ustc.edu.cn 其他作者： Haotian Wang (王浩天)，中国科学技术大学 (USTC) Xinyi Yu (余欣怿)，中国科学技术大学 (USTC) Xiaoyan Wu (吴晓燕)，科大讯飞 (iFLYTEK) Haoran Xu (徐浩然)，科大讯飞 (iFLYTEK) Shan He (何山)，科大讯飞 (iFLYTEK) 💡 毒舌点评 亮点：用“多尺度高斯核注意力”这个优雅的数学工具，把“看口型”和“懂语境”这两个打架的脑区给整合到一个模型里了，思路清晰又有效。槽点：虽然建模了上半身反应，但离生成真正富有表现力的、带手势的全身交互动作还有距离，算是给未来挖了个大坑。 🔗 开源详情 代码：论文提到了GitHub仓库（Report GitHub Issue ×），表明代码部分开源（可能指推理代码或核心模块）。 项目主页：提供了BeyondMonologue-Page链接，用于展示更多结果和信息。 模型权重：论文中未明确说明是否公开预训练模型权重。 数据集：构建了大规模数据集VoxHear（1206小时），论文中未明确说明是否完全公开，但通常此类工作会部分公开或提供获取方式。 在线Demo：论文中未提及在线Demo。 依赖的开源项目：论文中明确提及的开源工具/模型包括：Wan2.2（视频生成骨干）、Wav2Vec 2.0（音频编码）、MossFormer2（语音分离，来自ClearVoice工具包）、SyncNet（唇同步验证）、DWPose（姿态估计）、IP-Adapter（适配器范式）。 📌 核心摘要 本文旨在解决从单向“独白”式虚拟人生成迈向自然“全双工”交互式生成的核心挑战。核心问题在于，现有方法要么因严格的帧对齐而反应僵硬，要么因引入全局注意力而破坏唇同步。关键方法是提出一个基于多头高斯核（MHGK）的统一注意力架构，该机制通过为不同的注意力头分配从窄到宽的高斯分布感受野，使模型能同时学习精细的唇形对齐（窄感受野）和长程的对话上下文（宽感受野）。此外，论文构建了双流架构以处理同步的说话与聆听音频，并引入任意位置引导训练策略以提升长视频生成的稳定性。为支撑研究，还构建了大规模、音视频解耦的对话数据集VoxHear（1206小时）。主要发现表明，该方法在唇同步精度、身份保持、视觉质量和用户感知自然度等多个维度上均显著优于现有技术。实际意义在于为构建能理解对话上下文并做出自然反应的下一代交互式数字人提供了坚实的技术框架和数据基础。局限性在于目前主要聚焦于上半身反应，对更复杂全身姿态和手势的生成能力有待探索。 🏗️ 模型架构 本模型是一个基于流匹配（Flow Matching） 和扩散Transformer（DiT） 的端到端视频生成框架，旨在根据一张参考肖像图、一段说话音频和一段聆听音频，生成对应的交互式视频。 ...

📄 Hierarchical Codec Diffusion for Video-to-Speech Generation #语音合成 #扩散模型 #多模态模型 #零样本 #跨模态 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Jiaxin Ye（Fudan University） 通讯作者：Hongming Shan（Fudan University，hmshan@fudan.edu.cn） 其他作者： Gaoxiang Cong（Institute of Computing Technology, Chinese Academy of Sciences；University of Chinese Academy of Sciences） Chenhui Wang（Fudan University） Xin-Cheng Wen（Harbin Institute of Technology (Shenzhen)） Zhaoyang Li（Fudan University） Boyuan Cao（Fudan University） 💡 毒舌点评 亮点：这篇论文像个严谨的“交通协管员”，终于把 RVQ 不同层级当成了不同的车道——让嘴唇和身份去底层飙内容，让表情去高层管情绪，治好了 VTS 领域长期存在的“视觉条件瞎注入”的拥堵病。 槽点：虽然口口声声“首个”层次化离散扩散，但骨子里是 SEDD + MaskGCT Codec + DiT AdaLN 的“学术拼好饭”；更妙的是训练时偷偷用真实音频的 GE2E 特征来 stabilize 模型，推理时却只能看脸硬撑，这算不算一种“开卷考试练出的学霸”？ ...

📄 Spatial-Aware Conditioned Fusion for Audio-Visual Navigation #声源定位 #多模态模型 #强化学习 #基准测试 ✅ 评分：7.0/10 | arxiv 👥 作者与机构 第一作者：Shaohang Wu（新疆大学计算机科学与技术学院，具身智能联合实验室，丝绸之路多语言认知计算联合国际实验室） 通讯作者：Yinfeng Yu（新疆大学计算机科学与技术学院，具身智能联合实验室，丝绸之路多语言认知计算联合国际实验室；邮箱：yuyinfeng@xju.edu.cn） 其他作者：无其他作者 💡 毒舌点评 这篇论文把 FiLM 这瓶“旧酒”装进了音频-视觉导航的“新瓶”，效果居然出奇地好——只增加了 0.15M 参数就把 unheard 场景的 SR 拉高了 28 个百分点，堪称“少即是多”的典范。但槽点在于 SDLD 的 20 个离散区间完全靠拍脑袋（“30米除以20约等于1.5米步长”），连个区间数消融都没有；且整篇论文对 FiLM 的引用和改造堪称“教科书级搬运”，说成“建立新范式”多少有点给自己加戏。 🔗 开源详情 代码：论文中未提及开源计划，未提供 GitHub/GitLab 地址。 模型权重：未公开。 数据集：使用公开基准 SoundSpaces（Replica + Matterport3D），未发布新数据集。 预训练权重：未提供。 在线 Demo：未提及。 依赖开源项目：论文引用了 SoundSpaces、Habitat、PPO、GRU、LSTM 等公开框架/算法，但未明确列出代码依赖。 📌 核心摘要 本论文针对音频-视觉导航（AVN）中目标空间意图模糊、视觉特征缺乏听觉条件引导两大问题，提出了 Spatial-Aware Conditioned Fusion（SACF）框架。该框架首先设计了 Spatially Discretized Localization Descriptor（SDLD），将声源相对方向与距离离散化为 20 个区间并预测其概率分布，通过期望计算与 LSTM 时序精炼得到紧凑空间描述符；其次提出了 Audio-Descriptor Conditioned Visual Fusion（ACVF），基于音频嵌入与空间描述符生成 FiLM 通道调制参数（γ, β），对视觉特征图进行轻量化线性变换，从而抑制背景噪声、增强目标导向视觉表示。在 SoundSpaces 的 Replica 与 Matterport3D 数据集上，SACF 在深度输入设置下显著超越 SoundSpaces 基线，尤其在 Unheard 场景（未听过目标声音）下 Replica 的 SR 提升 28.2%、Matterport3D 的 SPL 提升 20.5%。整体模型参数量仅约 4.5M，以较低计算开销实现了强泛化性。局限性在于 RGB 输入下部分指标（如 SNA）仍略低于对比方法 AGSA，且未进行真实世界迁移验证。 ...

📄 The Acoustic Camouflage Phenomenon: Re-evaluating Speech Features for Financial Risk Prediction #语音生物标志物 #多模态模型 #跨模态 #模型评估 📝 评分：2.5/10 | arxiv 👥 作者与机构 第一作者：Dhruvin Dungrani（Department of Information Systems, Independent Researchers） 通讯作者：未明确标注 其他作者：Disha Dungrani（Department of Information Systems, Independent Researchers） 💡 毒舌点评 这篇论文最大的学术贡献似乎是给“高管上过播音课所以声音不紧张”这个现象取了一个名叫“Acoustic Camouflage”的酷炫术语；全篇最硬核的技术栈是三个逻辑回归，放在今天大概连Kaggle入门赛都进不了前十。更尴尬的是，图1用MAE默默展示融合后误差其实变小了，与正文疯狂强调的Recall暴跌形成了史诗级互搏。 🔗 开源详情 代码：论文中未提及开源计划，无GitHub/GitLab地址。 模型权重：未公开。 数据集：使用公开数据集MAEC（Li et al., 2020），但论文未提供数据预处理脚本或划分方式。 预训练权重：使用了开源的FinBERT模型（Araci, 2019），但未说明具体版本或下载链接。 在线Demo：无。 依赖工具：仅提及FinBERT与MAEC，未列出具体框架（如PyTorch/TensorFlow/sklearn）。 📌 核心摘要 本研究探讨了在企业财报电话会议中，副语言声学特征（音高、抖动、停顿等）对预测灾难性股价下跌的效用。作者基于MAEC数据集，提取了两种模态的特征：文本端使用FinBERT计算脚本化开场白与即兴Q&A之间的情感极性差异（Sentiment Delta），音频端提取临床语音压力标记的方差特征（音高方差、抖动方差、平均NHR、非 voiced 分数方差）。为避免噪声早期传播，作者采用双流晚期融合架构——两个L1正则化逻辑回归分别处理单模态，再由一个L2正则化逻辑回归元学习器融合概率输出。实验发现，孤立文本流的少数类召回率达到66.25%，而孤立音频流仅50.83%；违背直觉的是，晚期融合后召回率进一步跌至47.08%。作者将这一现象命名为“Acoustic Camouflage”（声学伪装）：经过媒体训练的高管能在语音上维持镇定，使音频流释放与真实风险相反的低风险噪声，从而在多模态平均中“稀释”了文本流的高风险信号。该研究为高风险金融预测中的语音处理应用划定了边界条件，但也指出VoIP压缩和降噪算法可能进一步破坏声学信号的真实性。 🏗️ 模型架构 论文提出的系统是一个极简���双流晚期融合诊断架构，整体流程如下： 1. 输入层 数据源：MAEC（Multimodal Aligned Earnings Conference Call）数据集，包含对齐的财报电话会议音频与文本转录。 文本输入：截取每场会议的两个片段——前1,500字符（高度脚本化的管理层开场白）和Q&A环节中1,500字符（非脚本化即兴回答）。 音频输入：与上述文本对齐的电话会议原始音频信号。 2. 特征提取层 ...

📄 TinyMU: A Compact Audio-Language Model for Music Understanding #音乐理解 #音频大模型 #多模态模型 #数据集 ✅ 评分：6.5/10 | arxiv 👥 作者与机构 作者：Xiquan Li, Aurian Quelennec, Slim Essid 论文中未明确标注作者所属机构（无机构名称、邮箱或地址信息）。 💡 毒舌点评 亮点：用 229M 参数的“小不点”在乐器识别上干翻了 8B 参数的巨无霸，堪称音乐 AI 界的“蚁人”——小而强悍。槽点：模型架构基本是“MATPAC++ 和 SmolLM2 的包办婚姻”，9M 的投影器充当媒婆，核心工作量似乎全花在造 350 万条 QA 数据上了；而且既然叫 TinyMU，能不能把 135M 的 LLM 也再压缩压缩？ 🔗 开源详情 代码：论文中未提及是否开源。 模型权重：论文中未提及是否公开。 数据集：论文中未提及是否公开获取方式。 预训练权重：论文中未提及。 在线 Demo：论文中未提及。 依赖开源项目：MATPAC++、SmolLM2、CLAP、ChatGPT（用于数据生成）。 📌 核心摘要 本文针对现有大型音频语言模型（LALM）参数庞大（数十亿级）、训练推理成本高、难以部署在边缘设备的问题，提出了 TinyMU——一个仅有 229M 参数的紧凑音乐语言模型。为此，作者构建了 MusicSkills-3.5M 数据集，包含 350 万个涵盖多选、二元判断和开放式格式的音乐问答样本，结合基于规则与 LLM 辅助的数据合成方法，覆盖流派、乐器、情绪、结构等多维度音乐知识。TinyMU 采用 MATPAC++（85M）作为自监督音频编码器提取细粒度特征，通过仅含两层线性层的轻量投影器（9M）与 SmolLM2-135M 语言模型对齐，并在训练时冻结编码器。实验表明，TinyMU 在乐器识别（Medley-Solos-DB）上甚至超过 8B 模型，在 MuChoMusic 推理基准上达到 SOTA 模型的 82%，同时体积缩小 35 倍。然而，论文在训练超参数、硬件开销等方面披露不足，且未开源。 ...

语音/音乐/音频论文速递 2026-04-20 共分析 24 篇论文 ⚡ 今日概览 📥 抓取 24 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 基准测试 6篇 ██████ 多模态模型 5篇 █████ 语音对话系统 4篇 ████ 大语言模型 4篇 ████ 多语言 4篇 ████ 数据集 4篇 ████ 跨模态 3篇 ███ 模型评估 3篇 ███ 📊 论文评分排行榜（24 篇，按分数降序） 排名 论文 评分 🥇 Qwen3.5-Omni Technical Report 9.5分 🥈 Beyond Monologue: Interactive Talking-Listening Avatar 9.0分 🥉 MoshiRAG: Asynchronous Knowledge Retrieval for Full-Dup 8.5分 4 Generalizable Audio-Visual Navigation via Binaural Diff 8.5分 5 Hierarchical Codec Diffusion for Video-to-Speech Genera 8.5分 6 VoxMind: An End-to-End Agentic Spoken Dialogue System 8.5分 7 ArtifactNet: Detecting AI-Generated Music via Forensic 8.0分 8 Full-Duplex-Bench-v3: Benchmarking Tool Use for Full-Du 8.0分 9 ActorMind: Emulating Human Actor Reasoning for Speech R 8.0分 10 Elucidating the SNR-t Bias of Diffusion Probabilistic M 8.0分 11 HARNESS: Lightweight Distilled Arabic Speech Foundation 7.5分 12 NaijaS2ST: A Multi-Accent Benchmark for Speech-to-Speec 7.5分 13 NVBench: A Benchmark for Speech Synthesis with Non-Verb 7.5分 14 AST: Adaptive, Seamless, and Training-Free Precise Spee 7.5分 15 Temporal Contrastive Decoding: A Training-Free Method f 7.5分 16 Joint-Centric Dual Contrastive Alignment with Structure 7.5分 17 Discrete Token Modeling for Multi-Stem Music Source Sep 7.0分 18 Spatial-Aware Conditioned Fusion for Audio-Visual Navig 7.0分 19 BlasBench: An Open Benchmark for Irish Speech Recogniti 7.0分 20 TinyMU: A Compact Audio-Language Model for Music Unders 6.5分 21 Interactive ASR: Towards Human-Like Interaction and Sem 6.5分 22 PS-TTS: Phonetic Synchronization in Text-to-Speech for 6.0分 23 MUSCAT: MUltilingual, SCientific ConversATion Benchmark 6.0分 24 The Acoustic Camouflage Phenomenon: Re-evaluating Speec 2.5分 📋 论文列表 🥇 Qwen3.5-Omni Technical Report 🔥 9.5分 | #语音对话系统， #音频大模型， #多模态模型， #预训练， | arxiv ...

📄 Audio-Cogito: Towards Deep Audio Reasoning in Large Audio Language Models #音频大模型 #多模态模型 #自监督学习 #知识蒸馏 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Longhao Li (西北工业大学，计算机科学学院，音频、语音与语言处理组 (ASLP@NPU)) 通讯作者：Lei Xie (西北工业大学，计算机科学学院，ASLP@NPU)，Yongxiang Li (西北工业大学，计算机科学学院，ASLP@NPU) （根据论文中提供的联系邮箱推断） 其他作者： Hongjie Chen (中国电信人工智能研究院 (TeleAI)) Zehan Li (西北工业大学，计算机科学学院，ASLP@NPU) Qihan Hu (西北工业大学，计算机科学学院，ASLP@NPU) Jian Kang (西北工业大学，计算机科学学院，ASLP@NPU) Jie Li (中国电信人工智能研究院 (TeleAI)) 💡 毒舌点评 亮点：这篇论文最亮眼的是其“全开源”的承诺和“自蒸馏”策略，构建了一个从数据到模型的完整音频推理解决方案，直接挑战了依赖闭源API（如Gemini）的“捷径”做法，为社区提供了宝贵的可复现基准。槽点：然而，讽刺的是，其评估体系的核心——MMAR基准测试的“评分细则（rubric）”——仍然依赖闭源的Gemini 2.5 Pro生成，这使得其“超越闭源模型”的结论在评估公正性上存在一丝“用对手的尺子量自己”的微妙尴尬。 🔗 开源详情 代码：论文中提到代码将开源，并提供了匿名GitHub链接：https://anonymous.4open.science/r/Audio-Cogito-0E6E。使用了ms-swift训练框架。 模型权重：论文中提到Audio-Cogito基于Qwen3-Omni-Thinking，但未明确说明是否会单独发布微调后的模型权重。通常此类工作会随论文发布。 数据集：明确承诺开源。包含54.5万个高质样本，覆盖多音频域。获取地址同上述GitHub链接。 预训练权重：基于开源的Qwen3-Omni-Thinking模型。 在线Demo：论文中未提及。 引用的开源项目：主要依赖ms-swift框架，以及基座模型Qwen3-Omni-Thinking。数据来源均为公开数据集（AudioSet, Clotho等）。 📌 核心摘要 这篇论文旨在解决大型音频语言模型（LALMs）在复杂音频推理任务上能力不足且依赖昂贵闭源数据的问题。作者提出了一个名为Audio-Cogito的全开源解决方案，其核心是Cogito-Pipe——一个四阶段自动化数据构建流水线，用于生成高质量、多样化的音频推理链（CoT）数据。该流水线通过整合多源音频元数据、利用模型自身进行自蒸馏生成推理轨迹，并辅以质量验证，最终构建了一个包含54.5万个样本的大规模开源数据集。基于此数据集，作者采用自蒸馏策略对基座模型（Qwen3-Omni-Thinking）进行微调。实验表明，Audio-Cogito在专门评估推理过程的MMAR基准测试上，取得了开源模型中的最佳性能，平均准确率达71.70%，甚至在部分指标上超越了Gemini 2.0 Flash等闭源系统，同时其推理链的质量（Rubrics Score 62.22%， CRS 0.87）也得到显著提升。该工作为推动音频模态的深度、可解释推理提供了重要的开源资源和方法论参考。 ...

📄 AVID: A Benchmark for Omni-Modal Audio-Visual Inconsistency Understanding via Agent-Driven Construction #多模态模型 #基准测试 #音视频 #音频大模型 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Zixuan Chen（上海交通大学） 通讯作者：Tanfeng Sun，Xinghao Jiang（上海交通大学，根据论文作者顺序及常见通讯作者标注习惯推断） 其他作者： Depeng Wang（蚂蚁集团） Hao Lin（香港中文大学） Li Luo（上海交通大学） Ke Xu（上海交通大学） Ya Guo（蚂蚁集团） Huijia Zhu（蚂蚁集团） 💡 毒舌点评 这篇论文的亮点在于它敏锐地抓住了当前多模态大模型在“理解矛盾”而非“理解对齐”上的短板，并为此量身打造了一个大规模、系统化的测试基准，堪称给模型们做了一次“大家来找茬”的专项体检。槽点在于其“构造”不一致性的方法虽然巧妙且可控，但过于依赖外部大模型（Gemini）进行策略规划，且注入的“矛盾”在自然度上可能与真实世界的复杂矛盾仍有差距，有点像在实验室里精心布置的“找茬游戏”考场。 🔗 开源详情 代码：论文中提到GitHub仓库（https://github.com/），但未给出完整链接。计划开源。 模型权重：AVID-Qwen基于Qwen3-Omni-30B-A3B-Instruct微调。论文提到将在HuggingFace上发布模型权重。 数据集：AVID基准计划公开，包含全视频和片段级子集。 预训练权重：使用公开的Qwen3-Omni-30B-A3B-Instruct作为骨干。 在线Demo：论文中未提及。 引用的开源项目： 策略智能体：Gemini 3.1 Pro (Google)。 注入器工具：FFmpeg, Demucs (音频分离), Silero VAD, MediaPipe。 基座模型：Qwen3-Omni。 微调框架：SWIFT。 数据来源：LongVALE数据集。 📌 核心摘要 这篇论文旨在解决当前全模态大模型在音视频不一致性理解能力上缺乏系统性评估的问题。现有基准要么只关注音视频对齐事件，要么局限于检测深度伪造中的低级伪影，无法评估模型对长视频中语义级矛盾的理解。为此，作者提出了AVID，首个大规模音视频不一致性理解基准。其核心方法是构建了一个可扩展的流水线：首先将视频按“有声有脸”、“有声无脸”、“无声有景”进行时序分割，然后利用一个由Gemini驱动的策略智能体为每个片段规划最合适的矛盾注入类型（共8类），最后通过五个专门的注入器（如时间偏移、语义矛盾、身份修改等）生成不一致视频。基于此，他们构建了包含11.2K长视频（平均235.5秒）、39.4K个已标注矛盾事件和78.7K个片段的数据集。实验表明，现有顶尖模型（包括Gemini 3.1 Pro）在时间定位和细粒度推理上存在显著不足。作者还微调了一个基线模型AVID-Qwen，其在时间定位（mIoU: 36.1% vs 26.2%）和整体理解（SODA-m: 7.47 vs 6.15）上超越了所有对比模型，验证了该基准的有效性。 ...