多模态模型

📄 GeoBuildBench: A Benchmark for Interactive and Executable Geometry Construction from Natural Language #基准测试 #几何推理 #多模态模型 ✅ 7.0/10 | 前25% | #几何推理 | #基准测试 | #多模态模型 | arxiv 学术质量 6.9/8 | 影响力 0.7/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Jinwoong Kim（北京大学，王选计算机技术研究所） 通讯作者：未说明 作者列表：Jinwoong Kim（北京大学，王选计算机技术研究所）、Rui Yang（北京大学，王选计算机技术研究所）、Huishuai Zhang（北京大学，王选计算机技术研究所） 💡 毒舌点评 亮点：论文提出了一个极具价值的新评估范式——将几何推理的焦点从“答案正确性”或“视觉相似度”转移到“可执行性”和“几何约束满足”上。通过设计一个支持迭代修复的交互式环境（GeoBuildBench），为严格评估模型的结构化推理、规则遵循和错误修正能力提供了一个创新的测试床。这对于理解和改进智能体（Agent）的具身推理能力有重要意义。 短板：论文的“方法”部分更多是环境构建与评估框架设计，而非提出新的模型架构或学习算法。此外，虽然评估了多个前沿模型，但对模型在迭代过程中具体修正策略的分析（如面对特定约束反馈时的推理路径）仍停留在统计层面，缺乏更深入的定性案例研究来揭示“为什么”某些模型修正能力更强。 📌 核心摘要 问题：现有的几何推理基准主要关注文本答案的正确性或生成图像的视觉相似度，忽略了将自然语言描述转化为几何一致、可执行的构造图这一关键且具有挑战性的步骤。这导致模型可能产生“结构性幻觉”——输出看似合理，但内部的几何关系（如平行、相切）或对象引用是错误的。 方法核心：提出GeoBuildBench，一个用于评估几何构造能力的交互式基准和环境。核心任务是：模型根据中文几何题文本，生成一个领域特定语言（DSL）程序来构造几何图形。环境执行程序、渲染图形，并通过一个验证模块检查对象覆盖（所有必需对象是否创建）和几何约束满足（如角度值、距离相等、平行等），随后将结构化反馈（错误、缺失对象、违反的约束）返回给模型，形成“生成-执行-验证-修复”的闭环交互。 创新点：其新意在于：(1) 定义了可执行几何构造这一新的评估任务，而非静态问答或图像生成；(2) 设计了基于几何约束满足（数值验证）而非视觉相似度的客观评估体系；(3) 构建了支持迭代修复的交互式环境，评估模型的闭环推理能力；(4) 通过严格流程构建了一个文本完整、几何可构造的高质量数据集（489个问题）。 实验结果：对GPT-5.1、Gemini-3-Flash、Qwen3-VL-235B和LLaMA-3.2-90B-Vision四个模型进行了评估，最大迭代预算为5步。前沿闭源模型（GPT-5.1, Gemini-3-Flash）成功率较高（78.9%， 75.3%），但开源模型（Qwen3-VL, LLaMA-3.2-Vision）表现显著较差（42.2%， 21.3%）。所有模型普遍存在结构幻觉（如引用未定义对象）和约束违反问题，且利用反馈进行自我修正的能力有限，表现为修复速度慢或幻觉持续。关键数据见下表： 模型 成功率(%) 平均步数(↓) 幻觉数/问题(↓) 缺失对象数(↓) 违反约束数(↓) GPT-5.1 78.9 1.87 0.40 939 1119 Gemini-3-Flash 75.3 1.55 0.34 329 932 Qwen3-VL-235B 42.2 2.30 2.30 2042 1817 LLaMA-3.2-90B-Vision 21.3 2.23 2.38 1823 1584 补充关键细节：Gemini-3-Flash的平均幻觉恢复步数最短（1.17步），表明其从错误中学习的效率最高。在难度分析（Table 18）中，即使是最强的GPT-5.1，在最高难度（Level 4）问题上的成功率也降至65.7%。 实际意义：该基准为评估和理解大模型的结构化输出能力、规则遵循能力和闭环错误修复能力提供了严格框架，揭示了当前多模态模型在将语言精确映射到符号化构造步骤并维持状态一致性方面的弱点，对发展更可靠的几何推理智能体和具身AI有直接启发。 局限性：基准范围限于中国平面几何问题和预定义的DSL及验证条件集；评估结果依赖于固定的交互协议（如5步预算、特定提示模板）；对模型如何利用反馈的深层机制分析不足。 🔗 开源详情 代码：https://github.com/ooongs/GeoBuildBench 模型权重：论文中未提及。论文评估了多个第三方模型，但未发布自研模型权重。 数据集：GeoBuildBench 数据集（包含489个中文平面几何问题及标注）。论文未提供独立的数据集下载链接，但代码仓库很可能包含数据集。 Demo：论文中未提及。 复现材料：论文附录（Appendix A-H）提供了详细的复现材料，包括： GeoDSL 快速参考：完整的语法、命令和执行语义（附录A）。 验证语义与失败模式：支持的验证条件类型、对象覆盖检查和数值容差的详细定义（附录B）。 完整系统提示词：用于代理（agent）的完整系统提示词（附录C）。 任务解析与标注提示词：用于数据过滤、清洗和标注几何问题的具体提示词（附录D）。 数据集统计与标注细节：类别分布、构建难度分布及解释（附录E）。 可视化构造示例：一个可构造问题和一个不可构造问题的详细GeoDSL代码与渲染图（附录F）。 详细评估诊断：模型性能的整体诊断、幻觉类型分析、缺失对象分析、验证条件失败分析、反馈利用率指标等（附录G）。 附加评估结果：跨语言评估和按难度分级的成功率分析（附录H）。 论文中引用的开源项目：论文中提到了多个相关工作，包括GeoQA, Geometry3K, Inter-GPS, GMB/GMBL, MagicGeo/MagicGeoBench, GeoUni, AlphaGeometry, GEOS，但未提供其具体开源链接。 🏗️ 方法概述和架构 GeoBuildBench构建了一个代理-环境交互循环，用于评估几何构造能力。核心流程为：输入自然语言几何问题 → 代理生成一个GeoDSL程序 → 几何内核执行程序并更新几何状态 → 渲染器基于状态生成图像 → 验证模块根据任务定义（必需对象和验证条件）检查执行结果，生成通过/失败的结构化反馈 → 将图像与反馈一起返回给代理 → 代理根据反馈迭代修改程序，直到验证通过或达到预算上限。 ...

📄 Keep What Audio Cannot Say: Context-Preserving Token Pruning for Omni-LLMs #音视频 #高效推理 #多模态模型 #跨模态 ✅ 7.0/10 | 前25% | #音视频 | #高效推理 | #多模态模型 #跨模态 | arxiv 学术质量 6.5/8 | 影响力 0.5/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者：Chaeyoung Jung（Korea Advanced Institute of Science and Technology (KAIST)） 通讯作者：未明确说明（论文中列出的通讯作者地址为“Equal contribution”，与第一作者相同） 作者列表：Chaeyoung Jung（KAIST）、Kyeongha Rho（KAIST）、Joon Son Chung（KAIST） 💡 毒舌点评 这篇论文的“移除音频已知，保留音频未知”的剪枝思想确实新颖且直观，实验结果也非常亮眼，尤其是在Qwen2.5-Omni 7B上能以55%的压缩率保持甚至超越全token性能。但尴尬的是，方法最核心的“保留空间细节”分支（图2中标注2⃝）依赖于一个固定的全局空间保留比例ρspa，这在处理如球员球衣号码、面部表情等高度局部化、信息量集中的细节时显得非常脆弱，论文的失败案例也明确证实了这一点。一个自适应的、可能依赖内容或查询的空间预算分配机制，才是该方法从“有效”迈向“鲁棒”的关键下一步。此外，将所有实验仅限于短视频片段，其结论在长视频场景下的普适性存疑。 📌 核心摘要 要解决什么问题：全模态大语言模型（Omni-LLMs）在处理音视频输入时，会产生大量token，导致计算开销巨大，阻碍了实际部署。现有的token剪枝方法要么针对特定任务训练，要么过度依赖音频-视觉的强对齐信号，可能丢弃理解宽泛上下文所需的证据。 方法核心是什么：论文提出了一个名为ContextGuard的推理时token剪枝框架。其核心思想是将token压缩从“选择重要token”重新定义为“移除跨模态冗余，同时保留音频无法表达的视觉上下文”。具体实现包含三个主要步骤：a) 音频引导的语义剪枝：使用一个轻量级的音频到视觉语义预测器（A2V Predictor）从音频预测粗糙视觉语义，移除与预测语义高度相似（即可被音频解释）的视频token；b) 空间细节保留：通过网格采样和局部空间变化度量，额外保留一部分token以覆盖图像空间，保存颜色、姿态等音频无法指定的局部细节；c) 基于深度分数的时间合并：对时间上相似的chunk进行分段和合并，进一步压缩冗余帧。 与已有方法相比新在哪里：与现有训练基础的（如EchoingPixels, OmniSIFT）或基于对齐的（如OmniZip）方法不同，ContextGuard不追求为当前查询选择最相关的token，而是致力于去除被音频流冗余表达的视觉信息，并主动保留那些与音频不匹配的视觉证据（如场景文字、背景物体），以维护更广泛的上下文信息。 主要实验结果如何：在Qwen2.5-Omni（7B/3B）和Video-SALMONN2+（7B/3B）两个模型及六个音视频基准测试上，ContextGuard显著优于基线方法。关键结果如表1所示： Method Comp.↑ (%) World.↑ Daily.↑ Video-MME↑ OmniVid.↑ AVQA↑ video-SAL2.↓ Avg.↑ (%) Qwen2.5-Omni 7B Full Token 0 47.4 57.1 78.8 48.2 87.6 48.1 100.0 Random 50 45.7 52.4 78.4 43.4 86.7 50.4 95.4 FastV 50 45.6 56.6 77.9 47.6 87.0 49.8 98.1 OmniZip 54 46.8 56.6 77.1 47.0 87.0 52.8 97.3 ContextGuard 55 47.7 57.2 78.8 48.2 87.1 48.1 100.0 Qwen2.5-Omni 3B Full Token 0 47.7 57.7 75.8 44.0 87.6 53.5 100.0 Random 50 44.1 53.1 74.0 42.8 87.1 56.1 95.7 FastV 50 46.7 55.6 74.0 44.0 87.2 54.6 98.2 OmniZip 54 47.1 55.8 74.9 42.8 87.3 52.4 98.9 ContextGuard 61 47.7 56.6 75.8 45.2 87.3 52.3 100.5 Video-SALMONN2+ 7B Full Token 0 50.7 56.3 79.2 43.4 67.8 18.9 100.0 Random 50 47.3 51.6 76.2 39.5 66.8 25.7 90.7 FastV 50 46.3 51.8 79.2 42.2 66.1 24.0 92.8 OmniZip 49 47.8 53.8 79.2 42.8 68.8 22.4 95.7 ContextGuard 55 50.6 55.5 81.4 47.0 66.9 19.9 100.5 Video-SALMONN2+ 3B Full Token 0 48.1 57.7 76.2 45.8 81.6 22.7 100.0 Random 50 44.3 51.6 73.2 42.0 81.2 30.3 90.6 FastV 50 45.6 53.2 71.0 36.1 81.0 27.4 90.2 OmniZip 49 45.6 54.7 73.2 41.6 81.3 26.3 93.7 ContextGuard 56 47.1 55.5 73.6 44.6 81.4 24.2 96.9 特别是在Qwen2.5-Omni 7B上，剪枝55%的token后，在6个基准中的5个上达到了全token性能。 实际意义是什么：该方法为部署高效的全模态大模型提供了有力的工具，通过一个无需微调下游LLM、仅需一个独立训练的轻量预测器的推理时框架，大幅降低了音视频理解的计算成本和内存占用，对实时交互应用具有重要价值。 主要局限性是什么：方法依赖于固定的精细粒度空间保留比例（ρspa），这可能导致在需要非常具体局部细节的任务（如识别球衣号码、细微表情）上表现不佳，正如其失败案例所示。此外，所有评估均基于短于1分钟的视频片段，限制了结论对长视频场景的适用性。A2V预测器的鲁棒性在不同内容类型（如音乐视频）上未被充分讨论。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集： WorldSense: 论文中未提供链接。 Daily-Omni: 论文中未提供链接。 Video-MME: 论文中未提供链接。 AVQA: 论文中未提供链接。 OmniVideoBench: 论文中未提供链接。 video-SALMONN2 test set: https://huggingface.co/datasets/videoSALMONN2/video-SALMONN_2_testset AudioSet: 论文中提及，未提供具体链接。 VGGSound: 论文中提及，未提供具体链接。 Demo：论文中未提及。 复现材料：论文提供了详细的附录，包括 A2V 预测器的架构、训练目标、训练数据（AudioSet 和 VGGSound）、超参数设置、以及各项分析实验的细节（如语义保留比例、空间细节保留策略、时序合并实现等）。未提及训练检查点或代码库。 论文中引用的开源项目： Qwen2.5-Omni: 论文中作为基线模型使用，未提供代码或权重仓库链接。 Video-SALMONN2+: 论文中作为基线模型使用，未提供代码或权重仓库链接。 OmniZip: 论文中作为对比方法，未提供代码或仓库链接。 FastV: 论文中作为对比方法，未提供代码或仓库链接。 🏗️ 方法概述和架构 整体流程概述：ContextGuard是一个在LLM解码器之前运行的、多阶段的音视频token剪枝框架。其输入为交替的音视频token序列，输出为压缩后的视觉token序列和完整的音频token序列。该框架并非端到端系统，而是由一个独立训练的轻量级A2V预测器和一个基于启发式规则的剪枝-合并流水线组成。 ...

📄 Leveraging Multimodal Self-Consistency Reasoning in Coding Motivational Interviewing for Alcohol Use Reduction #多模态模型 #医疗音频 #自洽学习 #提示工程 #动机访谈编码 ✅ 6.0/10 | 前50% | #动机访谈编码 | #自洽学习 | #多模态模型 #医疗音频 | arxiv 学术质量 5.3/8 | 影响力 0.6/2 | 可复现性 0.4/1 | 置信度 中 👥 作者与机构 第一作者：Guangzeng Han (University of Memphis, Department of Computer Science) 通讯作者：Xiaolei Huang (Department of Psychology, Washington State University Vancouver; 论文发表时隶属于University of Memphis) 作者列表：Guangzeng Han (University of Memphis), James G. Murphy (Veterans Affairs Health Care System; University of California San Francisco), Benjamin O. Ladd (University of Memphis), Xiaolei Huang (Washington State University Vancouver), Brian Borsari (Washington State University Vancouver) 💡 毒舌点评 本文将自洽推理从纯文本扩展至多模态临床编码，并设计了四种具有临床动机（内容、韵律、证据评分、对比）的提示策略，展现了在垂直领域应用大模型的工程巧思；然而，在一个仅含5个会话、898个话语的小规模数据集上，仅与两个简单的提示基线（Direct, COT）对比，且绝对性能（宏F1 < 51%）较低，严重削弱了方法“优越性”的证明力度和普适性结论，更像是一次概念验证（proof-of-concept）。 ...

📄 PresentAgent-2: Towards Generalist Multimodal Presentation Agents #生成模型 #多模态模型 #大语言模型 #视频生成 #基准测试 #智能体 ✅ 6.5/10 | 前25% | #生成模型 | #多模态模型 | #大语言模型 #视频生成 | arxiv 学术质量 5.5/8 | 影响力 0.7/2 | 可复现性 0.3/1 | 置信度 高 👥 作者与机构 第一作者：Wei Wu（北京大学） 通讯作者：Hao Tang（北京大学，邮箱：bjdxtanghao@gmail.com） 作者列表：Wei Wu（北京大学），Ziyang Xu（北京大学），Zeyu Zhang（北京大学，项目负责人），Yang Zhao（La Trobe University），Hao Tang（北京大学） 注：论文明确标注前三位作者（Wei Wu, Ziyang Xu, Zeyu Zhang）贡献相等（Equal contribution）。 💡 毒舌点评 本文的亮点在于清晰地将演示生成任务从“文档到演示”拓展到更具挑战性的“查询到演示”，并设计了一个涵盖“深度研究”、内容生成和三种独立演示模式（单人演讲、多人讨论、交互问答）的完整框架。系统设计的完整性和对动态媒体处理的重视值得肯定。然而，其主要弱点在于核心贡献更偏向系统集成而非底层技术创新，关键模块（如视频合成、语音生成）的技术细节几乎完全依赖于未说明的外部模型，使得论文的“技术深度”存疑。同时，评估体系严重依赖于可能同源的VLM评判者，缺乏人类评估数据的校准，使得其高分结果的说服力大打折扣。 📌 核心摘要 解决的问题：现有演示视频生成系统大多依赖用户提供完整的源文档（如论文、报告），无法处理简短、开放式的用户查询，并主动获取内容和视觉资源来生成演示视频。 方法核心：提出PresentAgent-2，一个端到端的智能体框架。系统接收用户查询和选定的演示模式，首先将查询提炼为主题，并通过“深度研究”主动从互联网检索和筛选适合演示的多模态资源（文本、图片、GIF、视频）。随后，基于这些资源规划演示结构、生成幻灯片和对应模式的脚本（单人演讲为叙述脚本，多人讨论为角色对话脚本，交互问答为基于上下文的回答），合成音频，并将幻灯片、音频和动态媒体（保持GIF/视频的可播放性）合成为最终的演示视频。 与已有方法相比的新颖之处：a) 任务设定开放：首次系统性地研究从开放查询到演示视频的生成，而非从给定文档转换。b) 内容获取主动：集成了针对演示场景优化的“深度研究”模块，主动收集多模态资源。c) 输出模式丰富：在统一框架下支持单人演讲、多人讨论和交互问答三种独立的演示模式。d) 动态媒体处理：在视频合成中保留了检索到的GIF和视频的动态特性，而非将其转换为静态截图。 主要实验结果：论文构建了名为PresentEval的多模态演示基准测试集，包含60个查询-参考视频对（每种模式20对）。使用不同骨干模型（如Qwen3.5-VL-Plus）进行评估，结果显示系统在客观测验（满分5）和主观评估（满分5）上均取得较高分数（例如，使用Qwen3.5-VL-Plus时，客观测验得分均>4.8，主观评估均分均>4.3）。消融实验证明了多模态检索、动态媒体保留、角色感知的对话生成以及交互上下文接地等模块的有效性。 实际意义：为教育、技术讲解、知识传播等场景提供了一种新的内容创作范式，降低了从问题到结构化多媒体演示视频的制作门槛。 主要局限性：a) 生成质量高度依赖检索到的公开网络资源的质量。b) 交互模块的错误可能受上游检索和生成错误的影响。c) 当前基准测试规模有限（60例）。d) 论文中多个关键技术的实现细节未公开说明。 🔗 开源详情 代码：https://github.com/AIGeeksGroup/PresentAgent-2 模型权重：论文中未提及模型权重的具体下载链接（如HuggingFace/ModelScope）。 数据集：论文中未提及公开数据集的下载链接。论文中描述了自行构建的PresentEval基准数据集（60个查询-参考视频对），但未提供其公开获取地址。 Demo：https://aigeeksgroup.github.io/PresentAgent-2 复现材料：论文中未提及提供训练配置、模型检查点、提示模板、评测脚本等复现材料的具体下载链接。 论文中引用的开源项目： Paper2Video、PresentAgent、Paper2Poster、VideoAgent、Doc2PPT, SlideGen, VideoDirectorGPT, VideoStudio, LVD：论文中仅在相关工作或表格中提及项目名称和引用，未提供具体项目链接。 🏗️ 方法概述和架构 PresentAgent-2是一个多阶段、模块化的智能体系统，旨在完成从自然语言查询到演示视频的端到端生成。其核心流程如图4所示：接收用户的自然语言查询q和选定的演示模式m，首先将查询提炼为主题t并执行“深度研究”以检索多模态资源集ℛ，随后基于(q, t, ℛ, m)生成最终的演示视频V_m。整个过程可形式化为两步：q → (t, ℛ) 和 (q, t, ℛ, m) → V_m。演示模式m主要决定了生成的脚本结构和交付风格。 ...

📄 Senses Wide Shut: A Representation-Action Gap in Omnimodal LLMs #模型评估 #音频问答 #跨模态 #基准测试 #多模态模型 🔥 8.0/10 | 前50% | #模型评估 | #基准测试 | #音频问答 #跨模态 | arxiv 学术质量 6.5/8 | 影响力 1.3/2 | 可复现性 0.9/1 | 置信度 高 👥 作者与机构 第一作者：Nguyen Quang Trung（南洋理工大学，LMMs-Lab） 通讯作者：未说明 作者列表：Nguyen Quang Trung（南洋理工大学，LMMs-Lab），Yiming Gao（南洋理工大学，LMMs-Lab），Fanyi Pu（南洋理工大学，LMMs-Lab），Kaichen Zhang（南洋理工大学，LMMs-Lab），Shuo Sun（约翰霍普金斯大学），Ziwei Liu（南洋理工大学，LMMs-Lab） 💡 毒舌点评 这篇论文精准地定义并量化了全模态LLM中一个核心但被忽视的“感知-行动鸿沟”问题，其IMAVB基准测试的2×2设计堪称教科书式的诊断工具；然而，作为“干预”的PGLA本质上是一个依赖于同一数据集训练探针的诊断性调整，其在真实、开放世界场景中的泛化能力和实际部署价值被高估了，诊断本身很彻底，但治疗方案可能只是止痛药。 📌 核心摘要 要解决什么问题：当全模态大语言模型（LLM）遇到与其自身感官输入（视觉、音频）相矛盾的文本前提时，其失败究竟是源于感知层面（未能检测到矛盾）还是行动层面（检测到了但未能在输出中拒绝）？现有的协同性基准测试无法揭示这种失败模式。 方法核心是什么：论文提出了IMAVB（一个500个电影片段的2×2设计基准测试），通过保持视频和音频不变，仅交换问题文本中的一个前提细节来创建“标准”和“误导性”问题。结合线性探针（分析隐藏状态）和引导对数调整（PGLA，一种推理时干预方法），来诊断模型内部表示与外部行为之间的脱节。 与已有方法相比新在哪里：与现有的跨模态基准测试（如AVHBench）相比，IMAVB使用隐含的虚假前提（而非明确验证提示）、长视频（1-5分钟），并保留所有模态同时竞争注意力。这是首次系统性地将“内部-外部脱节”现象从纯文本LLM扩展到跨模态感知领域，并量化了其模态不对称性（音频接地弱于视觉）。 主要实验结果如何：在8个开源全模态LLM和Gemini 3.1 Pro上，论文发现了显著的“表示-行动鸿沟”：线性探针可以从隐藏状态中以高达86%的准确率解码出误导性前提，但模型的实际拒绝率极低（多数开源模型在音频误导性检测上为0%）。PGLA通过将内部信号反馈至输出，在所有8个开源模型上平均提升了15.0个百分点的平衡准确率。 模型 基线平衡准确率 (%) PGLA后平衡准确率 (%) 提升 (pp) Uni-MoE-2.0-Omni 38.2 57.0 +18.8 MiniCPM-o 2.6 31.6 49.2 +17.6 OLA 37.4 54.9 +17.5 Video-SALMONN-2 38.2 55.1 +16.9 Qwen2.5-Omni 37.5 53.4 +15.9 OmniVinci 38.4 53.0 +14.6 Qwen3-Omni 45.9 57.7 +11.8 Baichuan-Omni-1.5 36.8 43.5 +6.7 平均 38.0 53.0 +15.0 实际意义是什么：研究结果表明，提升全模态LLM的感知接地能力，瓶颈可能不在于更大的编码器或更丰富的表示，而在于训练目标未能将内部检测到的矛盾信号与最终输出对齐。这为未来针对“诚实”或“接地”的训练改进指明了方向。 主要局限性是什么：基准测试局限于电影领域，可能无法推广到所有视频类型；误导性前提是单次细节交换；PGLA的干预是基于同一基准测试数据训练的，其跨域泛化能力未经验证；对商用模型（Gemini）的分析仅限于行为层面，缺乏表示分析。 🔗 开源详情 代码：论文中未提供明确的代码仓库链接。论文中提及“all code will be publicly released”以及“code is included in the supplementary material”，但未给出具体的GitHub等仓库地址。 模型权重：论文中未提及提供预训练或微调的模型权重链接。 数据集：IMAVB数据集。论文中提及一个匿名访问链接：https://huggingface.co/datasets/anonymousneurips/IMAVB。论文还承诺在接收后将与lmms-eval集成并公开发布。 Demo：论文中未提及在线演示链接。 复现材料：论文中提供了详细的实验设置、评估协议和实现细节，主要包含在附录中（如Appendix J, L, G）。评估使用了开源框架lmms-eval（链接：https://github.com/EvolvingLMMs-Org/lmms-eval）。所有实验使用温度0、top-p和top-k为1的设置，并报告95%的bootstrap置信区间。开放源代码模型的评估在8块NVIDIA H100 80GB GPU上进行。 论文中引用的开源项目： lmms-eval：开源多模态评估框架。论文中引用为lmms-eval，链接：https://github.com/EvolvingLMMs-Org/lmms-eval。 评估的开源全模态LLM（论文中未提供其官方权重或代码链接，仅列出名称）：OLA, OmniVinci, Qwen2.5-Omni, MiniCPM-o 2.6, Uni-MoE-2.0-Omni, Baichuan-Omni-1.5, Video-SALMONN-2, Qwen3-Omni。 商业模型：Gemini 3.1 Pro（通过API评估，未开源）。 数据生成与标注中使用的模型：Qwen3.5-27B, Qwen3-Omni-30B-A3B-Captioner, Qwen3-Omni-30B-A3B-Thinking, GPT-4o（论文中未提供这些模型的具体链接）。 其他方法（论文中提及但未提供实现链接）：Inference-Time Intervention (ITI), Representation Engineering (RepE), Visual Contrastive Decoding (VCD), Instruction Contrastive Decoding (ICD), AVCD, Fork-Merge Decoding, OPERA, Self-Introspective Decoding, DoLa。 🏗️ 方法概述和架构 本文的核心方法框架是一个用于诊断和量化全模态LLM中“表示-行动鸿沟”的系统流程，包含基准测试构建、多维度分析与诊断干预三个主要阶段。 ...

📄 Boosting Omni-Modal Language Models: Staged Post-Training with Visually Debiased Evaluation #多模态模型 #基准测试 #数据清洗 #后训练 #评测协议 📝 5.5/10 | 前50% | #多模态模型评估 | #后训练 #自蒸馏 | #多模态模型 #基准测试 | arxiv 学术质量 5.0/8 | 影响力 0.7/2 | 可复现性 0.1/1 | 置信度 中 👥 作者与机构 第一作者：Che Liu (根据作者列表顺序推断) 通讯作者：Fei Tian (tianfei@stepfun.com， StepFun) 作者列表：Che Liu (StepFun, Imperial College London)， Lichao Ma (StepFun, Peking University)， Xiangyu Tony Zhang (StepFun, The University of New South Wales)， Yuxin Zhang (StepFun, Shanghai Jiao Tong University)， Haoyang Zhang (StepFun, Peking University)， Xuerui Yang (StepFun)， Fei Tian (StepFun， 通讯作者) 💡 毒舌点评 论文直击全模态模型评测的核心痛点——视觉捷径导致的性能虚高，并为此提出了系统化的去偏评测协议(OmniClean)，这为社区提供了急需的、更干净的评估工具，具有明确的实用价值；然而，作为核心方法贡献的OmniBoost方案，本质上是将现有的SFT、RLVR和自蒸馏技术按固定顺序进行组合与调优，缺乏在算法或模型架构层面的根本性创新，且整个实证研究被严格限制在一个特定模型家族(Qwen2.5-Omni-3B)上，极大地削弱了其结论的普适性与指导意义。 ...

📄 jina-embeddings-v5-omni: Text-Geometry-Preserving Multimodal Embeddings via Frozen-Tower Composition #多模态检索 #迁移学习 #多模态模型 #模型评估 ✅ 7.5/10 | 前25% | #多模态检索 | #迁移学习 | #多模态模型 #模型评估 | arxiv 学术质量 7.5/8 | 影响力 1.8/2 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：Florian Hönicke（Jina by Elastic） 通讯作者：未说明 作者列表：Florian Hönicke、Michael Günther、Andreas Koukounas、Kalim Akram、Scott Martens、Saba Sturua、Han Xiao（均隶属于 Jina by Elastic） 💡 毒舌点评 论文提出了一种名为“冻结编码器模型组合”的务实框架，通过仅训练连接层来将多个冻结的预训练编码器（视觉、音频）对接到冻结的文本嵌入主干上。这种方法在保持文本嵌入性能无损（“文本几何保持”）的同时，以极高的参数和计算效率扩展了模型的多模态能力，展现了强大的工程实用价值。然而，其“全能”宣称在视频模态上遭遇滑铁卢——性能显著落后于专精模型及更大的全模态基线，且论文未能提供充分的技术分析来解释这一短板，这与其在其他模态上的优异表现形成鲜明对比，成为一项明显的局限。 📌 核心摘要 解决的问题：如何在几乎不修改、不损失现有高性能文本嵌入模型（Jina Embeddings v5 Text）的前提下，高效地将其扩展到支持图像、音频和视频等多模态输入，构建一个统一的跨模态嵌入空间，同时保持纯文本处理路径和输出完全不变。 方法核心：提出“冻结编码器模型组合”方法。核心是保持预训练的非文本编码器（Qwen3.5视觉编码器、Qwen2.5-Omni音频编码器）和文本嵌入主干（Jina Embeddings v5 Text）完全冻结，仅训练连接两者的轻量级投影层（fc_vision_2， fc_audio）和模态分隔符（如``等）的嵌入。训练参数仅占总参数的0.35%。 新颖之处：与现有需要微调语言模型或进行大规模联合训练的方法（如E5-V, Qwen3-VL-Embedding）不同，该方法首次在VLM风格架构中实现了完全冻结文本嵌入主干，从而确保对文本输入产生与原始文本模型完全一致的嵌入，实现了真正的“文本几何保持”。这是一种高效率、模块化、低风险的多模态扩展范式。 主要实验结果：在MIEB（图像）、MMEB-Video（视频）、MAEB（音频）、MMTEB（文本）等基准上，jina-embeddings-v5-omni-small（1.57B参数）的四模态平均分（53.93）略高于LCO-Embedding-Omni-3B（53.83），并远高于参数更多的LanguageBind（36.27）和Omni-Embed-Nemotron-3B（41.21）。其在文档检索（ViDoRe）上得分79.08，以仅0.92B活动参数表现强劲。但视频检索性能（27.82）明显落后于基线（如Qwen3-VL-Embedding-8B的58.73）。 实际意义：为现有的文本嵌入系统提供了一种低成本、低风险的工业级多模态升级路径，特别适合需要维护稳定文本向量索引（如RAG、企业搜索）的应用场景。开源的模型套件（Nano/Small，8个任务变体）推动了多模态嵌入生态的发展。 主要局限性：视频模态的性能（尤其是通用视频检索）显著落后于基线，论文承认这是未来工作重点；当前方法未探索联合训练多个投影器或更深入的模态融合；非文本编码器的选择探索不足。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：https://huggingface.co/collections/jinaai/jina-embeddings-v5-omni-67913f62f6539f77a8f022c5 数据集：论文中提及训练使用了混合数据集（图3），但未提供具体数据集名称、获取链接或开源协议。 Demo：论文中未提及。 复现材料： 论文描述了详细的训练配置：使用AdamW优化器，学习率2e-4，500步线性预热，全局梯度裁剪，bf16混合精度，4个NVIDIA H100 GPU上全局批大小为256，训练15,000步。对于消融实验，使用了更小的配置（5000步，批大小128）。 论文提到��发布8个任务特定变体，但未给出具体的检查点发布链接。 论文中引用的开源项目： Sentence-BERT: https://github.com/UKPLab/sentence-transformers E5-Mistral: https://huggingface.co/intfloat/e5-mistral-7b-instruct CLIP: https://github.com/openai/CLIP SigLIP / SigLIP2: https://github.com/google-research/big_vision ImageBind: https://github.com/facebookresearch/ImageBind LLaVA: https://github.com/haotian-liu/LLaVA BLIP-2: https://github.com/salesforce/LAVIS Qwen3.5 / Qwen3.65 视觉编码器: https://github.com/QwenLM/Qwen2.5-VL (论文基于其架构) Qwen2.5-Omni 音频编码器: https://github.com/QwenLM/Qwen2.5-Omni (论文基于其架构) Whisper: https://github.com/openai/whisper Matryoshka Representation Learning: https://github.com/Prithivida/MatryoshkaCL (论文引用了原始论文) Jina CLIP v1/v2: 具体模型权重见Jina AI官方。 其他被引用但未明确开源或未提供直接代码链接的项目（如LiT, Nomic Embed Vision, GTE-Qwen2, NV-Embed, EVA-CLIP等），在此不列出详细链接。 🏗️ 方法概述和架构 整体流程概述：本系统是一个模块化的多模态嵌入生成框架。对于任意输入（文本、图像、音频、视频），系统首先调用相应的冻结编码器（或直接处理文本token），然后通过可训练的投影层将非文本特征映射到文本嵌入模型的输入空间，最后将所有模态的特征序列化后输入冻结的文本Transformer，通过最后token池化和L2归一化得到统一的嵌入向量。核心原则是冻结所有预训练的编码器和文本模型，仅训练适配层。 ...

📄 OmniNFT: Modality-wise Omni Diffusion Reinforcement for Joint Audio-Video Generation #音视频生成 #强化学习 #流匹配 #多模态模型 ✅ 6.9/10 | 前25% | #音视频生成 | #强化学习 #流匹配 | #强化学习 #流匹配 | arxiv 学术质量 5.5/8 | 影响力 1.5/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 通讯作者：Feng Zhao（中国科学技术大学） 项目负责人：Lin Song（京东探索研究院） 作者列表：Guohui Zhang（中国科学技术大学）、Xiaoxiao Ma（中国科学技术大学）、Jie Huang（中国科学技术大学）、Hang Xu（中国科学技术大学）、Hu Yu（中国科学技术大学）、Siming Fu（京东探索研究院）、Yuming Li（北京大学）、Zeyue Xue（京东探索研究院）、Lin Song（京东探索研究院）、Haoyang Huang（京东探索研究院）、Nan Duan（京东探索研究院）、Feng Zhao（中国科学技术大学） 💡 毒舌点评 亮点：论文对联合音视频生成中应用强化学习（RL）时出现的“优化不匹配”问题（优势值不一致、梯度不平衡、信用分配均匀）进行了系统且令人信服的分析，提出的三个针对性解决方案（模态路由、梯度手术、区域重加权）逻辑自洽且有实验验证。 短板：本质上是将多个启发式技术组合到现有的流匹配扩散模型RL微调框架（DiffusionNFT）上，虽然有效，但创新性更偏向于工程优化和问题诊断，缺乏一个统一的理论视角或更根本的算法突破，使其听起来更像是一个“针对特定问题的实用补丁合集”。 📌 核心摘要 要解决什么问题：在使用强化学习（RL）对联合音视频生成模型进行后训练时，直接应用vanilla RL（如GRPO）会导致性能不佳。论文深入分析并指出了三大核心障碍：(i) 多目标优势值不一致（视频和音频的质量评价不总是相关）；(ii) 多模态梯度不平衡（视频分支梯度会干扰音频分支的浅层生成）；(iii) 均匀信用分配（忽略了音视频同步等关键区域的重要性差异）。 方法核心是什么：提出了OmniNFT框架，通过三个协同设计来解决上述问题：(1) 模态级优势路由：分别为视频质量、音频质量和音视频同步计算独立的优势值，并路由到对应的模型分支；(2) 层级梯度手术：在音频分支的浅层Transformer块中，有选择地切断（detach）来自视频分支的梯度，以保护其模态内生成功能；(3) 区域级损失重加权：利用音频分支中V2A交叉注意力图作为关键区域的代理，对损失进行空间上的重新加权，以强化重要区域的优化。 与已有方法相比新在哪里：据作者所知，这是首次系统性地探索将RL应用于联合音视频生成任务，并诊断了其特有的优化不匹配问题。相比于之前单模态（文本到图像/视频）的RL微调方法，OmniNFT的三个组件是专门针对多模态联合生成中的跨模态交互、梯度流和精细对齐问题而设计的。 主要实验结果如何：在JavisBench和VBench上，以LTX-2（19B参数）为骨干模型进行验证。 主实验（表1）：与基础LTX-2相比，OmniNFT在视觉质量（VQ: 2.038 -> 3.326, +63.2%）、音频质量（AQ: 5.197 -> 5.715, +10.0%）和音视频同步（DeSync: 0.569 -> 0.269, -52.7%）上均取得显著提升，整体表现优于同规模的LTX-2+GDPO基线。 消融实验（表3）：逐步添加三个组件，每个组件都带来了性能增益，特别是梯度手术显著提升了音频质量（AQ: 5.523 -> 5.917），区域重加权进一步优化了同步和一致性。 实际意义是什么：该方法为提升联合音视频生成模型的实用性能（高保真、强对齐、细同步）提供了一套有效的后训练方案，可能推动音视频生成技术在内容创作等领域的实际应用。 主要局限性是什么：方法依赖于预训练的双流扩散模型骨干（如LTX-2）和特定的多奖励模型；实验主要在单一骨干和两个基准上进行，泛化性有待进一步验证；部分设计（如层级分离阈值L、重加权系数λ）仍为经验性选择。 🔗 开源详情 代码：论文中未提及代码链接（论文仅提供了项目主页 https://zghhui.github.io/OmniNFT/，未提供代码仓库的GitHub等链接）。 模型权重：论文中未提及（论文提到使用LTX-2作为骨干网络进行实验，但未提供其预训练权重的具体下载链接；论文中提到的奖励模型如VideoAlign、HPSv3、Audiobox Aesthetics、CLAP等也未提供权重链接）。 数据集：论文中未提及（论文在实验中使用了JavisBench和VBench进行评估，但未提供这两个数据集的具体获取链接或开源协议）。 Demo：论文中未提及。 复现材料：论文中未提及（论文提供了一些默认超参数设置，如层边界 L=10，分离比率 αs=0.1，区域重加权强度 λ=1.50，采样组大小 G=8，但未提供完整的训练配置文件、检查点或详细附录）。 论文中引用的开源项目：论文中提及了以下开源项目或工具，但未在文中提供其具体链接。 LTX-Video (文中称 LTX-2)：用于联合音视频生成的骨干模型。 Wan：用于视频生成的项目。 DiffusionNFT：本文方法所基于的微调范式。 UniVerse-1：一种联合音视频生成方法。 JavisBench：用于评估联合音视频生成的基准测试集。 VBench：用于评估视频生成质量的基准测试集。 VideoAlign：用于视频质量评估的奖励模型。 HPSv3：用于视频质量评估的奖励模型。 Audiobox Aesthetics：用于音频质量评估的奖励模型。 CLAP：用于音视频-文本对齐评估的模型。 ImageBind (IB)：用于跨模态对齐评估的模型。 CLIP：用于文本-视频对齐评估的模型。 🏗️ 方法概述和架构 OmniNFT是一个针对联合音视频生成任务的模态感知在线扩散强化学习微调框架。它在预训练的双流扩散模型（如LTX-2）基础上进行优化，整体流程遵循标准的RL微调范式：采样生成、奖励评估、优势计算、策略优化。 ...

📄 AllocMV: Optimal Resource Allocation for Music Video Generation via Structured Persistent State #音乐视频生成 #资源分配 #优化 #多模态模型 #评估指标 📝 4.8/10 | 前50% | #音乐视频生成 | #资源分配 | #优化 #多模态模型 | arxiv 学术质量 4.8/8 | 影响力 0.5/2 | 可复现性 0.2/1 | 置信度 高 👥 作者与机构 第一作者：Huimin Wang (小米) 通讯作者：未说明 作者列表：Huimin Wang, Leilei Ouyang, Chang Xia, Yongqi Kang, Yu Fu, Yuqi Ouyang。根据论文作者列表，所有作者均隶属于小米（Xiaomi）。 💡 毒舌点评 这篇论文将长音乐视频生成中的资源分配问题形式化为MCKP，并引入“结构化持久状态”概念，尝试系统性地解决成本与一致性权衡问题，其提出的新评估指标CQR也具有启发性。然而，论文的核心贡献在很大程度上停留在概念和框架层面。“结构化持久状态”作为关键创新点，其具体生成算法和如何与生成模型交互的细节在正文中严重缺失，仅依赖于对闭源商业模型（Seedream， Seedance）的调用。这使得工作看起来更像是一个针对特定商业工具链的系统集成演示，而非一个可复现、可独立验证的方法论贡献。其实验评估规模（5首歌）极小，严重削弱了结论的可信度和泛化能力。 📌 核心摘要 这篇论文旨在解决长音乐视频（MV）生成中计算成本高昂以及跨镜头一致性难以保持的问题。核心方法是将MV生成任务形式化为一个“多选择背包问题”（MCKP），并提出了一个名为AllocMV的层级框架。与以往采用均匀资源分配的方法不同，AllocMV的核心创新在于引入了一个“结构化持久状态”，并在生成前通过全局规划器估计片段显著性，然后通过一个两阶段的动态规划算法在预算约束下，将每个片段最优分配到高保真生成（High-Gen）、中等保真生成（Mid-Gen）或复用（Reuse）分支。实验在一个自建的5首歌曲基准上进行，主要结果如表1所示： 方法 BeatAlign ↑ CQR ↑ CLIP ↑ Motif ↑ Cost ↓ MuseV 0.0831±.021 0.2083±.028 0.2512±.019 0.8812±.024 3.04±.19 VideoComposer 0.1024±.024 0.2210±.031 0.2318±.022 0.8754±.026 3.15±.21 AutoMV 0.0960±.023 0.4697±.036 0.3222±.017 0.8521±.029 3.25±.22 AllocMV (Ours) 0.6679±.039 0.7586±.034 0.3014±.018 0.9984±.0008 1.69±.10 结果显示，AllocMV在节奏对齐（BeatAlign）和成本-质量比（CQR）上显著优于所有基线，同时大幅降低了成本（与最强基线AutoMV相比降低约48%）。其实际意义在于为结构化视频生成提供了一个资源优化调度的框架。主要局限是评估规模非常小（仅5首歌），且框架中多个关键组件（如持久状态的生成）高度依赖未开源的商业模型，限制了其可复现性和普适性验证。 ...

📄 EAR: Enhancing Uni-Modal Representations for Weakly Supervised Audio-Visual Video Parsing #音频事件检测 #多模态模型 #跨模态 #弱监督学习 📝 5.8/10 | 前25% | #音频事件检测 | #多模态模型 | #跨模态 #弱监督学习 | arxiv 学术质量 5.8/8 | 影响力 1.0/2 | 可复现性 0.4/1 | 置信度 高 👥 作者与机构 第一作者：Huilai Li（北京邮电大学智能工程与自动化学院） 通讯作者：Jianqin Yin（北京邮电大学智能工程与自动化学院） 作者列表： Huilai Li（北京邮电大学智能工程与自动化学院） Xiaomeng Di（国家电网有限公司） Ying Xing（北京邮电大学智能工程与自动化学院） Yonghao Dang（北京邮电大学人工智能学院） Yiming Wang（北京邮电大学智能工程与自动化学院） Jianqin Yin（北京邮电大学智能工程与自动化学院，通讯作者） 💡 毒舌点评 这篇论文精准地切中了现有弱监督音视频视频解析（AVVP）方法的一个痛点：在追求多模态融合时，反而可能损害了对单模态事件本身准确感知的能力。提出的EAR框架从伪标签生成器预训练和最终解析模型两个阶段入手，试图“补课”增强单模态表示，思路清晰且有实效。实验上确实在AVVP基准上取得了当前最佳结果，尤其是伪标签质量的提升令人印象深刻。然而，其核心的“基于相似性的标签迁移”本质上是一种依赖外部预训练模型（CLIP/CLAP）特征质量的启发式增强手段，阈值敏感且易引入噪声（尤其在视觉模态），其“创新”更偏向于针对特定数据集的精巧工程调优，而非对弱监督学习本身方法论的突破。整体看，这是一篇扎实、完整的系统性工作，但理论深度和方法的普适性有提升空间。 📌 核心摘要 要解决的问题：弱监督音视频视频解析（AVVP）任务中，现有方法主要沿着两个方向发展：生成高质量伪标签以提供更细粒度的跨模态监督，或设计更复杂的AVVP模型架构以增强多模态融合。然而，由于音频和视觉信号通常未对齐，准确解析视频根本上依赖于对单模态事件的精确感知。这些多模态聚焦的策略过度强调跨模态融合，而未能充分引导和保留单模态语义，导致生成的伪标签噪声较大，最终视频解析性能次优。 方法核心：提出增强单模态表示（EAR）框架，旨在同时优化伪标签生成器和AVVP模型。(1) 在伪标签生成器预训练阶段，引入基于单模态特征相似性的标签迁移方法，将大规模DAVE数据集上的音视频事件标注转化为伪单模态事件标注，为生成器提供显式的单模态监督；同时采用非对称时序建模架构以更好地聚焦于单模态事件的动态关系。(2) 在AVVP模型训练阶段，采用软约束方式，设计非对称音/视觉驱动融合模块和多事件关系建模模块，在融合过程中保护单模态语义信息。 与已有方法相比新在哪里：明确将“增强单模态表示”作为提升AVVP的核心目标，而非仅仅关注多模态融合或跨模态对齐。具体的实现手段——基于相似性的标签迁移和软约束模型架构——旨在更协调地平衡单模态与多模态事件的关注，这与以往主要关注对称融合或忽略单模态独立建模的方法有本质区别。 主要实验结果： 在AVVP基准LLP数据集上，EAR在伪标签生成和最终解析性能上均达到SOTA。 使用VGGish+ResNet特征时，整体平均性能（Event Level Avg.）比当前SOTA方法UWAV高0.9%，达到63.7%；使用CLIP+CLAP特征时，高1.2%，达到67.4%。 生成的伪标签质量（测试集平均性能）比VALOR和UWAV分别高出3.8%和2.9%。 大量的消融实验验证了标签迁移（LM）、非对称融合（AMDF）、多事件关系建模（ERM）以及各损失函数的有效性。 实际意义：为弱监督时序定位任务（如AVVP、动作定位）提供了一种新的视角，即通过显式增强单模态表示来提升整体性能。其生成的高质量伪标签具有公开共享的价值，可作为未来AVVP研究的强基线。 主要局限性：基于相似性的标签迁移是启发式的，其有效性高度依赖于预训练模型（CLIP/CLAP）的特征质量和相似度阈值的设定。特别是在视觉模态，相似的视觉片段可能包含不同事件，导致迁移的标签引入噪声，这解释了为何论文中视觉模态的性能提升不如音频模态明显。方法性能上限受上游预训练模型特征提取能力制约。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集： UnAV-100：用于伪标签生成器预训练的密集音视频事件定位数据集。论文中未提供直接下载链接，但可通过其原始论文[13]中提供的项目页面获取信息。 LLP (Look, Listen, and Parse)：用于评估音视频视频解析性能的基准数据集。论文中未提供直接下载链接，但该数据集为AVVP任务的标准评测集，可通过其原始论文[46]获取信息。 Demo：论文中未提及。 复现材料：论文的补充材料（Supplementary Material） 提供了训练配置、损失函数细节、参数消融实验结果等信息，可用于复现。论文中提到生成的细粒度伪标签将公开发布，但未提供发布时的具体链接。 论文中引用的开源项目： CLIP：用于提取视觉和文本特征的预训练模型。论文中给出了其GitHub仓库链接： https://github.com/openai/CLIP CLAP：用于提取音频和文本特征的预训练模型。论文中给出了其论文链接（作为其开源实现的间接指代）： https://arxiv.org/abs/2206.04769 ResNet-152：用于提取视觉特征的预训练骨干网络。 3D ResNet：用于提取视觉特征的预训练骨干网络。 VGGish：用于提取音频特征的预训练骨干网络。 🏗️ 方法概述和架构 图2：EAR框架总览。Stage 1利用DAVE数据集进行伪标签生成器的预训练，Stage 2在目标数据集（LLP）上生成伪标签，Stage 3使用生成的伪标签和软约束模型进行AVVP训练。图中清晰展示了数据从原始视频到特征提取、标签迁移、伪标签生成、再到最终解析模型训练的完整流水线。 ...