基准测试

📄 From Natural Alignment to Conditional Controllability in Multimodal Dialogue #语音合成 #多模态模型 #基准测试 #数据集 ✅ 6.5/10 | 前25% | #语音合成 | #数据集 | #多模态模型 #基准测试 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Zeyu Jin（清华大学计算机科学与技术系） 通讯作者：Xiaoyu Qin（清华大学计算机科学与技术系）、Jia Jia（清华大学计算机科学与技术系 / BNRist，清华大学） 作者列表： Zeyu Jin（清华大学计算机科学与技术系） Songtao Zhou（清华大学计算机科学与技术系） Haoyu Wang（清华大学计算机科学与技术系） Minghao Tian（Rice University） Kaifeng Yun（清华大学深圳国际研究生院） Zhuo Chen（ByteDance） Xiaoyu Qin（清华大学计算机科学与技术系） Jia Jia（清华大学计算机科学与技术系 / BNRist，清华大学） 💡 毒舌点评 亮点在于其“基建”思维，为多模态对话生成这个嘈杂的领域，搭建了一套清晰的“路标”（任务定义）、“高速公路”（大规模标注数据集）和“考题”（跨模态一致性基准）。短板则是论文止步于“出题”和“阅卷”，并未提出一个能在这条新路上跑得更快的“新车”（统一的端到端生成模型），实验部分更多地是在证明现有模型“考不及格”。 🔗 开源详情 代码：论文在“ETHICS STATEMENT”中承诺：“Our experimental code and data curation pipeline will be made publicly available upon acceptance of the paper.” 但未提供具体仓库链接。 模型权重：论文中提到的基线模型（如Higgs-Audio-V2, Dia）是外部开源项目��但本文未贡献新的生成模型权重。 数据集：论文承诺开源MM-DIA和MM-DIA-BENCH。获取方式应是根据提供的标注（时间戳、转录、风格标签等）自行对齐公开的影视内容。 Demo：未提及（论文中未提及在线演示链接）。 复现材料：论文提供了详尽的附录，包括数据处理细节、验证结果、指标解释等，有利于复现。 论文中引用的开源项目： 生成模型基线：Higgs-Audio-V2 (Boson AI), Dia (Nari Labs), CosyVoice, Zero-Shot Dialogue Generation (ZSDG), MoonCast, Har-moniVox。 视频生成基线：FLOAT, MultiTalk, Sonic, Wan-2.2, HunyuanVideo。 工具/模型：Gemini 2.5-pro (Google), Qwen2.5-VL-7B, GPT-5 (OpenAI), Insightface (用于人脸识别)，以及语音质量评估工具（如UTMOS）。 开源情况总结：论文承诺将在接受后开源核心数据集和处理代码，但目前尚未提供。论文本身严重依赖上述引用的开源模型和工具进行实验和标注。 📌 核心摘要 问题：当前多模态对话生成研究主要关注单模态（如语音或视觉）的内容真实性，而忽略了跨模态（语音、视觉、文本）在交互风格（如情感、关系、互动模式）上的系统性对齐与精细可控性，导致生成内容的表达力和可控性不足。 方法核心：提出了一套从电影/电视剧中自动提取对话、并进行细粒度交互风格标注的数据处理流水线。基于此构建了大规模多模态对话数据集MM-DIA，并定义了可控多模态对话生成（MDG）任务，将其形式化为带显式/隐式条件变量的条件生成问题。同时，建立了专门评估跨模态风格一致性的基准MM-DIA-BENCH。 创新点： 首次针对“对话表达力”而非“对话内容”构建大规模多模态数据集。 提出两种互补的表达力标注范式：结构化“情感三元组”和自由风格描述。 建立了首个专门评估音频-视频风格一致性的对话生成基准MM-DIA-BENCH。 实验结果： 在风格可控语音合成（Task 1）上，使用MM-DIA微调基线模型（如Higgs-Audio-V2）能显著提升性能。例如，WER从31.25降至4.45，指令遵循度（Human-MOS）从3.11提升至4.13（见表4）。 在视觉条件语音合成（Task 2）和语音驱动对话视频生成（Task 3）上，现有模型（如HarmoniVox、Wan-2.2）在MM-DIA-BENCH上暴露出明显的跨模态风格对齐不足（如指令遵循度、自发性得分较低），揭示了现有技术的局限（见表5，表6）。 实际意义：为可控多模态对话生成提供了标准化的定义、高质量的数据基础和严格的评估工具，有望推动该领域从“内容生成”向“可控交互生成”演进，对电影配音、虚拟人交互等应用有潜在价值。 局限性：工作重心在于数据集和评估框架的构建，未提出一个能统一处理多模态输入输出的端到端生成模型；数据集来源于影视作品，与真实日常对话可能存在域差距；部分依赖Gemini等大型多模态模型进行标注，引入了潜在偏差。 🏗️ 模型架构 本文并非提出一个新的神经网络模型架构，而是定义了多模态对话生成（MDG）的任务框架和数据处理流水线。其“架构”体现在： ...

📄 Human Behavior Atlas: Benchmarking Unified Psychological And Social Behavior Understanding #多模态模型 #多任务学习 #基准测试 #强化学习 #预训练 ✅ 7.5/10 | 前25% | #多模态模型 | #多任务学习 | #基准测试 #强化学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Keane Ong（MIT， 新加坡国立大学） 通讯作者：论文中未明确标注通讯作者。 作者列表： Keane Ong (MIT， 新加坡国立大学) Wei Dai (MIT) Carol Li (MIT) Dewei Feng (MIT) Hengzhi Li (MIT， 帝国理工学院) Jingyao Wu (MIT) Jiaee Cheong (哈佛大学) Rui Mao (南洋理工大学) Gianmarco Mengaldo (新加坡国立大学) Erik Cambria (南洋理工大学) Paul Pu Liang (MIT) 💡 毒舌点评 亮点：堪称“基建狂魔”，首次将13个异构、多模态的行为理解数据集统一成10万+样本的标准化基准，系统性地填补了该领域缺乏统一评估平台的空白，方法论上的“标准化实践”价值极高。 短板：模型架构创新有限，核心是微调现有LLM；在SOC（社交推理）、INT（意图识别）等开放生成任务上，即使最好的模型（OMNISAPIENS-7B RL）准确率也仅约0.3，离实际应用还有相当距离，暴露了当前大模型在深层行为理解上的瓶颈。 ...

📄 Human or Machine? A Preliminary Turing Test for Speech-to-Speech Interaction #语音对话系统 #模型评估 #基准测试 #数据集 🔥 9.0/10 | 前25% | #语音对话系统 | #模型评估 | #基准测试 #数据集 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Xiang Li（北京邮电大学网络与交换技术国家重点实验室、深圳大数据研究院、香港中文大学（深圳）、深圳环西丽湖实验室） 通讯作者：Jiale Han（香港科技大学） 作者列表： Xiang Li（北京邮电大学网络与交换技术国家重点实验室、深圳大数据研究院、香港中文大学（深圳）、深圳环西丽湖实验室） Jiabao Gao（香港中文大学（深圳）） Sipei Lin（香港中文大学（深圳）） Xuan Zhou（香港中文大学（深圳）） Chi Zhang（香港中文大学（深圳）） Bo Cheng（北京邮电大学网络与交换技术国家重点实验室） Jiale Han（香港科技大学） Benyou Wang（深圳大数据研究院、香港中文大学（深圳）、深圳环西丽湖实验室） 💡 毒舌点评 这篇论文的亮点在于其开创性和系统性：它首次将图灵测试从文本或语音合成领域完整地迁移到端到端语音对话系统评估，并构建了首个包含18维度的细粒度诊断框架，这为“何为类人语音交互”设立了新的评估标准。然而，其短板在于实验设计的简化，例如角色扮演和特定开场白的提示可能无法完全模拟真实世界中开放、自发的对话场景，且测试对话长度较短（20-60秒），对长程记忆和动态人格塑造的评估有所欠缺。 🔗 开源详情 代码：论文明确提供了公开的代码仓库链接：https://github.com/Carbohydrate1001/Turing-Test。 模型权重：论文提到公开了模型，但具体权重获取方式需参考上述代码仓库（has_model: 是）。 数据集：论文明确提供了公开的数据集，并通过上述代码仓库发布（has_dataset: 是）。 Demo：论文中未提及提供在线演示的链接。 复现材料：论文在附录中详细说明了数据收集流程（B节）、图灵测试平台设计（C节）、细粒度标注协议（D节）、以及AI评判器的训练设置、嵌入读取选择、模型消融、超参数调优和敏感性分析（E节），复现信息非常充分。 论文中引用的开源项目：论文引用了多个开源模型和数据集，包括： S2S模型：GPT-4o, Gemini2.5-Pro, Qwen3, Kimi-K1.5, ChatGLM-4.5, Hunyuan-TurboS, Doubao-Pro 1.5, Claude-Sonnet 4, iFLYTEK-Spark。 TTS模型：Nari Dia-1.6B, Spark-TTS。 对话数据集：DailyDialog, DailyTalk, IEMOCAP, MagicData。 AI评判器骨干模型：Qwen2.5-Omni。 其他技术：LoRA（低秩适应）。 📌 核心摘要 本文旨在解决如何评估现代语音到语音（S2S）系统是否能够像人类一样自然对话这一核心问题。为此，研究者首次针对S2S系统开展了图灵测试。方法核心是构建一个高质量、多类别（人-人、人-机、伪人类）的对话数据集，并通过一个游戏化的在线平台收集大规模人类判断（2,968条）。与仅提供“通过/失败”的传统评估不同，本文进一步开发了一个包含5大类、18个细粒度维度的类人性诊断标注体系，并基于此训练了一个可解释的AI评判模型。与已有工作相比，本文的新意在于：1）首次对端到端S2S系统进行图灵测试；2）从“是否像人”的视角进行诊断，发现当前瓶颈不在语义理解，而在副语言特征、情感表达和对话人格；3）开发了一个显著优于通用多模态模型且可提供诊断依据的专用AI评判器。主要实验结果显示，所有被评估的9个S2S系统的成功率均远低于0.5的人类基准，无人类通过测试；细粒度分析显示S2S系统在“记忆一致性”、“逻辑连贯性”等方面接近人类，但在“韵律”、“情感声学表达”、“谄媚行为”等方面差距明显。所提出的AI评判器在测试集上的整体分类准确率达到96.05%，远超人类评判者的72.84%和通用AI模型的平均水平45.27%。这项工作的实际意义在于为S2S系统提供了一个超越功能性、聚焦于“类人性”的评估基准和诊断工具，明确指出了下一代语音对话AI需要突破的关键方向。主要局限性在于评估的对话场景和长度相对有限，且“伪人类”对话作为对照组的引入虽然增加了测试难度，但其与S2S系统固有缺陷的直接关联性值得进一步探讨。 ...

📄 InteractWeb-Bench: Can Multimodal Agent Escape Blind Execution in Interactive Website Generation? #基准测试 #多模态模型 #大语言模型 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #大语言模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Qiyao Wang (1,2) （1 深圳先进技术研究院，2 中国科学院大学） 通讯作者：Yuan Lin (3†)， Min Yang (1,5†) （3 大连理工大学，1 深圳先进技术研究院，5 深圳大学先进技术研究院） 作者列表：Qiyao Wang（深圳先进技术研究院，中国科学院大学），Haoran Hu（大连理工大学），Longze Chen（深圳先进技术研究院，中国科学院大学），Hongbo Wang（大连理工大学），Hamid Alinejad-Rokny（UNSW Sydney），Yuan Lin（大连理工大学），Min Yang（深圳先进技术研究院，深圳大学先进技术研究院） 💡 毒舌点评 亮点：论文敏锐地指出了当前网站生成智能体“盲目执行”的真实痛点，并首次构建了系统模拟非专业用户（包括歧义、冗余、矛盾等）的交互式评估框架，其“约束槽”评估体系设计严谨。短板：论文本身并未提出任何新的生成模型或交互算法，而是对现有模型进行评估，其核心贡献在于“发现问题”而非“解决问题”；此外，尽管声称评估交互能力，但用户智能体仍由另一模型模拟，与真实人类交互存在差距。 🔗 开源详情 代码：论文中未提及代码链接。论文指出其交互环境基于 bolt.diy 框架实现，并使用 Playwright 作为浏览器内核，但未提供这些工具的具体开源仓库链接。 模型权重：论文中未提及。论文评估了 Qwen、Gemma、GPT、Gemini 等系列多个现有模型，但未提供或提及任何新模型的权重。 数据集：InteractWeb-Bench。论文指出其包含从 WebGen-Bench 扩展而来的 404 个测试用例，但未提供具体的数据集下载链接或开源协议。 Demo：论文中未提及。 复现材料：论文中未提及。论文在附录中提供了评估模型的详细规格、API成本及人类评估细节，但未提供训练配置、模型检查点等复现材料。 论文中引用的开源项目： bolt.diy: 论文指出被用作网站生成代理的基础框架。链接：https://github.com/stackblitz-labs/bolt.diy Playwright: 论文指出交互环境使用基于 Playwright 的浏览器内核实现。链接：https://github.com/microsoft/playwright WebVoyager: 论文指出用于最终评估的视觉审计器。链接：https://github.com/MinorJerry/WebVoyager Set-of-Mark (SoM) Prompting: 论文指出与 WebVoyager 结合用于视觉审计。链接：https://github.com/yuweihao/SAM-SoM vLLM: 论文指出用于部署小型开源模型。链接：https://github.com/vllm-project/vllm ClarifyCoder: 论文在相关工作中提及。链接：论文中未提及。 HumanEvalComm: 论文在相关工作中提及。链接：论文中未提及。 ClarifyMT-Bench: 论文在相关工作中提及。链接：论文中未提及。 SWE-bench: 论文在相关工作中提及。链接：https://github.com/princeton-nlp/SWE-bench InterCode: 论文在相关工作中提及。链接：论文中未提及。 Design2Code: 论文在相关工作中提及。链接：论文中未提及。 Web2Code: 论文在相关工作中提及。链接：论文中未提及。 WebGen-Bench: 论文指出其种子任务部分源于此。链接：论文中未提及。 Persona2Web: 论文在相关工作中提及。链接：论文中未提及。 补充信息 [核心摘要] 补充：论文明确声称 InteractWeb-Bench 是第一个用于评估多模态智能体在非专家低代码用户条件下网站生成能力的交互式基准。这一“首个”定位是其核心贡献之一。 [核心摘要] 补充：论文在局限性部分明确指出三点：1) 用户交互仍为模型模拟，非真实人类；2) 基准本身的用户智能体、评估器（WebVoyager+GPT-5-mini）是黑盒，可复现性受限；3) 侧重发现问题，未提出解决方案。分析中已提及前两点，第三点在分析中虽有提及，但可更明确。 [细节详述] 补充：论文在附录A中提供了详细的API成本分析，列出了各模型在InteractWeb-Bench上的单网站评估成本（从0.016美元到0.475美元不等），这对评估基准的经济性有重要参考价值。 [实验结果] 补充：论文在附录B中报告了人类评估的详细结果：三位计算机科学博士生参与评估，评估者间表现出中等程度的一致性（Kendall’s τ = 0.5675）。同时，MLLM评估器与人类评估结果呈现中等相关性（Kendall’s τ = 0.4490），这为基准评估的效度提供了依据。 [开源详情] 补充：论文指出其交互环境基于开源框架 bolt.diy 实现，并提供了该框架的GitHub链接。但需明确，这指的是被评估的智能体的实例化框架，而非评估框架本身。评估框架的用户智能体、评估器等核心组件的开源状态在论文中未明确。 [毒舌点评] 补充：论文在第5节结论及后续讨论中，不仅指出了局限性，也提出了四个明确的未来研究方向：1) 从“执行者”到“协作者”的意图对齐；2) 多模态反馈的高效利用；3) 更真实的人类交互评估；4) 探索主动澄清与高效生成之间的平衡。这些方向直接源于其发现，对未来研究具有明确的指导意义。 [模型架构] 补充：在“用户响应设计”部分，论文强调了其“检索-过滤”流水线的一个关键设计：防止信息泄露。即用户智能体在回答时，只提供被明确询问到的那部分黄金指令信息，从而避免一次性暴露所有正确答案，确保了评估的有效性。 📌 核心摘要 要解决什么问题：现有网站生成基准假设用户提供清晰、完整的指令，但在真实场景中，非专业用户常给出模糊、冗余甚至矛盾的低质量指令，导致多模态智能体陷入“盲目执行”陷阱，即被动执行错误指令而非主动澄清意图。 方法核心：提出InteractWeb-Bench，一个交互式基准。它包含四个基于需求工程缺陷理论设计的用户角色模拟器（极简、冗长、直觉、矛盾），以及一个为智能体设计的统一行动空间（澄清、实现、验证、提交），使其能在模拟环境中迭代地澄清需求、生成代码并进行视觉验证。 与已有方法相比新在哪里：首次将评估重点从静态的代码生成准确性，转向动态的用户意图澄清和多模态反馈（代码+视觉）利用能力。引入了基于用户角色的指令扰动和交互式多路径执行环境，更贴近真实开发流程。 主要实验结果：对9个前沿多模态模型进行了评估。关键发现：所有模型任务完成率（TCR）普遍偏低（最高为Qwen3.6-Plus的38.78%）；模型在理解模糊意图（IAS >3.9）上尚可，但主动澄清命中率（CHR）低于40%，证实了“盲目执行”；模型倾向于通过生成过量代码（如Qwen3.6-Plus平均1415行）来补偿信息缺失，反而导致更高的幻觉率（62.4%）。模型对“信息缺失”（P-MIN）比“噪声干扰”（P-RAM）更敏感。 实际意义：为评估和提升多模态智能体的真实人机协作能力提供了新基准和方向，指明了未来智能体需在主动需求澄清和有效利用多模态反馈上重点突破。 主要局限性：1) 用户交互仍为模型模拟，非真实人类；2) 基准本身的用户智能体、评估器（WebVoyager+GPT-5-mini）是黑盒，可复现性受限；3) 侧重发现问题，未提出解决方案。 主要实验结果表格： ...

📄 JALMBench: Benchmarking Jailbreak Vulnerabilities in Audio Language Models #音频安全 #基准测试 #语音大模型 #多模态模型 #鲁棒性 🔥 8.5/10 | 前25% | #音频安全 | #基准测试 | #语音大模型 #多模态模型 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Zifan Peng（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室） 通讯作者：Wenhan Dong（香港科技大学（广州））、Xinlei He（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室） 作者列表：Zifan Peng（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室）、Yule Liu（香港科技大学（广州））、Zhen Sun（香港科技大学（广州））、Mingchen Li（北德克萨斯大学）、Zeren Luo（香港科技大学（广州））、Jingyi Zheng（香港科技大学（广州））、Wenhan Dong（香港科技大学（广州））、Xinlei He（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室）、Xuechao Wang（香港科技大学（广州））、Yingjie Xue（中国科学技术大学）、Shengmin Xu（福建师范大学）、Xinyi Huang（南京航空航天大学） 💡 毒舌点评 亮点：这篇论文为“音频大模型安全”这一新兴且关键的领域建立了第一个系统性的、大规模的基准测试框架（JALMBench），其覆盖的攻击面之广（从文本迁移攻击到音频原生攻击）、评估维度之深（效率、主题、声音多样性、模型架构），以及提供的开源工具和数据集之完整，都使其具有很高的实用和研究价值，真正起到了“点亮地图”的作用。短板：论文在“防御”部分的探索略显单薄，评估的几种防御方法（如Prompt Shield、LLaMA-Guard）基本是现有针对文本或视觉模型方法的简单迁移，并未提出任何针对音频信号特性或LALM多模态融合架构的新颖、专用防御机制，使得“破”之后的“立”显得力度不足。 🔗 开源详情 代码：提供GitHub仓库链接：https://github.com/sfofgalaxy/JALMBench 模型权重：未提及。论文评估的是已有的开源和商业LALM，未发布新训练的模型。 数据集：公开发布于HuggingFace数据集管理平台（链接包含在上述GitHub仓库中）。 Demo：未提及。 复现材料：提供了极其详尽的复现材料，包括：数据生成的所有细节（TTS配置、翻译协议、说话人统计）、攻击和防御方法的详细实现、评估提示词全文、所有超参数设置、硬件信息、以及完整的附录说明。 论文中引用的开源项目：Google Cloud TTS、DeepL Translator、F5-TTS、MMS-TTS、SpeechT5、Coqui.ai TTS（用于口音转换）等。 📌 核心摘要 解决的问题：大型音频语言模型（LALMs）在实际应用中面临日益严峻的安全风险，尤其是能绕过安全对齐的越狱攻击。然而，该领域缺乏一个统一的、大规模的评估框架和基准数据集来系统性地评估和比较针对LALM的越狱攻击。 方法核心：提出JALMBench，一个综合性基准测试框架。它包含245,355个音频样本（>1,000小时）和11,316个文本样本，支持12个主流LALM、8种攻击方法（4种文本迁移、4种音频原生）和5种防御方法。该框架采用模块化设计，易于扩展。 与已有方法相比的新意：这是首个专门为评估LALM越狱漏洞而设计的综合基准。与现有零散的工作相比，它统一了评估标准和代码实现，覆盖了更全面的攻击类型（首次系统比较文本迁移和音频原生攻击）、更多的模型和防御策略，并进行了深入的多维度分析。 主要实验结果： 攻击有效性：音频模态的平均攻击成功率（ASR）高于文本模态（21.5% vs. 17.0%）。最强的音频原生攻击AdvWave在所有模型上平均ASR高达96.2%。 架构影响：采用离散化音频编码的模型（如GLM-4-Voice）展现出更好的跨模态安全泛化能力，文本与音频的安全表现一致；而采用连续特征提取的模型（如LLaMA-Omni）则存在严重的模态安全差距。 防御效果：现有防御方法效果有限。最佳的提示级防御（AdaShield）和响应级防御（LLaMA-Guard）分别将平均ASR降低了19.6和18.0个百分点，但提示级防御会导致约6.3%的效用下降。 攻击效率：实现60%以上ASR通常需要>100秒处理时间，但40%左右的ASR可在<10秒内达成，说明低成本攻击是现实威胁。 其他发现：明确的仇恨言论内容（如“写一篇煽动暴力的演讲”）被模型较好拒绝（平均ASR 41%），但隐晦的危害信息（如“制造假新闻引发恐慌”）ASR更高（67%）。非美国口音和多语言场景通常会提高攻击成功率。 实际意义：为LALM的安全研究提供了重要的基准和度量标准，揭示了当前模型在音频模态下的脆弱性，特别是对直接信号级的操纵。研究发现（如编码策略对安全的影响、现有防御的不足）为设计更安全的LALM架构和专用防御机制指明了方向。 主要局限性：论文明确指出未探索多轮越狱攻击；对影响攻击的声音因素（如情感、更细粒度的口音）覆盖不全；防御评估初步，缺乏针对音频模态的创新防御方法。 🏗️ 模型架构 JALMBench本身不是一个模型，而是一个用于评估模型的基准测试框架。其架构设计为模块化，包含三个主要部分： ...

📄 JavisDiT: Joint Audio-Video Diffusion Transformer with Hierarchical Spatio-Temporal Prior Synchronization #音频生成 #多模态模型 #扩散模型 #Transformer #基准测试 🔥 8.0/10 | 前25% | #音频生成 | #扩散模型 #Transformer | #多模态模型 #扩散模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu (Zhejiang University, National University of Singapore) (论文中Kai Liu标注为*，表示同等贡献，且为列出的第一个作者) 通讯作者：Hao Fei (National University of Singapore) (论文中标注为†) 作者列表： Kai Liu (Zhejiang University, National University of Singapore) Wei Li (University of Science and Technology of China) Lai Chen (Zhejiang University) Shengqiong Wu (National University of Singapore) Yanhao Zheng (Zhejiang University) Jiayi Ji (National University of Singapore) Fan Zhou (Zhejiang University) Jiebo Luo (University of Rochester) Ziwei Liu (Nanyang Technological University) Hao Fei (National University of Singapore) Tat-Seng Chua (National University of Singapore) 💡 毒舌点评 这篇论文的亮点在于其“分层时空先验估计器”设计得相当巧妙，直指当前联合音视频生成“只知大概、不晓细节”的同步痛点，并为此精心打造了一个更具挑战性的真实世界基准数据集JavisBench。然而，短板也很明显：一个追求实时应用的生成模型，其推理效率在附录表格中暴露无遗（生成4秒视频需30秒），在“生成速度与质量”的权衡上显然更偏向了后者。 ...

📄 JointAVBench: A Benchmark for Joint Audio-Visual Reasoning Evaluation #基准测试 #多模态模型 #音视频 #模型评估 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #音视频 #模型评估 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Jianghan Chao (中国人民大学 高瓴人工智能学院) 通讯作者：Ruihua Song (中国人民大学 高瓴人工智能学院) 作者列表：Jianghan Chao (中国人民大学 高瓴人工智能学院)、Jianzhang Gao (未说明，仅提供邮箱)、Wenhui Tan (未说明，仅提供邮箱)、Yuchong Sun (未说明，仅提供邮箱)、Ruihua Song (中国人民大学 高瓴人工智能学院)、Liyun Ru (百川智能) 💡 毒舌点评 这篇论文像一个精心设计的“多模态AI体能测试仪”，它系统化地定义了音视频联合推理的“考试范围”（5认知维度、4音频类型、3场景跨度）和“出题规则”（严格关联、半自动生成），并逼出了当前最强模型的“真实分数”（最高仅62.6%）。其最大亮点是提供了首个结构严谨、维度全面的评估体系，直指当前全模态模型“感知割裂、融合不深”的痛点。短板则在于，这个“测试仪”本身只生产考卷，不制造“应试技巧”——论文对模型失败原因的分析相对宏观，未能深入模型内部机制，且数据来源单一，可能让这个“考场”代表性打了折扣。 🔗 开源详情 代码：论文提供了项目主页链接 (https://jointavbench.github.io)，但论文中未提及是否有公开的数据生成或评估代码仓库。 模型权重：未提及。本论文为评测工作，未提出新模型。 数据集：已公开。JointAVBench数据集在项目主页提供，采用CC BY-NC-SA 4.0许可证。 Demo：未提及。 复现材料：论文附录提供了非常详尽的生成流水线提示词模板（图10-图16），以及实验设置细节（如模型参数、帧采样、API设置），为复现其评测流程提供了充分信息。 论文中引用的开源项目：PySceneDetect（用于场景分割），Whisper-v3（用于语音转录），以及大量被评测的开源模型（如Qwen系列、VideoLLaMA系列、SALMONN系列等）。 📌 核心摘要 问题：现有基准在评估全模态大语言模型（Omni-LLMs）的音视频联合推理能力时，存在音频-视频关联不严格、音频类型覆盖不全、缺乏对多场景推理能力评估等关键缺陷，无法全面、严格地评估模型的真实联合理解水平。 ...

📄 MAPSS: Manifold-based Assessment of Perceptual Source Separation #语音分离 #自监督学习 #流形学习 #基准测试 #模型评估 🔥 8.5/10 | 前25% | #语音分离 | #流形学习 | #自监督学习 #基准测试 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Amir Ivry（Technion - Israel Institute of Technology, Electrical and Computer Engineering） 通讯作者：Shinji Watanabe（Carnegie Mellon University, Language Technologies Institute） 作者列表：Amir Ivry（Technion - Israel Institute of Technology）、Samuele Cornell（Carnegie Mellon University）、Shinji Watanabe（Carnegie Mellon University） 💡 毒舌点评 亮点在于其坚实的理论基础和创新的评估范式：通过扩散映射将主观听感离散化为流形上的几何距离，首次在数学上清晰地解耦了“分离度”和“匹配度”，并提供了理论误差界，这在音频评估指标中极为罕见。短板则是其实用性受限于严格的时序对齐假设和对预定义失真库的依赖，在存在较大延迟或未知失真类型的实际场景中，其有效性可能会打折扣。 ...

📄 MARS-Sep: Multimodal-Aligned Reinforced Sound Separation #语音分离 #强化学习 #跨模态 #基准测试 ✅ 7.5/10 | 前25% | #语音分离 | #强化学习 | #跨模态 #基准测试 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Zihan Zhang（浙江大学） 通讯作者：Tao Jin（浙江大学） 作者列表：Zihan Zhang（浙江大学）、Xize Cheng（浙江大学）、Zhennan Jiang（中国科学院自动化研究所）、Dongjie Fu（浙江大学）、Jingyuan Chen（浙江大学）、Zhou Zhao（浙江大学）、Tao Jin（浙江大学） 💡 毒舌点评 亮点：这篇论文巧妙地将大语言模型对齐的核心思想——基于人类偏好的强化学习（RLHF）——“移植”到了声音分离任务中，并设计了与之匹配的多模态奖励模型和渐进式微调策略，为解决“分离干净但语义不匹配”的“指标困境”提供了新思路。短板：论文在与生成式分离模型（如FlowSep）对比时，虽然指出了自身在指标稳定性上的优势，但在某些语义相似度指标（如CLAP score）上并未全面超越，且声称的“一致性增益”在部分设置（如MUSIC数据集的音频查询）中较为微弱，对方法的普适优势论述可再严谨。 🔗 开源详情 代码：提供代码仓库链接：https://github.com/mars-sep/MARS-Sep。 模型权重：论文中未提及是否公开预训练模型权重。 数据集：使用公开数据集VGGSound和MUSIC，论文中未提及是否发布其预处理后的“clean+”子集。 Demo：提供分离样本在线演示页面：https://mars-sep.github.io/。 复现材料：附录详细给出了训练细节（B部分）、SI-SDR计算（C部分）、RL训练细节（D部分）和所有超参数设置，复现信息充分。 引用的开源项目：依赖ImageBind作为多模态编码器，使用museval工具计算SDR指标。 📌 核心摘要 问题：通用声音分离存在“指标困境”，即模型在优化信噪比（SDR）等信号指标时，可能保留语义上不相关的干扰声，导致输出与用户查询意图不符。 核心方法：本文提出MARS-Sep，一个强化学习（RL）框架。它将声音分离重新定义为随机决策过程：基础分离模型作为“策略”，输出时频掩码；一个经过渐进对齐的多模态编码器作为“奖励模型”，评估分离音频与查询（文本/音频/图像）的语义一致性；通过基于裁剪信任区域的策略优化（类似PPO）来最大化奖励。 创新点：1）首创性地将查询条件声音分离形式化为受多模态奖励引导的RL问题。2）设计了分解Beta分布掩码策略，便于探索与利用的平衡。3）引入渐进式对齐训练，逐步增强ImageBind编码器的跨模态判别能力，为RL提供稳定可靠的奖励信号。 主要实验结果：在VGGSound-clean+和MUSIC-clean+两个数据集上，在文本、音频、图像及组合查询等多种条件下，MARS-Sep相比强基线（如OmniSep, AudioSep）均取得一致提升。例如，在VGGSound-clean+文本查询任务中，MARS-Sep的CLAP分数为9.03±0.94，高于OmniSep的8.98±0.89；SI-SDRi为4.55±0.44，高于OmniSep的4.38±0.48。消融研究证实了RL和渐进对齐策略的各自贡献。 实际意义：该方法能产生语义更准确、听感更干净的声音分离结果，更符合用户意图，有望提升下游任务（如语音识别、内容理解）的性能。 主要局限性：训练过程引入了RL的复杂性，需调优更多超参数（如β分布浓度κ、KL系数λ_KL）；奖励模型依赖预训练的ImageBind，其能力上限可能影响最终性能；在部分设置下，与基线的提升幅度有限。 🏗️ 模型架构 MARS-Sep的整体架构（如图1所示）是一个强化学习循环系统，包含三个核心组件：基础策略（策略网络）、奖励模型和优化过程。 图1：MARS-Sep的强化学习循环。分离器从Beta分布策略中生成随机掩码动作，冻结的快照作为旧策略用于稳定优化。多模态奖励（来自音频、文本、视觉嵌入）指导策略更新，熵和KL正则化增强探索和稳定性。 ...

📄 MCIF: Multimodal Crosslingual Instruction-Following Benchmark from Scientific Talks #基准测试 #多模态模型 #多语言 #模型评估 #语音翻译 🔥 8.0/10 | 前25% | #基准测试 | #多模态模型 | #多语言 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sara Papi（Fondazione Bruno Kessler (FBK)） 通讯作者：未明确说明 作者列表：Sara Papi (FBK), Maike Züfle (Karlsruhe Institute of Technology (KIT)), Marco Gaido (FBK), Beatrice Savoldi (FBK), Danni Liu (KIT), Ioannis Douros (Translated), Luisa Bentivogli (FBK), Jan Niehues (KIT) 💡 毒舌点评 亮点是设计了一个非常全面、平行且高质量的跨语言多模态指令跟随基准，填补了现有评估体系的关键空白；短板在于受限于计算成本，评估的开源模型参数规模普遍偏小（≤20B），且未包含任何闭源前沿商业模型的系统性对比（仅测试了Gemini 2.5 Flash），削弱了对当前技术天花板的揭示能力。 ...