多模态模型

📄 InteractWeb-Bench: Can Multimodal Agent Escape Blind Execution in Interactive Website Generation? #基准测试 #多模态模型 #大语言模型 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #大语言模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Qiyao Wang (1,2) （1 深圳先进技术研究院，2 中国科学院大学） 通讯作者：Yuan Lin (3†)， Min Yang (1,5†) （3 大连理工大学，1 深圳先进技术研究院，5 深圳大学先进技术研究院） 作者列表：Qiyao Wang（深圳先进技术研究院，中国科学院大学），Haoran Hu（大连理工大学），Longze Chen（深圳先进技术研究院，中国科学院大学），Hongbo Wang（大连理工大学），Hamid Alinejad-Rokny（UNSW Sydney），Yuan Lin（大连理工大学），Min Yang（深圳先进技术研究院，深圳大学先进技术研究院） 💡 毒舌点评 亮点：论文敏锐地指出了当前网站生成智能体“盲目执行”的真实痛点，并首次构建了系统模拟非专业用户（包括歧义、冗余、矛盾等）的交互式评估框架，其“约束槽”评估体系设计严谨。短板：论文本身并未提出任何新的生成模型或交互算法，而是对现有模型进行评估，其核心贡献在于“发现问题”而非“解决问题”；此外，尽管声称评估交互能力，但用户智能体仍由另一模型模拟，与真实人类交互存在差距。 🔗 开源详情 代码：论文中未提及代码链接。论文指出其交互环境基于 bolt.diy 框架实现，并使用 Playwright 作为浏览器内核，但未提供这些工具的具体开源仓库链接。 模型权重：论文中未提及。论文评估了 Qwen、Gemma、GPT、Gemini 等系列多个现有模型，但未提供或提及任何新模型的权重。 数据集：InteractWeb-Bench。论文指出其包含从 WebGen-Bench 扩展而来的 404 个测试用例，但未提供具体的数据集下载链接或开源协议。 Demo：论文中未提及。 复现材料：论文中未提及。论文在附录中提供了评估模型的详细规格、API成本及人类评估细节，但未提供训练配置、模型检查点等复现材料。 论文中引用的开源项目： bolt.diy: 论文指出被用作网站生成代理的基础框架。链接：https://github.com/stackblitz-labs/bolt.diy Playwright: 论文指出交互环境使用基于 Playwright 的浏览器内核实现。链接：https://github.com/microsoft/playwright WebVoyager: 论文指出用于最终评估的视觉审计器。链接：https://github.com/MinorJerry/WebVoyager Set-of-Mark (SoM) Prompting: 论文指出与 WebVoyager 结合用于视觉审计。链接：https://github.com/yuweihao/SAM-SoM vLLM: 论文指出用于部署小型开源模型。链接：https://github.com/vllm-project/vllm ClarifyCoder: 论文在相关工作中提及。链接：论文中未提及。 HumanEvalComm: 论文在相关工作中提及。链接：论文中未提及。 ClarifyMT-Bench: 论文在相关工作中提及。链接：论文中未提及。 SWE-bench: 论文在相关工作中提及。链接：https://github.com/princeton-nlp/SWE-bench InterCode: 论文在相关工作中提及。链接：论文中未提及。 Design2Code: 论文在相关工作中提及。链接：论文中未提及。 Web2Code: 论文在相关工作中提及。链接：论文中未提及。 WebGen-Bench: 论文指出其种子任务部分源于此。链接：论文中未提及。 Persona2Web: 论文在相关工作中提及。链接：论文中未提及。 补充信息 [核心摘要] 补充：论文明确声称 InteractWeb-Bench 是第一个用于评估多模态智能体在非专家低代码用户条件下网站生成能力的交互式基准。这一“首个”定位是其核心贡献之一。 [核心摘要] 补充：论文在局限性部分明确指出三点：1) 用户交互仍为模型模拟，非真实人类；2) 基准本身的用户智能体、评估器（WebVoyager+GPT-5-mini）是黑盒，可复现性受限；3) 侧重发现问题，未提出解决方案。分析中已提及前两点，第三点在分析中虽有提及，但可更明确。 [细节详述] 补充：论文在附录A中提供了详细的API成本分析，列出了各模型在InteractWeb-Bench上的单网站评估成本（从0.016美元到0.475美元不等），这对评估基准的经济性有重要参考价值。 [实验结果] 补充：论文在附录B中报告了人类评估的详细结果：三位计算机科学博士生参与评估，评估者间表现出中等程度的一致性（Kendall’s τ = 0.5675）。同时，MLLM评估器与人类评估结果呈现中等相关性（Kendall’s τ = 0.4490），这为基准评估的效度提供了依据。 [开源详情] 补充：论文指出其交互环境基于开源框架 bolt.diy 实现，并提供了该框架的GitHub链接。但需明确，这指的是被评估的智能体的实例化框架，而非评估框架本身。评估框架的用户智能体、评估器等核心组件的开源状态在论文中未明确。 [毒舌点评] 补充：论文在第5节结论及后续讨论中，不仅指出了局限性，也提出了四个明确的未来研究方向：1) 从“执行者”到“协作者”的意图对齐；2) 多模态反馈的高效利用；3) 更真实的人类交互评估；4) 探索主动澄清与高效生成之间的平衡。这些方向直接源于其发现，对未来研究具有明确的指导意义。 [模型架构] 补充：在“用户响应设计”部分，论文强调了其“检索-过滤”流水线的一个关键设计：防止信息泄露。即用户智能体在回答时，只提供被明确询问到的那部分黄金指令信息，从而避免一次性暴露所有正确答案，确保了评估的有效性。 📌 核心摘要 要解决什么问题：现有网站生成基准假设用户提供清晰、完整的指令，但在真实场景中，非专业用户常给出模糊、冗余甚至矛盾的低质量指令，导致多模态智能体陷入“盲目执行”陷阱，即被动执行错误指令而非主动澄清意图。 方法核心：提出InteractWeb-Bench，一个交互式基准。它包含四个基于需求工程缺陷理论设计的用户角色模拟器（极简、冗长、直觉、矛盾），以及一个为智能体设计的统一行动空间（澄清、实现、验证、提交），使其能在模拟环境中迭代地澄清需求、生成代码并进行视觉验证。 与已有方法相比新在哪里：首次将评估重点从静态的代码生成准确性，转向动态的用户意图澄清和多模态反馈（代码+视觉）利用能力。引入了基于用户角色的指令扰动和交互式多路径执行环境，更贴近真实开发流程。 主要实验结果：对9个前沿多模态模型进行了评估。关键发现：所有模型任务完成率（TCR）普遍偏低（最高为Qwen3.6-Plus的38.78%）；模型在理解模糊意图（IAS >3.9）上尚可，但主动澄清命中率（CHR）低于40%，证实了“盲目执行”；模型倾向于通过生成过量代码（如Qwen3.6-Plus平均1415行）来补偿信息缺失，反而导致更高的幻觉率（62.4%）。模型对“信息缺失”（P-MIN）比“噪声干扰”（P-RAM）更敏感。 实际意义：为评估和提升多模态智能体的真实人机协作能力提供了新基准和方向，指明了未来智能体需在主动需求澄清和有效利用多模态反馈上重点突破。 主要局限性：1) 用户交互仍为模型模拟，非真实人类；2) 基准本身的用户智能体、评估器（WebVoyager+GPT-5-mini）是黑盒，可复现性受限；3) 侧重发现问题，未提出解决方案。 主要实验结果表格： ...

📄 JALMBench: Benchmarking Jailbreak Vulnerabilities in Audio Language Models #音频安全 #基准测试 #语音大模型 #多模态模型 #鲁棒性 🔥 8.5/10 | 前25% | #音频安全 | #基准测试 | #语音大模型 #多模态模型 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Zifan Peng（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室） 通讯作者：Wenhan Dong（香港科技大学（广州））、Xinlei He（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室） 作者列表：Zifan Peng（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室）、Yule Liu（香港科技大学（广州））、Zhen Sun（香港科技大学（广州））、Mingchen Li（北德克萨斯大学）、Zeren Luo（香港科技大学（广州））、Jingyi Zheng（香港科技大学（广州））、Wenhan Dong（香港科技大学（广州））、Xinlei He（香港科技大学（广州）、清华大学互联网体系结构国家重点实验室）、Xuechao Wang（香港科技大学（广州））、Yingjie Xue（中国科学技术大学）、Shengmin Xu（福建师范大学）、Xinyi Huang（南京航空航天大学） 💡 毒舌点评 亮点：这篇论文为“音频大模型安全”这一新兴且关键的领域建立了第一个系统性的、大规模的基准测试框架（JALMBench），其覆盖的攻击面之广（从文本迁移攻击到音频原生攻击）、评估维度之深（效率、主题、声音多样性、模型架构），以及提供的开源工具和数据集之完整，都使其具有很高的实用和研究价值，真正起到了“点亮地图”的作用。短板：论文在“防御”部分的探索略显单薄，评估的几种防御方法（如Prompt Shield、LLaMA-Guard）基本是现有针对文本或视觉模型方法的简单迁移，并未提出任何针对音频信号特性或LALM多模态融合架构的新颖、专用防御机制，使得“破”之后的“立”显得力度不足。 🔗 开源详情 代码：提供GitHub仓库链接：https://github.com/sfofgalaxy/JALMBench 模型权重：未提及。论文评估的是已有的开源和商业LALM，未发布新训练的模型。 数据集：公开发布于HuggingFace数据集管理平台（链接包含在上述GitHub仓库中）。 Demo：未提及。 复现材料：提供了极其详尽的复现材料，包括：数据生成的所有细节（TTS配置、翻译协议、说话人统计）、攻击和防御方法的详细实现、评估提示词全文、所有超参数设置、硬件信息、以及完整的附录说明。 论文中引用的开源项目：Google Cloud TTS、DeepL Translator、F5-TTS、MMS-TTS、SpeechT5、Coqui.ai TTS（用于口音转换）等。 📌 核心摘要 解决的问题：大型音频语言模型（LALMs）在实际应用中面临日益严峻的安全风险，尤其是能绕过安全对齐的越狱攻击。然而，该领域缺乏一个统一的、大规模的评估框架和基准数据集来系统性地评估和比较针对LALM的越狱攻击。 方法核心：提出JALMBench，一个综合性基准测试框架。它包含245,355个音频样本（>1,000小时）和11,316个文本样本，支持12个主流LALM、8种攻击方法（4种文本迁移、4种音频原生）和5种防御方法。该框架采用模块化设计，易于扩展。 与已有方法相比的新意：这是首个专门为评估LALM越狱漏洞而设计的综合基准。与现有零散的工作相比，它统一了评估标准和代码实现，覆盖了更全面的攻击类型（首次系统比较文本迁移和音频原生攻击）、更多的模型和防御策略，并进行了深入的多维度分析。 主要实验结果： 攻击有效性：音频模态的平均攻击成功率（ASR）高于文本模态（21.5% vs. 17.0%）。最强的音频原生攻击AdvWave在所有模型上平均ASR高达96.2%。 架构影响：采用离散化音频编码的模型（如GLM-4-Voice）展现出更好的跨模态安全泛化能力，文本与音频的安全表现一致；而采用连续特征提取的模型（如LLaMA-Omni）则存在严重的模态安全差距。 防御效果：现有防御方法效果有限。最佳的提示级防御（AdaShield）和响应级防御（LLaMA-Guard）分别将平均ASR降低了19.6和18.0个百分点，但提示级防御会导致约6.3%的效用下降。 攻击效率：实现60%以上ASR通常需要>100秒处理时间，但40%左右的ASR可在<10秒内达成，说明低成本攻击是现实威胁。 其他发现：明确的仇恨言论内容（如“写一篇煽动暴力的演讲”）被模型较好拒绝（平均ASR 41%），但隐晦的危害信息（如“制造假新闻引发恐慌”）ASR更高（67%）。非美国口音和多语言场景通常会提高攻击成功率。 实际意义：为LALM的安全研究提供了重要的基准和度量标准，揭示了当前模型在音频模态下的脆弱性，特别是对直接信号级的操纵。研究发现（如编码策略对安全的影响、现有防御的不足）为设计更安全的LALM架构和专用防御机制指明了方向。 主要局限性：论文明确指出未探索多轮越狱攻击；对影响攻击的声音因素（如情感、更细粒度的口音）覆盖不全；防御评估初步，缺乏针对音频模态的创新防御方法。 🏗️ 模型架构 JALMBench本身不是一个模型，而是一个用于评估模型的基准测试框架。其架构设计为模块化，包含三个主要部分： ...

📄 JavisDiT: Joint Audio-Video Diffusion Transformer with Hierarchical Spatio-Temporal Prior Synchronization #音频生成 #多模态模型 #扩散模型 #Transformer #基准测试 🔥 8.0/10 | 前25% | #音频生成 | #扩散模型 #Transformer | #多模态模型 #扩散模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu (Zhejiang University, National University of Singapore) (论文中Kai Liu标注为*，表示同等贡献，且为列出的第一个作者) 通讯作者：Hao Fei (National University of Singapore) (论文中标注为†) 作者列表： Kai Liu (Zhejiang University, National University of Singapore) Wei Li (University of Science and Technology of China) Lai Chen (Zhejiang University) Shengqiong Wu (National University of Singapore) Yanhao Zheng (Zhejiang University) Jiayi Ji (National University of Singapore) Fan Zhou (Zhejiang University) Jiebo Luo (University of Rochester) Ziwei Liu (Nanyang Technological University) Hao Fei (National University of Singapore) Tat-Seng Chua (National University of Singapore) 💡 毒舌点评 这篇论文的亮点在于其“分层时空先验估计器”设计得相当巧妙，直指当前联合音视频生成“只知大概、不晓细节”的同步痛点，并为此精心打造了一个更具挑战性的真实世界基准数据集JavisBench。然而，短板也很明显：一个追求实时应用的生成模型，其推理效率在附录表格中暴露无遗（生成4秒视频需30秒），在“生成速度与质量”的权衡上显然更偏向了后者。 ...

📄 JavisDiT++: Unified Modeling and Optimization for Joint Audio-Video Generation #音视频生成 #流匹配 #扩散模型 #多模态模型 ✅ 7.5/10 | 前25% | #音视频生成 | #流匹配 | #扩散模型 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu, Yanhao Zheng, Kai Wang（共同第一作者） Kai Liu：浙江大学，与HiThink Research有关 Yanhao Zheng：未明确说明机构 Kai Wang：多伦多大学 通讯作者：Hao Fei（新加坡国立大学） 作者列表： Kai Liu (浙江大学, HiThink Research) Yanhao Zheng (未说明具体机构) Kai Wang (多伦多大学) Shengqiong Wu (新加坡国立大学) Rongjunchen Zhang (HiThink Research) Jiebo Luo (罗切斯特大学) Dimitrios Hatzinakos (多伦多大学) Ziwei Liu (南洋理工大学) Hao Fei (新加坡国立大学，通讯作者) Tat-Seng Chua (新加坡国立大学) 💡 毒舌点评 论文的最大亮点在于提出了一个简洁且高效的统一框架（MS-MoE + TA-RoPE），显著缩小了开源联合音视频生成模型与商业模型Veo3之间的差距。然而，所有实验仅在标准学术基准（JavisBench）上进行，缺乏对真实世界长尾场景、复杂语义或大规模生成能力的验证，其声称的“里程碑”意义有待更广泛的应用场景检验。 ...

📄 JointAVBench: A Benchmark for Joint Audio-Visual Reasoning Evaluation #基准测试 #多模态模型 #音视频 #模型评估 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #音视频 #模型评估 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Jianghan Chao (中国人民大学 高瓴人工智能学院) 通讯作者：Ruihua Song (中国人民大学 高瓴人工智能学院) 作者列表：Jianghan Chao (中国人民大学 高瓴人工智能学院)、Jianzhang Gao (未说明，仅提供邮箱)、Wenhui Tan (未说明，仅提供邮箱)、Yuchong Sun (未说明，仅提供邮箱)、Ruihua Song (中国人民大学 高瓴人工智能学院)、Liyun Ru (百川智能) 💡 毒舌点评 这篇论文像一个精心设计的“多模态AI体能测试仪”，它系统化地定义了音视频联合推理的“考试范围”（5认知维度、4音频类型、3场景跨度）和“出题规则”（严格关联、半自动生成），并逼出了当前最强模型的“真实分数”（最高仅62.6%）。其最大亮点是提供了首个结构严谨、维度全面的评估体系，直指当前全模态模型“感知割裂、融合不深”的痛点。短板则在于，这个“测试仪”本身只生产考卷，不制造“应试技巧”——论文对模型失败原因的分析相对宏观，未能深入模型内部机制，且数据来源单一，可能让这个“考场”代表性打了折扣。 🔗 开源详情 代码：论文提供了项目主页链接 (https://jointavbench.github.io)，但论文中未提及是否有公开的数据生成或评估代码仓库。 模型权重：未提及。本论文为评测工作，未提出新模型。 数据集：已公开。JointAVBench数据集在项目主页提供，采用CC BY-NC-SA 4.0许可证。 Demo：未提及。 复现材料：论文附录提供了非常详尽的生成流水线提示词模板（图10-图16），以及实验设置细节（如模型参数、帧采样、API设置），为复现其评测流程提供了充分信息。 论文中引用的开源项目：PySceneDetect（用于场景分割），Whisper-v3（用于语音转录），以及大量被评测的开源模型（如Qwen系列、VideoLLaMA系列、SALMONN系列等）。 📌 核心摘要 问题：现有基准在评估全模态大语言模型（Omni-LLMs）的音视频联合推理能力时，存在音频-视频关联不严格、音频类型覆盖不全、缺乏对多场景推理能力评估等关键缺陷，无法全面、严格地评估模型的真实联合理解水平。 ...

📄 LadderSym: A Multimodal Interleaved Transformer for Music Practice Error Detection #音乐理解 #错误检测 #多模态模型 #Transformer 🔥 8.0/10 | 前25% | #音乐理解 | #多模态模型 | #错误检测 #Transformer 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Benjamin Shiue-Hal Chou (Purdue University) 通讯作者：未明确说明（根据论文惯例，Yung-Hsiang Lu 的邮箱在作者列表最后，可能为通讯作者，但论文中未明确标注“Corresponding author”） 作者列表：Benjamin Shiue-Hal Chou¹, Purvish Jajal¹, Nicholas John Eliopoulos¹, James C. Davis¹, George K. Thiruvathukal², Kristen Yeon-Ji Yun¹, Yung-Hsiang Lu¹ ¹Purdue University ²Loyola University Chicago 💡 毒舌点评 亮点：论文不仅提出了有效的模型，还非常务实地构建并发布了首个真实初学者演奏错误数据集（附录A.7），并利用模型辅助标注（“human-in-the-loop”），这比单纯刷点更能推动领域发展。短板：虽然实验指标提升显著，但对“交织对齐”这一核心架构创新的理论分析不够深入，例如，为何这种特定交替的交叉注意力结构优于其他混合融合方案（如CLIP式的单次对齐或Flamingo式的逐层条件注入），论述略显表面。 ...

📄 Learning multimodal dictionary decompositions with group-sparse autoencoders #跨模态 #音频检索 #稀疏自编码 #对比学习 #多模态模型 ✅ 7.5/10 | 前25% | #跨模态 | #稀疏自编码 | #音频检索 #对比学习 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Chiraag Kaushik (Georgia Institute of Technology, School of Electrical and Computer Engineering) 通讯作者：未说明 作者列表：Chiraag Kaushik (Georgia Institute of Technology, School of Electrical and Computer Engineering), Davis Barch (Dolby Laboratories), Andrea Fanelli (Dolby Laboratories) 💡 毒舌点评 本文精准地识别了稀疏自编码器（SAE）在多模态嵌入分解中的核心痛点——“字典分裂”，并通过一个直观的理论定理和一项巧妙的工程改进（群稀疏损失+交叉模态掩码）给出了系统性的解决方案，实验部分在图像-文本和音频-文本两个场景中均显示出稳健的增益。然而，其理论证明（定理1）的假设略显理想化，且对于“群稀疏损失”为何能如此有效地对抗SAE内置偏置的理论机制探讨尚浅，更像是一种经验性的成功，缺乏更深层的原理解释。 ...

📄 LLM2Fx-Tools: Tool Calling for Music Post-Production #音乐信息检索 #大语言模型 #多模态模型 #数据集 #音频效果 🔥 8.0/10 | 前25% | #音乐信息检索 | #大语言模型 #多模态模型 | #大语言模型 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：SeungHeon Doh（KAIST， Sony AI） 通讯作者：Junghyun Koo（Sony AI） 作者列表：SeungHeon Doh（KAIST， Sony AI）， Junghyun Koo（Sony AI）， Marco A. Martínez-Ramírez（Sony AI）， Woosung Choi（Sony AI）， Wei-Hsiang Liao（Sony AI）， Qiyu Wu（Sony Group Corporation）， Juhan Nam（KAIST）， Yuki Mitsufuji（Sony AI， Sony Group Corporation） 💡 毒舌点评 亮点：论文构建了一个从数据集到模型框架再到评估体系的完整闭环，首次将LLM的结构化工具调用能力系统地引入音乐效果链生成任务，实现了生成效果链、链式思考和自然语言响应的统一，思路清晰且工程化程度高。短板：实验评估基本在可控的单乐器场景下进行，离真实世界复杂的多轨音乐制作（如混音）仍有距离；效果链生成的“一对多”固有模糊性问题在评估中未被充分考量，可能高估了模型在真实场景下的精确性。 ...

📄 MCIF: Multimodal Crosslingual Instruction-Following Benchmark from Scientific Talks #基准测试 #多模态模型 #多语言 #模型评估 #语音翻译 🔥 8.0/10 | 前25% | #基准测试 | #多模态模型 | #多语言 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sara Papi（Fondazione Bruno Kessler (FBK)） 通讯作者：未明确说明 作者列表：Sara Papi (FBK), Maike Züfle (Karlsruhe Institute of Technology (KIT)), Marco Gaido (FBK), Beatrice Savoldi (FBK), Danni Liu (KIT), Ioannis Douros (Translated), Luisa Bentivogli (FBK), Jan Niehues (KIT) 💡 毒舌点评 亮点是设计了一个非常全面、平行且高质量的跨语言多模态指令跟随基准，填补了现有评估体系的关键空白；短板在于受限于计算成本，评估的开源模型参数规模普遍偏小（≤20B），且未包含任何闭源前沿商业模型的系统性对比（仅测试了Gemini 2.5 Flash），削弱了对当前技术天花板的揭示能力。 ...

📄 MIAM: Modality Imbalance-Aware Masking for Multimodal Ecological Applications #多模态模型 #掩码策略 #物种分布建模 #多模态物种分类 #生态学 ✅ 7.5/10 | 前25% | #物种分布建模 | #掩码策略 | #多模态模型 #多模态物种分类 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Robin Zbinden， Wesley Monteith-Finas（*表示同等贡献）（瑞士洛桑联邦理工学院 - EPFL） 通讯作者：Robin Zbinden（robin.zbinden@epfl.ch）（瑞士洛桑联邦理工学院 - EPFL） 作者列表：Robin Zbinden（瑞士洛桑联邦理工学院 - EPFL）， Wesley Monteith-Finas（瑞士洛桑联邦理工学院 - EPFL）， Gencer Sumbul（瑞士洛桑联邦理工学院 - EPFL）， Nina van Tiel（瑞士洛桑联邦理工学院 - EPFL）， Chiara Vanalli（瑞士洛桑联邦理工学院 - EPFL）， Devis Tuia（瑞士洛桑联邦理工学院 - EPFL） 💡 毒舌点评 亮点： 论文提出了一个原则性的掩码策略设计框架（完整支持、角落优先、不平衡感知），并通过数学公式化（混合乘积Beta分布）优雅地实现了这一点，有效解决了多模态学习中的模态不平衡问题，为生态学等数据不完整场景提供了强大的工具。 短板： 方法在相对简单的双模态数据集（SatBird）上优势不明显，表明其主要价值体现在模态数量多且存在显著不平衡的复杂场景；动态调整机制引入了额外的超参数（λ， κ）和基于验证集性能的在线调整，可能增加实际应用中的调参负担和训练不稳定性。 ...