Iclr-2026

📄 JavisDiT++: Unified Modeling and Optimization for Joint Audio-Video Generation #音视频生成 #流匹配 #扩散模型 #多模态模型 ✅ 7.5/10 | 前25% | #音视频生成 | #流匹配 | #扩散模型 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu, Yanhao Zheng, Kai Wang（共同第一作者） Kai Liu：浙江大学，与HiThink Research有关 Yanhao Zheng：未明确说明机构 Kai Wang：多伦多大学 通讯作者：Hao Fei（新加坡国立大学） 作者列表： Kai Liu (浙江大学, HiThink Research) Yanhao Zheng (未说明具体机构) Kai Wang (多伦多大学) Shengqiong Wu (新加坡国立大学) Rongjunchen Zhang (HiThink Research) Jiebo Luo (罗切斯特大学) Dimitrios Hatzinakos (多伦多大学) Ziwei Liu (南洋理工大学) Hao Fei (新加坡国立大学，通讯作者) Tat-Seng Chua (新加坡国立大学) 💡 毒舌点评 论文的最大亮点在于提出了一个简洁且高效的统一框架（MS-MoE + TA-RoPE），显著缩小了开源联合音视频生成模型与商业模型Veo3之间的差距。然而，所有实验仅在标准学术基准（JavisBench）上进行，缺乏对真实世界长尾场景、复杂语义或大规模生成能力的验证，其声称的“里程碑”意义有待更广泛的应用场景检验。 ...

📄 JointAVBench: A Benchmark for Joint Audio-Visual Reasoning Evaluation #基准测试 #多模态模型 #音视频 #模型评估 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #音视频 #模型评估 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Jianghan Chao (中国人民大学 高瓴人工智能学院) 通讯作者：Ruihua Song (中国人民大学 高瓴人工智能学院) 作者列表：Jianghan Chao (中国人民大学 高瓴人工智能学院)、Jianzhang Gao (未说明，仅提供邮箱)、Wenhui Tan (未说明，仅提供邮箱)、Yuchong Sun (未说明，仅提供邮箱)、Ruihua Song (中国人民大学 高瓴人工智能学院)、Liyun Ru (百川智能) 💡 毒舌点评 这篇论文像一个精心设计的“多模态AI体能测试仪”，它系统化地定义了音视频联合推理的“考试范围”（5认知维度、4音频类型、3场景跨度）和“出题规则”（严格关联、半自动生成），并逼出了当前最强模型的“真实分数”（最高仅62.6%）。其最大亮点是提供了首个结构严谨、维度全面的评估体系，直指当前全模态模型“感知割裂、融合不深”的痛点。短板则在于，这个“测试仪”本身只生产考卷，不制造“应试技巧”——论文对模型失败原因的分析相对宏观，未能深入模型内部机制，且数据来源单一，可能让这个“考场”代表性打了折扣。 🔗 开源详情 代码：论文提供了项目主页链接 (https://jointavbench.github.io)，但论文中未提及是否有公开的数据生成或评估代码仓库。 模型权重：未提及。本论文为评测工作，未提出新模型。 数据集：已公开。JointAVBench数据集在项目主页提供，采用CC BY-NC-SA 4.0许可证。 Demo：未提及。 复现材料：论文附录提供了非常详尽的生成流水线提示词模板（图10-图16），以及实验设置细节（如模型参数、帧采样、API设置），为复现其评测流程提供了充分信息。 论文中引用的开源项目：PySceneDetect（用于场景分割），Whisper-v3（用于语音转录），以及大量被评测的开源模型（如Qwen系列、VideoLLaMA系列、SALMONN系列等）。 📌 核心摘要 问题：现有基准在评估全模态大语言模型（Omni-LLMs）的音视频联合推理能力时，存在音频-视频关联不严格、音频类型覆盖不全、缺乏对多场景推理能力评估等关键缺陷，无法全面、严格地评估模型的真实联合理解水平。 ...

📄 Knowing When to Quit: Probabilistic Early Exits for Speech Separation Networks #语音分离 #概率模型 #线性RNN #计算效率 ✅ 7.0/10 | 前25% | #语音分离 | #概率模型 | #线性RNN #计算效率 学术质量 6.5/7 | 选题价值 7.5/2 | 复现加成 7.0 | 置信度 中 👥 作者与机构 第一作者：Kenny Falkær Olsen (Technical University of Denmark, WS Audiology) 通讯作者：未说明 作者列表：Kenny Falkær Olsen (Technical University of Denmark, WS Audiology), Mads Østergaard (WS Audiology), Karl Ulbæk (WS Audiology), Søren Føns Nielsen (WS Audiology), Rasmus Malik Høegh Lindrup (WS Audiology), Bjørn Sand Jensen (Technical University of Denmark), Morten Mørup (Technical University of Denmark) 💡 毒舌点评 这篇论文在“让网络学会聪明地偷懒”这件事上做得很漂亮，提出的概率早退框架优雅地将性能评估融入训练和推理，为嵌入式设备部署提供了坚实的理论工具。然而，这种优雅的代价是复杂的数学和略显繁琐的退出条件实现，而且论文在WSJ0-2mix这个最常用的基准上并没有刷新记录，更像是在展示一种“能力”而非追求极致性能。 ...

📄 LadderSym: A Multimodal Interleaved Transformer for Music Practice Error Detection #音乐理解 #错误检测 #多模态模型 #Transformer 🔥 8.0/10 | 前25% | #音乐理解 | #多模态模型 | #错误检测 #Transformer 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Benjamin Shiue-Hal Chou (Purdue University) 通讯作者：未明确说明（根据论文惯例，Yung-Hsiang Lu 的邮箱在作者列表最后，可能为通讯作者，但论文中未明确标注“Corresponding author”） 作者列表：Benjamin Shiue-Hal Chou¹, Purvish Jajal¹, Nicholas John Eliopoulos¹, James C. Davis¹, George K. Thiruvathukal², Kristen Yeon-Ji Yun¹, Yung-Hsiang Lu¹ ¹Purdue University ²Loyola University Chicago 💡 毒舌点评 亮点：论文不仅提出了有效的模型，还非常务实地构建并发布了首个真实初学者演奏错误数据集（附录A.7），并利用模型辅助标注（“human-in-the-loop”），这比单纯刷点更能推动领域发展。短板：虽然实验指标提升显著，但对“交织对齐”这一核心架构创新的理论分析不够深入，例如，为何这种特定交替的交叉注意力结构优于其他混合融合方案（如CLIP式的单次对齐或Flamingo式的逐层条件注入），论述略显表面。 ...

📄 Latent Fourier Transform #音乐生成 #扩散模型 #傅里叶变换 #表示学习 #可控生成 ✅ 7.5/10 | 前25% | #音乐生成 | #扩散模型 | #傅里叶变换 #表示学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Mason Long Wang (CSAIL, Massachusetts Institute of Technology) 通讯作者：未说明（论文未明确标注通讯作者，通常根据机构排序，第二作者Cheng-Zhi Anna Huang同属MIT CSAIL） 作者列表：Mason Long Wang (CSAIL, Massachusetts Institute of Technology)， Cheng-Zhi Anna Huang (CSAIL, Massachusetts Institute of Technology) 💡 毒舌点评 这篇论文的亮点在于巧妙地将傅里叶变换这个经典工具从音频信号“下沉”到生成模型的潜在表示空间，为音乐生成提供了一个直观且连续的“时间尺度”控制旋钮，概念优雅且实验全面。短板在于，其控制维度的普适性有待验证——能否从“音乐结构”的时间尺度控制，泛化到如语音、环境声等其他音频模态的类似控制，文中并未探讨，这使得方法的影响力目前主要局限在音乐生成领域。 🔗 开源详情 代码：是。论文明确提供了代码仓库链接：https://github.com/maswang32/latentfouriertransform/。 模型权重：未提及。论文中未明确说明是否公开预训练模型权重。 数据集：未提及。论文使用的MTG-Jamendo和GTZAN是公开数据集，但论文未提供处理后的版本或具体下载脚本。 Demo：论文中提到提供在线演示示例（https://masonlwang.com/latentfouriertransform/）。 复现材料：非常充分。论文附录详细说明了模型架构（MLP、U-Net、DAC编码器；U-Net解码器）、所有训练超参数、数据集处理方式、评估指标计算细节等。 论文中引用的开源项目：提到了DAC（Descript Audio Codec）作为编码器前端之一；BigVGAN作为声码器；librosa、Essentia用于特征提取；VampNet作为基线模型。 📌 核心摘要 问题：现有的可控音乐生成模型难以精确地基于音乐模式发生的“时间尺度”（如快节奏鼓点vs.慢速和弦进行）进行条件控制或融合，现有控制手段（文本、音高、响度）无法直接暴露这一维度。 方法核心：提出潜在傅里叶变换（LATENTFT） 框架。核心是在扩散自编码器的潜在表示时间序列上应用离散傅里叶变换（DFT），得到“潜在频谱”。训练时，对该频谱进行随机的频率遮蔽；推理时，用户通过指定潜在频率范围（如0-1Hz保留和弦）来控制生成。 新在哪里：不同于直接操作音频波形频谱（均衡器）或后期分析潜在表示，LATENTFT通过训练时的潜在频率遮蔽，使潜在表示天然地按时间尺度解耦，从而支持在推理时对特定时间尺度的特征进行保留、生成变体或混合两首歌曲。 主要实验结果： 在MTG-Jamendo数据集上的条件生成任务中，LATENTFT在响度相关性（0.878）、节奏保持（0.922）、音色失真（1.390）和和声距离（0.107）等指标上均显著优于所有基线（如ILVR、Guidance、DAC后处理等）。 在混合任务中，LATENTFT在音频质量（FAD 1.364）和用户主观评价（图3）上也优于基线。 听觉研究（29名音乐家参与）表明，在混合任务的音频质量和融合能力两个维度上，LATENTFT获得的偏好票数均领先于其他系统。 可解释性实验（图5）显示，不同音乐属性（体裁、和弦、节奏、音高）在潜在频谱的不同频率区域被保留，证实了潜在频率轴的意义。 实际意义：为音乐生成和制作提供了一种新的、基于时间尺度的交互式控制工具，类似于为潜在空间配备了一个“均衡器”，可用于创作音乐变体、混合不同歌曲片段。 主要局限性：目前框架主要在音乐生成任务上验证；其潜在表示的可解释性虽被展示，但如何与语义控制（如风格、情绪）进一步结合是未来方向；实时交互性未实现。 🏗️ 模型架构 LATENTFT是一个端到端的编码器-解码器框架，核心是在训练时引入对潜在表示的频率域操作。整体流程如下： ...

📄 Latent Speech-Text Transformer #语音大模型 #预训练 #自回归模型 #语音识别 #语音合成 🔥 8.5/10 | 前10% | #语音大模型 | #预训练 | #自回归模型 #语音识别 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Yen-Ju Lu (Center for Language and Speech Processing, Johns Hopkins University) 通讯作者：Srinivasan Iyer†, Duc Le† (†联合末位作者， Meta Superintelligence Labs) 作者列表： Yen-Ju Lu† (Center for Language and Speech Processing, Johns Hopkins University) Yashesh Gaur (Meta Superintelligence Labs) Wei Zhou† (Meta Superintelligence Labs) Benjamin Muller (Meta Superintelligence Labs) Jesus Villalba (Center for Language and Speech Processing, Johns Hopkins University) Najim Dehak (Center for Language and Speech Processing, Johns Hopkins University) Luke Zettlemoyer (Meta Superintelligence Labs) Gargi Ghosh (Meta Superintelligence Labs) Mike Lewis (Meta Superintelligence Labs) Srinivasan Iyer† (Meta Superintelligence Labs) Duc Le† (Meta Superintelligence Labs) 💡 毒舌点评 这篇论文的最大亮点在于精准诊断了语音-文本模型效率低下的“病因”（信息密度不匹配），并开出了一剂对症的“药方”（潜语音块），实验证明该药方不仅能提升语音任务表现，甚至对纯文本任务也有增益，思路清晰且效果显著。然而，其“药引子”——对齐补丁和课程学习策略——严重依赖外部对齐模型（Wav2Vec2+CTC），这为实际部署引入了额外的复杂性和潜在的误差传递，在追求“无对齐”的端到端理想模型道路上，这或许是一个迂回但务实的选择。 ...

📄 LayerSync: Self-aligning Intermediate Layers #生成模型 #扩散模型 #流匹配 #自监督学习 ✅ 7.5/10 | 前25% | #生成模型 | #扩散模型 | #流匹配 #自监督学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Yasaman Haghighi (EPFL， 与Bastien van Delft共同第一作者) 通讯作者：Alexandre Alahi (EPFL) 作者列表：Yasaman Haghighi (EPFL VITA实验室)， Bastien van Delft (EPFL VITA实验室)， Mariam Hassan (EPFL VITA实验室)， Alexandre Alahi (EPFL VITA实验室) 💡 毒舌点评 亮点：本文用一个极其简单（对齐两个层的特征）且零开销的插件，就在多个模态上实现了显著的训练加速和质量提升，堪称扩散模型领域的“高效内部教练”，实用价值很高。短板：所谓的“内部强层指导弱层”缺乏坚实的理论分析，层的选择（如“避开最后20%”）更像是经验性的“土方子”，其有效性边界和内在机理有待更深入的剖析。 🔗 开源详情 代码：论文提供代码仓库链接：https://github.com/vita-epfl/LayerSync.git。 模型权重：论文中未提及公开训练好的模型权重。 数据集：使用公开数据集（ImageNet， MTG-Jamendo， HumanML3D， CLEVRER， MixKit），获取方式遵循各数据集原有许可，论文中未特别说明。 Demo：论文中未提及在线演示。 复现材料：提供了非常详细的超参数设置表（表18，19）、模型架构细节（表20）、算法伪代码（算法1）以及计算资源描述。复现信息充分。 引用的开源项目：论文中引用并依赖以下开源项目/模型：SiT， Stable Diffusion VAE， Stable Audio Open VAE， DINOv2， MDM等。 📌 核心摘要 解决的问题：扩散模型（如DiT/SiT）训练成本高昂。已有工作通过将模型内部表征与外部强大预训练模型（如DINOv2， VLM）对齐来加速训练，但这种方法依赖外部模型、引入计算开销且跨领域泛化能力有限。 方法核心：提出LayerSync，一种自包含、即插即用的正则化方法。核心思想是利用扩散模型自身深度网络中表征质量的异质性，将语义信息更丰富的深层块（强层）的输出作为目标，通过最大化相似度（如余弦相似度）来对齐并指导浅层块（弱层）的表征学习，从而实现模型内部的自我提升。 与已有方法相比的新意：与依赖外部模型的对齐方法（如REPA， REED）不同，LayerSync无需任何外部模型或数据，计算开销几乎为零。与另一种自包含方法Dispersive Loss（鼓励表征分散）相比，LayerSync提供了更直接的定向学习信号（强层对齐弱层）。 主要实验结果： 图像生成（ImageNet 256x256）：使用LayerSync的SiT-XL/2模型，训练800 epochs后FID达到1.89（使用CFG），比基线SiT-XL/2的2.06降低了8.3%，在纯自监督生成方法中达到SOTA。相比基线SiT-XL/2，训练160 epochs时的FID（8.29）已低于基线训练1400 epochs时的FID（8.3），实现了超过8.75倍的训练加速。相比Dispersive Loss，在相同epoch下FID改进幅度平均高出约20个百分点。 音频生成（MTG-Jamendo）：使用LayerSync的SiT-XL模型，在650 epochs时FAD（CLAP）为0.199，相比基线的0.251降低了20.7%。收敛速度提升约23%。 人体运动生成（HumanML3D）：使用LayerSync的MDM模型，在600K迭代后FID为0.4801，相比基线的0.5206降低了7.7%。 表示分析：在相同生成质量（FID）下，使用LayerSync的模型在分类（+32.4%）和语义分割（+63.3%）任务的线性探测精度上远超基线模型，表明其学到了更优质、更同质化的内部表征。 实际意义：提供了一种简单、通用且高效的扩散模型训练加速方案，可无缝应用于不同模态（图像、音频、视频、运动），为降低生成模型训练门槛、推动其广泛应用提供了新思路。 主要局限性：对齐的层对选择依赖启发式规则（如避开最后20%的解码层、保证一定距离），其最优策略可能因架构而异；缺乏对“为何此对齐有效”的理论解释；虽然实验跨领域，但在更复杂任务（如高分辨率视频生成）上的大规模验证尚不充分。 🏗️ 模型架构 本文的核心贡献并非提出新的生成模型架构，而是为现有的扩散/流匹配Transformer架构（如SiT） 提供一个即插即用的训练正则化模块。 ...

📄 Learnable Fractional Superlets with a Spectro-Temporal Emotion Encoder for Speech Emotion Recognition #语音情感识别 #时频分析 #端到端 #音频分类 ✅ 7.5/10 | 前25% | #语音情感识别 | #时频分析 | #端到端 #音频分类 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Alaa Nfissi (Concordia University, Concordia Institute for Information Systems Engineering; Université TÉLUQ, Data Science Laboratory (DOT-Lab)) 通讯作者：Brian L. Mishara (University of Québec at Montréal, Psychology Department; Center for Research and Intervention on Suicide, Ethical Issues and End-of-Life Practices)（根据作者列表顺序及机构性质推断） 作者列表：Alaa Nfissi（Concordia University， Université TÉLUQ）、Wassim Bouachir（Université TÉLUQ, Data Science Laboratory (DOT-Lab)）、Nizar Bouguila（Concordia University, Concordia Institute for Information Systems Engineering）、Brian L. Mishara（University of Québec at Montréal, Psychology Department; Center for Research and Intervention on Suicide, Ethical Issues and End-of-Life Practices） 💡 毒舌点评 这篇论文将经典的信号处理理论（Superlet）与现代可微学习框架结合得堪称教科书级别，数学推导和实验设计都非常严谨扎实，特别是那张展示学习到的分数阶分布与频率关系的可视化图（图5）非常直观地展示了模型的“可解释性”。但其短板在于，以“紧凑”为名的STEE编码器在搭配LFST前端后，实际计算开销（FLOPs、延迟、显存）远高于STFT、LEAF等基线（见附录表5），这使得“高效”二字在实时或资源受限场景下需要打上问号，论文在“效率-性能”权衡的讨论上稍显不足。 ...

📄 Learning multimodal dictionary decompositions with group-sparse autoencoders #跨模态 #音频检索 #稀疏自编码 #对比学习 #多模态模型 ✅ 7.5/10 | 前25% | #跨模态 | #稀疏自编码 | #音频检索 #对比学习 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Chiraag Kaushik (Georgia Institute of Technology, School of Electrical and Computer Engineering) 通讯作者：未说明 作者列表：Chiraag Kaushik (Georgia Institute of Technology, School of Electrical and Computer Engineering), Davis Barch (Dolby Laboratories), Andrea Fanelli (Dolby Laboratories) 💡 毒舌点评 本文精准地识别了稀疏自编码器（SAE）在多模态嵌入分解中的核心痛点——“字典分裂”，并通过一个直观的理论定理和一项巧妙的工程改进（群稀疏损失+交叉模态掩码）给出了系统性的解决方案，实验部分在图像-文本和音频-文本两个场景中均显示出稳健的增益。然而，其理论证明（定理1）的假设略显理想化，且对于“群稀疏损失”为何能如此有效地对抗SAE内置偏置的理论机制探讨尚浅，更像是一种经验性的成功，缺乏更深层的原理解释。 ...

📄 LLM2Fx-Tools: Tool Calling for Music Post-Production #音乐信息检索 #大语言模型 #多模态模型 #数据集 #音频效果 🔥 8.0/10 | 前25% | #音乐信息检索 | #大语言模型 #多模态模型 | #大语言模型 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：SeungHeon Doh（KAIST， Sony AI） 通讯作者：Junghyun Koo（Sony AI） 作者列表：SeungHeon Doh（KAIST， Sony AI）， Junghyun Koo（Sony AI）， Marco A. Martínez-Ramírez（Sony AI）， Woosung Choi（Sony AI）， Wei-Hsiang Liao（Sony AI）， Qiyu Wu（Sony Group Corporation）， Juhan Nam（KAIST）， Yuki Mitsufuji（Sony AI， Sony Group Corporation） 💡 毒舌点评 亮点：论文构建了一个从数据集到模型框架再到评估体系的完整闭环，首次将LLM的结构化工具调用能力系统地引入音乐效果链生成任务，实现了生成效果链、链式思考和自然语言响应的统一，思路清晰且工程化程度高。短板：实验评估基本在可控的单乐器场景下进行，离真实世界复杂的多轨音乐制作（如混音）仍有距离；效果链生成的“一对多”固有模糊性问题在评估中未被充分考量，可能高估了模型在真实场景下的精确性。 ...