多模态模型

📄 AMR: Adaptive Modality Routing for Multimodal Polyglot Speaker Identification #说话人识别 #多模态模型 #自监督学习 #数据增强 #语音识别 #计算机视觉 7.8/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.3/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ✅ 7.8/10 | 前25% | #说话人识别 | #自监督学习 | #多模态模型 #数据增强 | arxiv 👥 作者与机构 论文作者为 Chuxiao Zuo, Yao Zhu, Minqiang Xu, Manhong Wang, Yunke Zhang, 和 Fei Huang。所有作者均隶属于 Honor Device Co., Ltd.，单位地点包括南京和上海。 ...

📄 Effective Depth in Joint Source-Channel Coding: An Implicit Equilibrium Analysis #语音编码 #多模态模型 #信号处理基础 7.0/10 | 创新 8/2 | 严谨 7/1.5 | 实验 7/1.5 | 清晰 7/1 | 影响 6/1.5 | 开源 0/1.5 | 复现 7/0.5 | 工程 7/1.5 ✅ 7.0/10 | 前50% | #语音编码 | #多模态模型 | #信号处理基础 | arxiv 👥 作者与机构 作者: Kaiwen Yu, Gang Wu, Xiaodong Xu, Yi Ma, Rahim Tafazolli 单位: 电子科技大学 (国家无线通信重点实验室)，北京邮电大学 (网络与交换技术国家重点实验室)，鹏城实验室，萨里大学 (5GIC & 6GIC) 邮箱: yukaiwen@uestc.edu.cn; wugang99@uestc.edu.cn; xuxiaodong@bupt.edu.cn; y.ma@surrey.ac.uk; r.tafazolli@surrey.ac.uk 💡 毒舌点评 这篇论文的立意是好的，试图解决Deep JSCC中“固定深度”的痛点。但把DEQ和NNGP这套组合拳用在图像JSCC上，就像是用高射炮打蚊子——理论很漂亮，实际收益存疑。作者声称“参数复杂度与有效深度无关”，但实验里的表格显示其参数量远超最简单的DeepJSCC，只是比SwinJSCC小。那个深度-SNR理论模型，校准过程依赖一个特定的验证集，换个数据集恐怕就得重新标定，通用性要打个大问号。最关键是，整篇论文围绕图像传输，跟本领域（语音/音频）的结合点在哪里？一个处理RGB像素的框架，能直接套到梅尔频谱或波形上吗？结论下得太早，影响力有限。 ...

📄 LeVo 2: Stable and Melodious Song Generation via Hierarchical Representation Modeling and Progressive Post-Training #音乐生成 #大语言模型 #扩散模型 #多模态模型 #对比学习 #数据增强 9.4/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 9.4/10 | 前10% | #音乐生成 | #对比学习 | #大语言模型 #扩散模型 | arxiv 👥 作者与机构 论文作者来自清华大学深圳国际研究生院（清华-港中文联合研究中心）、腾讯、武汉大学以及香港理工大学。通讯作者为清华大学的吴志勇教授和腾讯的于东博士。第一作者Lei Shun在论文完成时为腾讯实习生。 💡 毒舌点评 这篇工作是典型的“大力出奇迹”式的系统工程论文，扎实有余，灵光乍现不足。其核心贡献——分层LeLM架构和渐进式后训练——本质上是将已有的Transformer LM、VQ-VAE、扩散模型和DPO/RLHF技术进行了精心的组合与流水线化设计。分层思想虽解决了序列长度和协调性问题，但并非首创；训练范式虽设计精巧（美学引导、阶段解耦），但更像是一套针对数据和任务特性的工程化解决方案，而非普适性的算法创新。论文最大的优点在于诚实和全面：它坦诚地承认了与顶级商业系统的差距，详细公开了训练细节和代码，消融实验做得非常扎实，证明了每个设计模块的必要性。对于领域内的实践者来说，这是一份极佳的参考蓝图和可复现的基线；但对于追求颠覆性创新的顶会审稿人来说，其方法论上的“新瓶装旧酒”会是主要扣分点。分数给到8.0，是对其工程完整度、实验严谨性和开源贡献的高度认可，但也明确反映了其在根本性创新上的局限。 📌 核心摘要 本文提出了LeVo 2，一个用于可控且富有旋律性的完整歌曲生成的混合LLM-Diffusion框架。其核心架构LeLM采用分层表示建模，首先由混合语义LM预测混合令牌以捕获全局音乐结构（旋律、节奏、人声与伴奏协调），随后特定音轨LM基于前者的隐藏状态并行预测人声与伴奏令牌，以精化声学细节，最后由基于扩散的音乐编解码器将预测的令牌重建为波形。论文的主要贡献在于提出了一套由自动化音乐美学评估框架引导的三阶段训练范式，该范式包含解耦的渐进式后训练策略（SFT、大规模离线DPO、闭环半在线DPO），旨在依次优化生成质量、可控性（歌词和提示对齐）和音乐性，以缓解多目标优化冲突和静态数据集的局限。实验表明，LeVo 2在六个主观维度上显著超越所有开源基线，并在部分指标上接近领先的商业系统（Suno v5, Mureka v8），消融研究验证了其架构和训练策略各组件的有效性。 ...

📄 Rehearsed Multi-Agent Live Product Demonstrations with Real-Time Voice Question Answering #多模态模型 5.3/10 | 创新 1/2 | 严谨 1/1.5 | 实验 0.3/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1/1.5 📝 5.3/10 | 后50% | #多模态模型 | #多模态模型 | arxiv 👥 作者与机构 Rahul Khedar, Mayank Malhotra, Avinash Karn, Mouli V, Prakhar Mehrotra PayPal AI 💡 毒舌点评 这篇论文画了一张很大的饼，承诺了一个能自动化产品演示并支持实时语音问答的完整系统。架构设计看起来很聪明，把UI探索和代码分析结合，还搞了个“预演练”来修复定位问题，听起来像是解决工业界演示痛苦的灵丹妙药。然而，最关键的实验部分却像是匆匆交了一份初稿。作者精心设计了一套包含10个指标、6类应用的基准测试协议，然后……就没然后了。我们只拿到了几个内部应用和一个公开应用（Excalidraw）的案例研究，而且连这个案例研究的数据都支离破碎。更糟糕的是，他们既没有验证“跨模态融合”到底有多大用，也没有测试“预演练循环”是否真的比没有它更好。整个系统的核心价值——生成高质量的演示——根本没有被客观量化。这就像一个厨师精心设计了菜谱和厨房设备，却只端上来几道没熟的试吃品，并坚称正式大餐很快会上。 📌 核心摘要 本文提出了Rhetor，一个多智能体系统，用于生成可预演练的实时Web产品演示，并支持实时语音问答。系统以运行的Web应用及其源代码仓库为输入，输出一个经过预演练的演示脚本，包含与浏览器操作同步的旁白，并通过同源反向代理在客户端浏览器中实时运行。其核心贡献是：1) 一个跨模态特征表示，融合UI探索和代码分析结果，为特性分配离散的焦点层级；2) 一个受约束的脚本生成器，确保所有动作仅引用探索时观察到的UI元素，并通过优先级顺序的多策略语义定位器执行；3) 一个“预演练-再呈现”循环，包含显式的收敛判定和优雅降级机制；4) 一个运行时同步不变量，通过服务器-客户端握手，将每个浏览器操作绑定到其对应旁白段的音频结束时刻，从而消除字级偏移。论文定义了一个由10个指标、6类应用组成的基准测试协议，并在一个包含四个部署应用（包括公开应用Excalidraw）的初步案例研究中验证了系统能端到端执行，并展示了预演练修复循环在某些情况下能驱动成功率达到收敛。 ...

语音/音乐/音频论文速递 2026-06-30 共分析 35 篇论文 ⚡ 今日概览 📥 抓取 35 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 10篇 ██████████ #语音合成 4篇 ████ #自监督学习 2篇 ██ #语音编码 2篇 ██ #音乐生成 1篇 █ #音频事件检测 1篇 █ #语音分离 1篇 █ #数据集 1篇 █ 📊 论文评分排行榜（35 篇，按分数降序） 排名 论文 总分 分档 主任务 🥇 Preference-ASR: A Preference-Aware Test Set for Benchma 9.5分 前10% #语音识别 🥈 LeVo 2: Stable and Melodious Song Generation via Hierar 9.4分 前10% #音乐生成 🥉 VIB-AVSR: Variational Information Bottleneck for Noise- 9.0分 前10% #语音识别 4. Two kinds of robustness are not the same: disentangling 8.9分 前25% #音频事件检测 5. DialogPII: A multilingual dataset of synthetic dialog t 8.9分 前25% #语音识别 6. GigaSpeechBench: A Real-World Multilingual Speech-to-Te 8.7分 前50% #语音识别 7. SICAGE: Speaker-Independent Culture-Aware Gesture Gener 8.7分 前25% #语音合成 8. How to Leverage Synthetic Speech for LLM-Based ASR Syst 8.7分 前50% #语音识别 9. Position-Aware Target Speaker Extraction for Long-Form 8.5分 前25% #语音识别 10. wav2VOT: Automatic estimation of voice onset time, clos 8.5分 前25% #自监督学习 11. Improving Large-Scale Weakly Supervised ASR by Filterin 8.4分 前25% - 12. Agent-Computer Observation Interfaces Enable Dynamic Co 8.4分 前10% #语音识别 13. DTM-Codec: Dynamic Token Masking for VFR Speech Coding 8.1分 前25% #语音编码 14. TF-MoE: Time-Frequency Mixture-of-Experts for Efficient 8.1分 前25% #语音分离 15. Underwater Source Detection and Classification for Sign 7.8分 前25% #数据集 16. AMR: Adaptive Modality Routing for Multimodal Polyglot 7.8分 前25% #说话人识别 17. FacePlex: Full-Duplex Joint Speech-Facial Motion Genera 7.8分 前25% #语音合成 18. VeRe-Flow: Guiding Flow Matching toward Clean Speech vi 7.7分 前25% #语音增强 19. CTC-Seeded Token Edit Refinement for Non-Autoregressive 7.7分 前25% #语音识别 20. Evaluation of Head-Related Transfer Functions Across Fi 7.6分 前25% #空间音频 21. Semi-Supervised Sound Event Detection with Conditional 7.6分 前25% #对比学习 22. OLIVE: View-Augmented Latent Prediction with Waveform R 7.5分 前50% #语音识别 23. EchoHawk: A Reproducible Acoustic Pipeline for Drone De 7.5分 前25% - 24. LoRA-Tuned Large Language Models for Dementia Detection 7.5分 前50% #参数高效微调 25. MeloDISinger: Melody-Aware & Duration-Preserving Si 7.4分 前50% #语音合成 26. Child-Centric Voice Anonymization in Single and Multi-S 7.2分 前50% #语音匿名化 27. SIGMA: Saliency-Guided Sparse Mask Attacks for Speech E 7.1分 前50% #语音情感识别 28. Effective Depth in Joint Source-Channel Coding: An Impl 7.0分 前50% #语音编码 29. SIMAX: A Scalable and Interpretable Framework for Multi 6.6分 后50% #语音合成 30. Clustering Unsupervised Representations as Defense agai 6.5分 前50% #自监督学习 31. Comparing Human and Automatic Recognition of Dutch Dysa 6.5分 前50% #语音识别 32. Predicting Timbre Traits for Interpretable Assessment o 6.1分 前50% #音频生成 33. TRACE: Temporal Relationship-Aware Conversational Entra 5.9分 前50% - 34. Proteus: Automated Adversarial Robustness Testing for A 5.3分 后50% #数据增强 35. Rehearsed Multi-Agent Live Product Demonstrations with 5.3分 后50% #多模态模型 📋 论文列表 🥇 Preference-ASR: A Preference-Aware Test Set for Benchmarking ASR in the Era of Speech LLMs 9.5/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 ...

📄 A Survey of Automated Presentation Coaching: Systems, Methods, and Open Challenges #语音识别 #语音合成 #自监督学习 #多模态模型 #多任务学习 5.4/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 0.7/1.5 | 清晰 0.9/1 | 影响 0.7/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 0.3/1.5 📝 5.4/10 | 后50% | #语音识别 | #自监督学习 | #语音合成 #多模态模型 | arxiv 👥 作者与机构 Wen Liang: Columbia University, Red Hat Li Siyan: Columbia University Zackary Rackauckas: RoleGaku Julia Hirschberg: Columbia University 💡 毒舌点评 这篇综述试图为“自动化演讲辅导”这个看似细分但实际横跨多个热门领域的课题（CAPT、TTS、L2语言学习）建立一个清晰的分类法和研究路线图。其野心值得肯定，但执行上仍有改进空间。 ...

📄 MER-R1: Multimodal Emotion Reasoning via Slow-Fast Thinking Synergy #多模态模型 #强化学习 7.4/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.4/10 | 前25% | #多模态模型 | #强化学习 | arxiv 👥 作者与机构 作者：Zhiyuan Han, Beier Zhu, Wenwen Tong, Chengwei Qin, Xinyi Wang, Jiayu Zhang, Jiangnan Chen, Hewei Guo, Dongchuan Ran, Lewei Lu, Xun Yang 机构：中国科学技术大学, 商汤科技研究院, 香港科技大学（广州）, 合肥综合性国家科学中心人工智能研究院 💡 毒舌点评 这篇论文精准地戳到了当前多模态推理增强的一个痛处——“我思故我不准”。作者不仅发现了“慢思考悖论”这个反直觉现象，还像侦探一样拆解了快慢思考在召回率和精确率上的不同“作案手法”，并给出了一个工程上颇具巧思的“协同”解决方案。其核心价值在于将现象观察转化为了可优化的数学目标，这比简单地堆砌模型或数据要高明。然而，理论分析部分有点“为了证明而证明”的味道，简化假设较多，实际优化动态可能远比公式复杂。实验上，与最强基线“Baseline”的对比细节含糊，总让人怀疑性能提升里有多少是方法功劳，多少是“调参艺术”。此外，方法严重依赖一个假设：训练时能准确匹配情绪词与真值标签来划分正负样本。在开放词汇、多标签的真实场景下，这个“裁判”本身可能就经常误判，导致校准信号“污染”。总的来说，是一个观察深刻、设计精巧但部分地基不够牢固的优秀工作，离真正的“顶会满分答案”还差一口气。 ...

语音/音乐/音频论文速递 2026-06-29 共分析 16 篇论文 ⚡ 今日概览 📥 抓取 16 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 4篇 ████ #语音合成 2篇 ██ #说话人识别 2篇 ██ #语音质量评估 1篇 █ #数据增强 1篇 █ #语音情感识别 1篇 █ #多模态模型 1篇 █ #语音增强 1篇 █ 📊 论文评分排行榜（16 篇，按分数降序） 排名 论文 总分 分档 主任务 🥇 Screening Matters: A Comparative Study of Conventional 8.4分 前25% #语音质量评估 🥈 From General-Purpose Audio Tagging to Spatially Grounde 8.3分 前50% #数据增强 🥉 HPRO: Hierarchical Progressive Reward Optimization via 8.2分 前50% #语音合成 4. Learning from Annotation Uncertainty: Entropy-Aware Cur 7.4分 前50% #语音情感识别 5. MER-R1: Multimodal Emotion Reasoning via Slow-Fast Thin 7.4分 前25% #多模态模型 6. A Comparison of Fusion Techniques for Multi-Modal Human 7.3分 前50% - 7. Do Speech Emphasis Models Generalize across Languages a 7.0分 前25% #语音识别 8. Advancing Speaker-Based Vocal Effort Classification wit 6.8分 前50% #语音增强 9. HybridCodec: Modeling Discrete and Continuous Represent 6.5分 前50% #语音合成 10. Grammar-Guided Hierarchical Parsing for Long-form Audio 6.2分 前50% #音频事件检测 11. Room for Error: Large-Scale Simulation of Over-the-Air 6.2分 前50% #语音识别 12. What Was That Again? Certified Robustness for Automatic 6.2分 前50% - 13. Dialogue to Detection: A Multimodal Hybrid NLP Pipeline 6.0分 后50% #说话人识别 14. From Black-Box to Clinical Insight: A Multi-Stage Expla 6.0分 前50% #语音识别 15. DG^VoiC: Speaker Clustering for Fraud Investigation und 5.7分 前50% #说话人识别 16. A Survey of Automated Presentation Coaching: Systems, M 5.4分 后50% #语音识别 📋 论文列表 🥇 Screening Matters: A Comparative Study of Conventional and Crowdsourced Listening Tests 8.4/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ...

📄 CodecSep: Prompt-Driven Universal Sound Separation on Neural Audio Codec Latents #Transformer #多任务学习 #多模态模型 7.7/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ✅ 7.7/10 | 前25% | 音频分离 | #Transformer | #多任务学习 #多模态模型 | arxiv 👥 作者与机构 作者：Adhiraj Banerjee, Vipul Arora 机构：印度理工学院坎普尔分校电气工程系 💡 毒舌点评 论文提出了一个想法清��的模型：利用已经训练好的音频压缩模型（DAC）的紧凑表示和一个强大的文本-音频对齐模型（CLAP）的文本特征，通过一个轻量级的Transformer掩码器实现高效的文本引导音频分离。这个思路在计算效率上确实取得了显著优势，尤其是在边缘部署场景下，GMACs大幅降低。然而，“首个”的宣称需要谨慎对待，因为 CodecFormer 等工作已经探索了NAC在分离中的应用，本文的核心是加入了文本引导。实验评估全面，覆盖了多个数据集和不同的提示粒度。主要问题在于：1) 代码和模型权重未开源，严重削弱了可复现性和社区验证的基础；2) 论文第3.3节关于“为什么NAC潜在空间更好”的讨论篇幅过长，部分内容（如与RVQ层级结构的关联）更像是推测而非由严格实验证明的因果结论；3) 核心结论“掩码优于生成”虽然得到表格3的支持，但对照组（CodecFormer）是固定类别分离模型，与文本引导设置不完全对等，使得比较的公平性稍打折扣。总体而言，这是一篇扎实的增量工作，解决了具体且重要的部署效率问题，但缺乏代码开源和更底层的理论分析。 📌 核心摘要 CodecSep是首个将神经音频编解码器（NAC）与文本引导相结合，用于通用音频源分离的模型。它通过将预训练的DAC作为编解码骨干，冻结其参数，并利用CLAP生成的文本嵌入，通过FiLM条件调制一个Transformer掩码器。掩码器在DAC编码的紧凑潜在空间上操作，预测源掩码，从而实现高效的分离。该方法在分离保真度（SI-SDR）上超越了AudioSep，同时保持了有竞争力的感知质量（ViSQOL），并将代码流部署下的计算成本降低了约54倍。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及。 数据集： dnr-v2 (Divide and Remaster v2.0)：论文中提及该数据集的引用，但未提供具体下载链接。 AudioCaps：论文中提及该数据集的引用，但未提供具体下载链接。 ESC-50：论文中提及该数据集的引用，但未提供具体下载链接。 Clotho-v2：论文中提及该数据集的引用，但未提供具体下载链接。 AudioSet-eval：论文中提及该数据集的引用，但未提供具体下载链接。 VGGSound：论文中提及该数据集的引用，但未提供具体下载链接。 LibriSpeech, FMA (Free Music Archive), FSD50K：论文中提及作为dnr-v2的组成部分，但未提供具体下载链接。 Demo：论文中未提及。 复现材料：论文中未提及单独的复现材料包（如预训练检查点、完整训练配置文件等）。论文在第4.3节“训练”中详细描述了训练配置（如优化器、学习率、硬件环境等），但未提供可直接使用的材料链接。 论文中引用的开源项目： CLAP (Contrastive Language-Audio Pretraining)：论文中引用，但未提供具体代码仓库链接。 DAC (Descript Audio Codec)：论文中引用，但未提供具体代码仓库链接。 CodecFormer：论文中引用，但未提供具体代码仓库链接。 SDCodec：论文中引用，但未提供具体代码仓库链接。 AudioSep：论文中引用，但未提供具体代码仓库链接。 Torchprofile：用于计算MACs的工具，论文中提供了其GitHub链接：https://github.com/zhijian-liu/torchprofile。 TDANet：论文中引用，但未提供具体代码仓库链接。 DPTNet, SepFormer, Wave-UNet, Demucs, MM-DenseLSTM, DCCRN, Spleeter：论文中引用，但均未提供具体代码仓库链接。 🏗️ 方法概述和架构 CodecSep采用编码器-掩码器-解码器的架构，在DAC的潜在空间中进行操作。 ...

📄 Listening Like a Judge: A Music-Aware Framework for Automatic Singing Performance Evaluation #多模态模型 #参数高效微调 #数据增强 #信号处理基础 8.8/10 | 创新 1.8/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.8/10 | 前25% | 歌唱评估 | #参数高效微调 | #多模态模型 #数据增强 | arxiv 👥 作者与机构 作者：Neelam Saini, Sourav Ghosh 机构：Samsung R&D Institute Bangalore, India 💡 毒舌点评 这篇工作试图解决歌唱评估这个“众口难调”的问题，想法不错。MG-LoRA算是个有用的工程技巧，让Whisper在唱歌时少犯点错。但问题在于，你号称“Judging like a human”，可人类评委听歌时脑子里装的可不只是音高和歌词。论文用全局调性来评判所有段落的音准，这就像让一个只会用A调吉他的人去评判爵士乐里的转调和即兴，过于简单粗暴。另外，SwaraLyrics数据集虽然贴出来了，但只有420个印度音乐样本，以此宣称“跨语言、跨风格”的泛化能力，说服力就像说“我吃过北京烤鸭，所以我懂中餐”一样。最后，框架里用的gpt-oss-120b和all-MiniLM-L6-v2这些组件，论文只说用，没说怎么调、效果如何，复现起来得靠猜。整体是个扎实的工程实现，但离真正的“智能评委”还有距离。 ...