多模态模型

ICML 2026 语音/音频论文详细分析 共分析 137 篇 ICML 2026 论文 🎯 任务分类 点击任务标签查看该方向所有论文： 音视频理解（18篇） 音视频生成（10篇） 音频分类（9篇） 音频理解（8篇） 音乐生成（8篇） 语音合成（8篇） 音视频问答（8篇） 语音识别（5篇） 语音伪造检测（4篇） 语音交互（4篇） 语音增强（4篇） 语音编码（4篇） 多模态模型（3篇） 音频伪造检测（3篇） 音频分离（2篇） 空间音频（2篇） 音频编码（2篇） 音频修复（2篇） 语音属性识别（2篇） 音频生成（2篇） ⚡ 会议概览 📥 ICML 2026 接收 6341 篇论文 → 🔍 关键词 + LLM 筛选 137 篇音频/语音/音乐相关 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音视频理解 18篇 ██████████████████ #音视频生成 10篇 ██████████ #音频分类 9篇 █████████ #音频理解 8篇 ████████ #音乐生成 8篇 ████████ #语音合成 8篇 ████████ #音视频问答 8篇 ████████ #语音识别 5篇 █████ #语音伪造检测 4篇 ████ #语音交互 4篇 ████ #语音增强 4篇 ████ #语音编码 4篇 ████ #多模态模型 3篇 ███ #音频伪造检测 3篇 ███ #音频分离 2篇 ██ 📊 论文评分排行榜（137 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 TimeChat-Captioner: Scripting Multi-Scene Videos with T 9.4分 前10% #音视频理解 🥈 Joint Enhancement and Classification using Coupled Diff 9.3分 前10% #语音识别 🥉 Learning Tight Rejection Boundaries without Negatives f 9.3分 前10% #语音伪造检测 4. AVTrack: Audio-Visual Tracking in Human-centric Complex 9.3分 前10% #音视频理解 5. A Semantically Consistent Dataset for Data-Efficient Qu 9.2分 前10% #音频分离 6. SAM Audio: Segment Anything in Audio 9.2分 前10% #音频分离 7. MECAT: A Multi-Experts Constructed Benchmark for Fine-G 9.1分 前10% #音频理解 8. $\tau$-Voice: Benchmarking Full-Duplex Voice Agents on 9.1分 前10% #语音交互 9. PhaseCoder: Microphone Geometry-Agnostic Spatial Audio 8.7分 前25% #空间音频 10. BAT: Better Audio Transformer Guided by Convex Gated Pr 8.6分 前25% #音频分类 11. SPEAR: A Unified SSL Framework for Learning Speech and 8.4分 前25% #音频理解 12. Dual-View Predictive Diffusion: Lightweight Speech Enha 8.4分 前25% #语音增强 13. Unlocking Cross-Modal Biosignal Synthesis: A Temporally 8.3分 前25% - 14. CoLA: Cross-Modal Low-rank Adaptation for Multimodal Do 8.3分 前25% #音视频理解 15. Speech-Audio Compositional Attacks on Multimodal LLMs a 8.3分 前25% #音频理解 16. MoST: Mixing Speech and Text with Modality-Aware Mixtur 8.2分 前25% - 17. IVQ: Structured and Lightweight Vector Quantization via 8.2分 前25% #音频编码 18. Spherical Procrustes Alignment for Reliable Medical Aud 8.2分 前25% #音频分类 19. Attend to Anything: Foundation Model for Unified Human 8.2分 前25% #音视频理解 20. VocSim A Training-free Benchmark for Zero-shot Content 8.2分 前25% #音频检索 21. JAEGER: Joint 3D Audio-Visual Grounding and Reasoning i 8.1分 前25% #声源定位 22. LALM-as-a-Judge: Benchmarking Large Audio-Language Mode 8.1分 前25% #语音交互 23. Pianist Transformer: Towards Expressive Piano Performan 8.1分 前25% #音乐生成 24. Simultaneous Speech-to-Speech Translation Without Align 8.0分 前25% #语音翻译 25. PHALAR: Phasors for Learned Musical Audio Representatio 8.0分 前25% #音乐生成 26. Optimality of FSQ Tokens for Continuous Diffusion for C 8.0分 前25% #语音合成 27. SonicMaster: Towards Controllable All-in-One Music Rest 8.0分 前25% #音频修复 28. Do Audio LLMs Listen or Read? Analyzing and Mitigating 8.0分 前25% #语音属性识别 29. Multiple Choice Learning of Low-Rank Adapters for Langu 8.0分 前25% #多模态模型 30. Bridging the Stability-Expressivity Gap: Synthetic Data 8.0分 前25% #语音合成 31. FutureOmni: Evaluating Future Forecasting from Omni-Mod 8.0分 前25% #音视频问答 32. Acoustic Interference: A New Paradigm Weaponizing Acous 8.0分 前25% #音频理解 33. ReGen: Hierarchical Multi-Prompt Representation Generat 8.0分 前25% #语音编码 34. DiscoForcing: A Unified Framework for Real-Time Audio-D 8.0分 前25% #音乐生成 35. DreamID-Omni: Unified Framework for Controllable Human- 8.0分 前25% #音视频生成 36. AgentSteerTTS: A Multi-Agent Closed-Loop Framework for 7.9分 前25% #语音合成 37. STAR-VAE: Structured Topology-Aware Regularization for 7.9分 前25% #音频生成 38. HyperPotter: Spell the Charm of High-Order Interactions 7.9分 前25% #音频伪造检测 39. T2AV-Compass: Towards Unified Evaluation for Text-to-Au 7.9分 前25% #音视频生成 40. Decoupling The “What” and “Where” With Polar Coordinate 7.8分 前25% #音乐生成 41. V-LynX: Token Interface Alignment for Video+X LLMs 7.8分 前25% #音视频问答 42. Ariadne’s Thread of LipSync: Unraveling Forgeries via I 7.8分 前25% #音视频理解 43. SONAR: Spectral‑Contrastive Audio Residuals for General 7.8分 前25% #语音伪造检测 44. TMD-Bench: A Multi-Level Evaluation Paradigm for Music– 7.7分 前25% #音视频生成 45. AudioMosaic: Contrastive Masked Audio Representation Le 7.7分 前25% #音频分类 46. BFCL Audio: An Audio Function Calling Evaluation for La 7.7分 前25% #语音交互 47. SALSA-V: Shortcut-Augmented Long-form Synchronized Audi 7.6分 前25% #音视频生成 48. BEAT: Tokenizing and Generating Symbolic Music by Unifo 7.6分 前25% #音乐生成 49. From Inpainting to Editing: Unlocking Robust Mask-Free 7.6分 前25% #扩散模型 50. Hearing Without Noticing? Attention-Aware Stealthy Blac 7.6分 前25% #语音识别 51. AVGen-Bench: A Task-Driven Benchmark for Multi-Granular 7.6分 前25% #音视频生成 52. Alethia: a Foundational Encoder for Voice Deepfakes 7.6分 前25% #语音伪造检测 53. AG-REPA: Causal Layer Selection for Representation Alig 7.6分 前25% #语音合成 54. AVI-Bench: Toward Human-like Audio-Visual Intelligence 7.6分 前25% #音视频理解 55. Two-dimensional quantization for geometry-aware audio c 7.6分 前25% #语音编码 56. Abstraction Induces the Brain Alignment of Language and 7.5分 前25% #语音编码 57. Self-Guidance: Enhancing Neural Codecs via Decoder Mani 7.5分 前25% #语音编码 58. OmniVideo-R1: Reinforcing Audio-visual Reasoning with Q 7.5分 前25% #音视频问答 59. Listening Through the Noise: Cauchy-Driven Diffusion Br 7.4分 前50% #音频修复 60. MoshiRAG: Asynchronous Knowledge Retrieval for Full-Dup 7.4分 前50% - 61. Omni-Perception Policy Optimization for Multimodal Emot 7.4分 前50% #音视频理解 62. video-SALMONN S: Memory-Enhanced Streaming Audio-Visual 7.3分 前50% #音视频问答 63. Group Cognition Learning: Making Everything Better Thro 7.3分 前50% #音视频理解 64. REST: Diffusion-based Real-time End-to-end Streaming Ta 7.3分 前50% #音视频生成 65. PhoStream: Benchmarking Real-World Streaming for Omnimo 7.3分 前50% #音视频问答 66. ProactiveLLM: Learning Active Interaction for Streaming 7.2分 前50% #语音识别 67. Stream RAG: Instant and Accurate Spoken Dialogue System 7.2分 前50% #流式处理 68. Probing Cross-modal Information Hubs in Audio-Visual LL 7.2分 前50% #音视频理解 69. Efficient Multi-modal Dataset Distillation via Analytic 7.2分 前50% #对比学习 70. Self-Supervised Flow Matching for Scalable Multi-Modal 7.2分 前50% #音视频生成 71. CoCoEmo: Composable and Controllable Human-Like Emotion 7.1分 前50% #语音合成 72. Scaling Transformers for End-to-End Discrete Audio Toke 7.1分 前50% #音频编码 73. Query-Based Asymmetric Modeling with Decoupled Input–Ou 7.1分 前50% #语音增强 74. OmniSIFT: Modality-Asymmetric Token Compression for Eff 7.1分 前50% #音视频问答 75. Sparse Autoencoders for Interpretable Emotion Control i 7.0分 前50% #语音合成 76. The Silent Thought: Modeling Internal Cognition in Full 7.0分 前50% #知识蒸馏 77. Hidden in Plain Tokens: Simply Robust, Gradient-Free Wa 7.0分 前50% #音频水印 78. Efficient Distributed MLLM Training with Cornstarch 7.0分 前50% #音视频理解 79. Reasoning LLM Improves Speaker Recognition in Long-form 7.0分 前50% - 80. Real-World Unsupervised Models Generalize to Predict Br 6.9分 前50% #模型评估 81. From Talking to Singing: A New Challenge for Audio-Visu 6.9分 前50% #音视频理解 82. OmniShow: Unifying Multimodal Conditions for Human-Obje 6.9分 前50% #音视频生成 83. E-VAds: An E-commerce Short Videos Understanding Benchm 6.9分 前50% #音视频问答 84. STARCaster: Spatio-Temporal AutoRegressive Video Diffus 6.8分 前50% #音视频生成 85. Zero-Shot Rankability: Revealing Latent Ordinal Structu 6.8分 前50% #音视频理解 86. An Exterior Method for Nonnegative Matrix Factorization 6.8分 前50% #音频分类 87. FoeGlass: Simple In-Context Learning Is Enough for Red 6.8分 前50% #语音伪造检测 88. Native Active Perception as Reasoning for Omni-Modal Un 6.8分 前50% #音视频理解 89. Unlocking Speech–Text Compositional Powers: Instruction 6.7分 前50% #语音交互 90. UltraLIF: Fully Differentiable Spiking Neural Networks 6.7分 前50% #音频分类 91. Towards Streaming Synchronized Spatial Audio Generation 6.6分 前50% #音视频生成 92. TextME: Bridging Unseen Modalities Through Text Descrip 6.6分 前50% - 93. Evaluating and Rewarding LALMs for Expressive Role-Play 6.6分 前50% #语音合成 94. PADS-TAL: Padding-Annealed Diffusion Sampling in Text-A 6.6分 前50% #音乐生成 95. ADEPT: RL-Aligned Agentic Decoding of Emotion via Evide 6.5分 前50% #语音情感识别 96. Universal Algorithm-Implicit Learning 6.5分 前50% #音频分类 97. SARSteer: Safeguarding Large Audio Language Models via 6.5分 前50% - 98. MetaPerch: Learning from metadata for bioacoustics foun 6.5分 前50% #音频分类 99. Polyphonia: Zero-Shot Timbre Transfer in Polyphonic Mus 6.5分 前50% #音乐生成 100. CMI-RewardBench: Evaluating Music Reward Models with Co 6.4分 前50% #音乐生成 101. Multimodal Fact-Level Attribution for Verifiable Reason 6.4分 前50% #音频理解 102. MedMosaic: A Challenging Large Scale Benchmark of Diver 6.4分 前50% #音频理解 103. INFER: Learning Implicit Neural Frequency Response Fiel 6.4分 前50% #空间音频 104. Characterizing the Predictive Impact of Modalities with 6.4分 前50% - 105. PCRNet: Phase-aware Complex Refinement Network for EEG- 6.4分 前50% #实时处理 106. OmniFit: Bridging Modalities via Layer-Adaptive Token C 6.3分 前50% #音视频理解 107. EchoingPixels: Aliasing-Resistant Joint Token Reduction 6.3分 前50% #音视频理解 108. Quaternion Self-Attention with Shared Scores 6.3分 前50% #语音增强 109. LightAVSeg: Lightweight Audio-Visual Segmentation 6.3分 前50% #模型压缩 110. SURF: Separation via Unsupervised Remixing Flow 6.2分 前50% #语音分离 111. Neural-Inspired Modeling of Auditory Selection and Comp 6.2分 前50% #音视频语音分离 112. AuTAgent: A Reinforcement Learning Framework for Tool-A 6.2分 前50% #音频理解 113. Multimodal Latent Language Modeling with Next-Token Dif 6.1分 前50% #语音合成 114. FakeWorld 1.0: An Omni-modal Benchmark for Fake Media a 6.1分 前50% #可解释性 115. ConsMSA: Semantic Distribution Consistency Learning for 6.1分 前50% #多模态模型 116. MusicDET: Zero-Shot AI-Generated Music Detection 6.1分 前50% #音频伪造检测 117. Convex Low-resource Accent-Robust Language Detection in 6.0分 前50% #语音识别 118. NeuroCLUS: A Foundation Model with Functional Clusterin 6.0分 前50% #语音识别 119. Sparse Tokens Suffice: Jailbreaking Audio Language Mode 5.9分 前50% #模型剪枝 120. Scaling Behavior in Model Fine-tuning for Audio DeepFak 5.9分 前50% #音频伪造检测 121. Bioacoustic Geolocation: Species Sounds as Geographic S 5.8分 前50% #音频理解 122. AudioChat: Unified Audio Storytelling, Editing, and Und 5.8分 前50% #音频生成 123. Omni-Diffusion: Unified Multimodal Understanding and Ge 5.8分 前50% - 124. Robust Signal Enhancement via Fractional Detail Views a 5.7分 前50% #语音增强 125. Multimodal Fusion via Self-Consistent Task-Gradient Fie 5.5分 前50% #鲁棒性 126. NAACA: Training-Free NeuroAuditory Attentive Cognitive 5.5分 前50% #音频事件检测 127. Language Model Augmented Semi-Supervised Statistical In 5.4分 后50% #语音属性识别 128. MER-DG: Modality-Entropy Regularization for Multimodal 5.4分 后50% #音视频理解 129. Towards Understanding Modality Interaction in Multimoda 5.3分 后50% #音视频理解 130. Stable Spectral Copula Alignment for Robust Multimodal 5.2分 后50% #鲁棒性 131. Multimodal Meta-Verifier with Explicit Structured Recal 5.2分 后50% #多模态模型 132. WaveSSM: Multiscale State-Space Models for Non-stationa 4.8分 后50% #音频分类 133. Efficient, Property-Aligned Fan-Out Retrieval via RL-Co 4.7分 后50% #音乐检索 134. VIBE: Disentangling Social Dynamics via Kinematics-Info 4.6分 后50% - 135. UniFLoW: Universal Multi-Modal Federated LoRA Fine-Tuni 4.4分 后50% #音视频问答 136. Rethinking Attention in Spiking Transformers: Overcomin 3.6分 后50% #音频分类 137. PRIM：Cooperative Dynamic Token Compression for Efficien 3.6分 后50% #音视频理解 📋 论文列表 🥇 TimeChat-Captioner: Scripting Multi-Scene Videos with Time-Aware and Structural Audio-Visual Captions 🔥 9.4/10 | 前10% | #音视频理解 | 创新 1.7/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 影响 0.9/1.5 | 开源 1.5/1.5 ...

📄 OPOD: On-Policy Omni Distillation 标签：#多模态模型 #知识蒸馏 #后训练 #强化学习 #自监督学习 7.1/10 | 创新 1.8/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 1/1.5 ✅ 7.1/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #多模态模型 | #知识蒸馏 | #后训练 #强化学习 | arxiv 👥 作者与机构 第一作者：Tong Zhao（工作于腾讯实习期间完成） 通讯作者：Zhicheng Dou 作者列表：Tong Zhao（腾讯）、Yuyang Hu（腾讯）、Reed Li（腾讯）、Yu Lu（腾讯）、Haibo Shi（腾讯）、Yutao Zhu（腾讯）、Zhicheng Dou（腾讯）。所有作者机构均标注为腾讯，但未说明具体实验室或部门。 💡 毒舌点评 论文将“多教师路由”与“精细过程奖励”结合，提出了一个逻辑自洽的框架来解决全模态模型融合中的能力冲突问题，在多个骨干网络上均取得了显著提升，实验设计和消融分析扎实。然而，其核心贡献——三个专项教师模型及其训练流程——完全未开源，训练数据、代码、模型权重均未公开，关键训练细节（如优化器、学习率、完整超参数）也缺失，这使得这项工作的“可复现性”和“实际影响力”大打折扣，更像是一份缺乏透明度的技术报告，而非一项可复现的学术研究。 📌 核心摘要 要解决什么问题：在训练能够处理文本、图像和音频的全模态大模型时，简单地将多模态数据混合进行强化学习（如GRPO）训练，会导致不同模态能力相互冲突，难以达到各模态专项教师模型的性能水平。 方法核心是什么：提出“On-Policy Omni Distillation (OPOD)”框架，通过一个基于输入模态标签的路由机制，将学生模型的生成轨迹分发到对应模态（文本/图像/音频）的专项教师模型进行评估。教师的评估信号被转化为三个互补的损失组件：单边token级指导、模态自适应权重控制以及教师验证的推理过程奖励，共同更新学生模型。 与已有方法相比新在哪里：相较于标准的On-Policy Distillation (OPD)和ExOPD，OPOD通过路由解决了教师冲突；通过单边引导（仅保留教师比学生自信的token指导）避免了学生超越教师后被拉回；通过模态自适应控制（为每种模态维护独立的约束预算和权重）避免了不同模态训练速度不一致导致的性能此消彼长；并通过教师作为验证器，设计了“答案置信度”和“推理增益”两个过程奖励，提供了超越最终答案正确性的密集监督信号。 主要实验结果如何：在Qwen3-Omni-30B-A3B、Qwen2.5-Omni-7B和3B三个骨干上进行了评估。在30B模型上，OPOD的12个基准测试平均得分为70.8，比最强的基线（ExOPD，68.6）高2.2分，在所有12个基准上均优于基础模型和混合数据GRPO，且在11个基准上排名第一或第二（包含单独教师对比）。跨尺度实验显示，OPOD在3B和7B骨干上也分别以46.2和51.7的平均分领先，优势明显。 实际意义是什么：提供了一种有效的方法，将多个在不同模态上表现优异的专家模型的能力，整合到一个统一的、可部署的模型中，避免了推理时的集成开销。 主要局限性是什么：论文未开源任何代码、模型或数据，使得完整复现极为困难。实验主要在特定系列模型（Qwen-Omni）上进行，对其他架构的泛化性有待验证。方法对教师模型的质量有强依赖。评估基准主要集中在知识问答和推理任务上，对开放生成任务的效果未知。验证奖励的计算增加了训练时的计算开销。 论文观察到，不同模态的专项教师具有互补优势，但直接混合数据训练会导致冲突。 ...

📄 SCoPE: Shift-Aware Speaker-Conditioned Priors for Emotion Recognition in Conversations 标签：#语音情感识别 #多模态模型 #多任务学习 #音频理解 #Transformer 6.0/10 | 创新 1.2/2 | 严谨 0.8/1.5 | 实验 0.8/1.5 | 清晰 0.7/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 6.0/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音情感识别 | #多模态模型 | #多任务学习 #音频理解 | arxiv 👥 作者与机构 第一作者：Burak Can Kaplan（Department of Informatics, University of Hamburg） 通讯作者：Stefan Wermter（Department of Informatics, University of Hamburg） 作者列表：Burak Can Kaplan（Department of Informatics, University of Hamburg）、Stefan Wermter（Department of Informatics, University of Hamburg） 💡 毒舌点评 论文巧妙地将心理学中的“情感惯性”概念转化为一个轻量级GRU模块(SCoPE)，并首次将情感偏移预测作为推理时的动态控制信号而非辅助任务，在相对“干净”的IEMOCAP数据集上取得了扎实的性能提升，这比单纯堆叠更复杂的模型更具启发意义。但其短板也同样明显：在更具挑战性、噪声更多的MELD数据集上提升有限，暴露出模型在复杂真实场景下泛化能力的不足；核心的融合机制虽有直观解释，但其“贝叶斯启发的产品专家”说法与实际的线性求和操作存在理论上的模糊，且缺乏更严格的消融实验来证明每个组件的独立贡献。 ...

📄 Toward Generalizable Cognitive Impairment Detection with Speech-Based Multimodal Large Language Models 标签：#多模态模型 #语音情感识别 #医疗音频 #语音大模型 #音频理解 7.0/10 | 创新 1/2 | 严谨 1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 7.0/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #语音情感识别 | #多模态模型 | #医疗音频 #语音大模型 | arxiv 👥 作者与机构 第一作者：Yingchao Huang (Saskatchewan Polytechnic, Faculty of Digital Innovation, Arts & Sciences) 通讯作者：Yingchao Huang (Saskatchewan Polytechnic, Faculty of Digital Innovation, Arts & Sciences) 作者列表：Yingchao Huang (Saskatchewan Polytechnic, Faculty of Digital Innovation, Arts & Sciences)、Xin Wang (Saskatchewan Polytechnic, Faculty of Digital Innovation, Arts & Sciences)、Yuhan Su (Hebei University, School of Basic Medical Sciences)、Shanshan Yao (University of Alberta, Department of Civil & Environmental Engineering and School of Mining & Petroleum Engineering) 💡 毒舌点评 论文提出了一个基于开源音频和文本大模型的多模态框架用于认知障碍（CI）检测，并在跨数据集泛化上展示了良好的结果，这确实指向了临床部署的关键需求。然而，其核心方法缺乏新颖性，本质上是将现成的“黑盒”Qwen-Audio和Qwen模型作为特征提取器，进行简单的向量拼接和分类，缺乏对模型内部机制、融合策略或训练范式的深入探索。论文更像是一份优秀的工程应用报告或基准测试，而非提出了具有启发性的新研究范式。其宣称的“新SOTA”主要依赖于大型预训练模型强大的表征能力，而非方法设计的巧妙。 ...

📄 X^3-OPD: Distilling Reasoning into Large Audio-Language Models via On-Policy Alignment 标签：#音频理解 #知识蒸馏 #多模态模型 #强化学习 #Transformer 7.1/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 1.1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.1/10 | 前50% | 文档类型：方法研究 | 评分置信度：中 | #音频理解 | #知识蒸馏 | #多模态模型 #强化学习 | arxiv 👥 作者与机构 第一作者：Dongjie Fu (Tencent Hunyuan, Zhejiang University) 通讯作者：Tao Jin (Zhejiang University) 作者列表：Dongjie Fu (Tencent Hunyuan, Zhejiang University), Di Cao (Tencent Hunyuan), Xize Cheng (Zhejiang University), Zihan Zhang (Zhejiang University), Wenxu Jia (Zhejiang University), Yifu Chen (Zhejiang University), Shengpeng Ji (Tencent Hunyuan, Zhejiang University), Yu Zhang (Zhejiang University), Tao Jin (Zhejiang University) 💡 毒舌点评 本文提出了一个系统的跨模态在线策略蒸馏框架，其三层级对称数据设计和将推理轨迹锚定于学生自身声学感知的尝试确有创新，但核心贡献高度依赖一个强大的闭源文本教师模型（Qwen3-235B-A22B-Thinking）。尽管在推理密集的BIG Bench Audio上提升显著，但在纯感知任务（如MMAU-Music、MMSU-Phonology）上提升有限甚至出现退化，暴露了文本教师在引导非语义声学推理方面的固有局限。此外，整个框架未开源，严重限制了其可复现性和社区影响力。 ...

语音/音乐/音频论文速递 2026-07-24 共分析 18 篇论文 ⚡ 今日概览 📥 抓取 18 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 4篇 ████ #语音交互 2篇 ██ #语音情感识别 2篇 ██ #多模态模型 1篇 █ #数据集 1篇 █ #语音伪造检测 1篇 █ #语音分离 1篇 █ #语音合成 1篇 █ 📊 论文评分排行榜（18 篇，按分数降序） 排名 论文 总分 分档 文档类型 主任务 🥇 DONDO: Open w2v-BERT Speech-Recognition Base Models for 8.1分 前25% 系统技术报告 #语音识别 🥈 Designed Vocalizations Dataset: Sound-Designed Human an 7.9分 前25% 数据集与基准 #语音转换 🥉 VibeVoice-ASR-BitNet Technical Report 7.8分 前25% 系统技术报告 #语音识别 4. Faster IndexTTS-2: Accelerating and Streaming Autoregre 7.6分 前25% 系统技术报告 #语音合成 5. From Read Speech to Spoken Digits: A Task-Specific Eval 7.5分 前25% 应用研究 #语音识别 6. Instruct-FD: Can Your Full-Duplex Speech System Follow 7.2分 前50% 数据集与基准 #语音交互 7. OPOD: On-Policy Omni Distillation 7.1分 前50% 方法研究 #多模态模型 8. X\(^3\)-OPD: Distilling Reasoning into Large Audio-Langua 7.1分 前50% 方法研究 #音频理解 9. Toward Interpretable Speech Deepfake Detection using Ar 7.0分 前50% 方法研究 #语音伪造检测 10. Toward Generalizable Cognitive Impairment Detection wit 7.0分 前50% 方法研究 #语音情感识别 11. Safeguards for Speech2Speech LLM-Assistants: A Case Stu 6.5分 前50% 系统技术报告 #语音交互 12. Investigating Codec-Internal Latent Audio Watermarking 6.4分 前50% 系统技术报告 #音频水印 13. TF-MossFormer: Integrating Convolution Gated Local-Glob 6.3分 前50% 模型报告 #语音分离 14. Phonetic forced alignment for low-resource language var 6.2分 前50% 方法研究 #语音识别 15. SCoPE: Shift-Aware Speaker-Conditioned Priors for Emoti 6.0分 前50% 方法研究 #语音情感识别 16. Word meaning co-determines vowel-inherent spectral chan 5.9分 前50% 方法研究 #语音属性识别 17. An Evaluation Framework for Structured Audio Captions V 5.3分 后50% 数据集与基准 #数据集 18. Improving the performance of an ASV system using hybrid 5.0分 后50% 方法研究 #说话人验证 📋 论文列表 🥇 DONDO: Open w2v-BERT Speech-Recognition Base Models for African Languages 8.1/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ...

📄 Audio-Zero: Label-Free Self-Evolution for Fine-Grained Audio Reasoning 标签：#音频理解 #自监督学习 #多模态模型 #Transformer #模型评估 6.8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 6.8/10 | 前50% | 文档类型：方法研究 | 评分置信度：高 | #音频理解 | #自监督学习 | #多模态模型 #Transformer | arxiv 👥 作者与机构 第一作者：Siqian Tong（机构1：清华大学；机构2：鹏城实验室） 通讯作者：Xuan Li（机构1：清华大学；机构2：鹏城实验室）、Chaozhuo Li（机构3：中国人民大学） 作者列表：Siqian Tong（清华大学，鹏城实验室）、Xuan Li（清华大学，鹏城实验室）、Chaozhuo Li（中国人民大学）、Baolong Bi（鹏城实验室，北京大学）、Yiwei Wang（机构5）、Yujun Cai（机构6）、Shenghua Liu（鹏城实验室，北京大学）、Chengpeng Hao（清华大学，鹏城实验室）。 💡 毒舌点评 论文巧妙地将音频推理任务转化为一个“谁是卧底”式的自玩游戏，通过可验证的内部奖励信号驱动模型自进化，在无标签数据稀缺的音频领域提出了一条新颖的路径。然而，这项工作本质上是方法验证（Proof of Concept），而非一个可立即部署的工程方案。训练仅在2000对数据上进行，核心代码、模型和数据构建流程均未开源，使得其宣称的“可扩展性”和“实用性”大打折扣。实验结论强于证据，对奖励函数设计的脆弱性、游戏策略的潜在捷径以及评估基准的局限性缺乏深入探讨。 ...

📄 CAPS: A Cascaded Reconstruction Model to Power Saving in Hearables Using Sub-Nyquist Sampling with Bandwidth Extension 标签：#语音增强 #多模态模型 #低资源 #流式处理 #音频理解 6.6/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 6.6/10 | 前50% | 文档类型：系统技术报告 | 评分置信度：高 | #语音增强 | #多模态模型 | #低资源 #流式处理 | arxiv 👥 作者与机构 第一作者：Tarikul Islam Tamiti (Cyber-Security Engineering, George Mason University, USA) 通讯作者：未说明 作者列表：Tarikul Islam Tamiti, Sajid Fardin Dipto, Luke Baja-Ricketts, David Vergano, Anomadarshi Barua (Cyber-Security Engineering, George Mason University, USA) 💡 毒舌点评 论文亮点在于从硬件（ADC）功耗这一实际约束出发，设计并原型验证了一套完整的“降采样-无线传输-神经网络重建”系统，将BWE与多模态SE首次结合，并展示了在移动端部署的实时能力，工程实践完整度很高。短板同样突出：作为声称达到SOTA的工作，未开源任何代码、模型或数据集，严重削弱了其学术可信度和可复现性；泛化性证据仅基于小规模自采数据，影响了结论的普遍性。 ...

📄 Multimodal Speaker Verification as a Threat to Speaker Anonymization 标签：#说话人验证 #多模态模型 #音频理解 #Transformer #模型评估 9.2/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 🔥 9.2/10 | 前10% | 文档类型：方法研究 | 评分置信度：高 | #说话人验证 | #多模态模型 | #音频理解 #Transformer | arxiv 👥 作者与机构 第一作者：Ashi Garg（未说明具体机构） 通讯作者：未说明 作者列表：Ashi Garg, Cristina Aggazzotti, Leibny Paola García-Perera, Nicholas Andrews（均未说明具体机构） 💡 毒舌点评 本文将多话语、多模态攻击引入说话人匿名化评估的视角确实新颖，实验设计全面，对现有“单话语、声学为主”的匿名化评估范式构成了实质性挑战。然而，其核心结论——即匿名化后仍存在大量隐私泄露——严重依赖于仅使用一种特定的开源匿名化工具（Stream-Voice-Anon）。如果该工具未能有效抑制文本和韵律信息，那么“匿名化不充分”的结论在方法层面显得不够普适，削弱了其作为通用安全评估的说服力。本质上，这更像是在特定攻击模型下对特定防御系统的有效性评估，而非对匿名化技术本身固有局限的全面证明。 ...

📄 The Giant Hippocampus: From Structural Monoculture to a System of Systems 标签：#多模态模型 #理论分析 #可解释性 #音频理解 #Transformer 6.0/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 0/1.5 | 清晰 0.9/1 | 影响 0.3/1.5 | 开源 1.5/1.5 | 复现 0.3/0.5 | 工程 0.5/1.5 ✅ 6.0/10 | 前50% | 文档类型：理论研究 | 评分置信度：高 | #音频理解 | #多模态模型 | #理论分析 #可解释性 | arxiv 👥 作者与机构 第一作者：Jaeho Seol（独立研究者，邮箱：jaehoseol@gmail.com） 通讯作者：未说明 作者列表：Jaeho Seol（独立研究者） 💡 毒舌点评 本文是一篇雄心勃勃的、试图用神经科学证据重塑AI架构哲学的论文，其核心洞察——将Transformer与海马体而非通用皮层类比——新颖且有力。然而，文章几乎完全缺乏实验验证，提出的“异构拓扑网络”（HTN）更像是一个愿景或研究纲领，而非一个可被复现和验证的具体方法，使其说服力大打折扣。此外，论文对“结构单一种植”问题的批判虽然深刻，但未能充分论证其提出的替代框架（HTN）在实践中如何克服当前工程生态的惯性（如GPU优化、分布式训练复杂性），也未能证明其在具体任务上相比现有“巨型海马体”的优势。作为一篇理论文章，其价值在于提供了一个有力的批判视角和未来研究方向，但距离成为可指导实践的工程方案仍有巨大距离。 📌 核心摘要 本文旨在解决当前AI领域过度依赖单一Transformer架构处理所有任务的“结构单一种植”问题。作者认为，这种同质化是硬件便利性（GPU优化密集矩阵乘法）驱动的工程妥协，而非认知原理的必然选择。论文的核心方法是通过回顾一个世纪的神经科学细胞结构（cytoarchitecture）证据（从Brodmann到现代单细胞测序），论证大脑不同区域（如视觉皮层V1、听觉皮层、海马体）在结构上存在本质差异以适应其特化功能。基于此，论文提出Transformer在功能上更接近海马体（负责关系绑定和情景记忆），而非通用皮层。论文提出的一个创新性框架是“异构拓扑网络”（HTN），这是一个由结构异质模块（如CNN用于视觉、专用听觉模块、Transformer核心、基底节门控、工作记忆缓冲区）通过标准化接口连接组成的系统。论文未提供任何实验数据来验证HTN的有效性。其实际意义在于为AI架构设计提供了一个基于生物约束的理论框架和设计原则。主要局限性是完全缺乏实验验证，提出的HTN停留在概念层面，没有具体实现细节、性能评估或与现有系统的对比。 ...