多任务学习

📄 PilotTTS: A Disciplined Modular Recipe for Competitive Speech Synthesis #语音合成 #语音生成 #自回归模型 #生成对抗网络 #数据增强 #低资源 #多任务学习 #语音克隆 🔥 9.2/10 | 前25% | #语音合成 | #生成对抗网络 | #语音生成 #自回归模型 | arxiv 学术质量 5.7/7 | 影响力 1.8/2 | 可复现性 1.7/2 | 置信度 高 👥 作者与机构 作者：Bowen Li, Shaotong Guo, Zhen Wang, Yang Xiang, Mingli Jin, Yihang Lin, Jiahui Zhao, Weibo Xiong, Dongrui Li, Keming Chen, Yunze Gao, Yuze Zhou, Zeyang Lin, Yue Liu 机构：高德（Amap, Alibaba Group）；香港中文大学（深圳） ...

📄 Proactive for Uncertainty: Cause-Aware Error Diagnosis and Interactive Clarification for Spoken Dialogue Systems #语音识别 #音频事件检测 #多任务学习 ✅ 6.8/10 | 前50% | #语音识别 | #多任务学习 | #音频事件检测 | arxiv 学术质量 4.9/7 | 影响力 1.5/2 | 可复现性 0.4/2 | 置信度 中 👥 作者与机构 作者：Yizhou Peng（平等贡献），Ziyang Ma（平等贡献），Changsong Liu，Yi-Wen Chao，Xie Chen，Eng Siong Chng 机构：南洋理工大学，新加坡；上海交通大学，中国 💡 毒舌点评 这篇论文的想法“原因感知”听起来很高大上，本质上就是给ASR错误打上更细的标签（失真、理解、删除），然后让LLM根据标签生成不同的“请再说一遍”。这种“小模块+LLM”的组合拳在最近的顶会很常见，创新性有，但不算特别突破。实验设计有巧思（模拟用户闭环评估），但也暴露了短板（只用模拟用户，没有真人评估）。最大的问题在于，它声称的“主动”澄清能力，完全受限于一个能力平平的错误检测器和僵化的优先级规则。把“错误原因分析”和“澄清策略生成”解耦得过于彻底，使得系统缺乏端到端的优化，像是在用人工规则硬拧。论文的工程价值大于学术价值，更适合出现在ICASSP而不是NeurIPS/ICML/ICLR。 📌 核心摘要 本文针对级联ASR-LLM口语对话系统中的错误传播问题，提出了一种原因感知的错误诊断与交互式澄清框架。核心思想是利用冻结ASR模型的内部表征，训练一组轻量级检测器，在token级别区分并诊断三类错误：感知错误（声学失真）、理解错误（语言不匹配）和删除错误（内容缺失）。同时，独立训练了一个声学事件检测器来识别环境类别。这些诊断信息通过一个结构化的错误摘要输入给LLM对话管理器。LLM根据预设的优先级规则（理解 > 感知 > 删除），生成针对性的澄清策略（如请求重复、询问环境、请求拼写等），通过最多K轮交互来修正转录文本。实验在多个数据集和失真条件下验证了该方法，声称在域偏移错误上的召回率比熵基线提高了一倍以上，并在词错率和下游任务性能上取得了显著提升。 🔗 开源详情 代码：承诺在论文提交后发布，提供匿名仓库链接：https://anonymous.4open.science/r/Cause-Aware-Error-Detection-and-Correction-7E4D。 模型权重： ASR骨干：Parakeet-tdt-0.6b-v2 (NVIDIA)，链接：https://huggingface.co/nvidia/parakeet-tdt-0.6b-v2。 四个错误检测器：承诺包含在上述代码仓库中。 数据集：实验使用的所有数据集均为公开数据集（LibriSpeech, SPGISpeech2, AESRC2020, Gigaspeech, WSJ, OpenHermes, Alpaca）。论文未提供统一获取链接，但详细信息见附录A.2。 复现材料：承诺发布包含数据预处理、失真模拟、模型训练、推理脚本及交互式LLM澄清模块的完整代码库。训练超参数见附录A.4。 引用的开源项目： AudioBench: https://github.com/AudioLLMs/AudioBench CosyVoice、HyPoradise等模型/项目：仅被引用，未提供代码链接。 MUSAN语料库：用于生成噪声和RIR，被提及但未提供链接。 🏗️ 方法概述和架构 该系统是一个多阶段、模块化的交互式错误恢复管道（见图1和图2）。 ...

📄 Rubato: Transcribing Piano Music with Timestamps #音乐转录 #音乐信息检索 #时间序列分析 #多任务学习 🔥 10/10 | 前10% | #音乐转录 | #多任务学习 | #音乐信息检索 #时间序列分析 | arxiv 学术质量 6.7/7 | 影响力 1.8/2 | 可复现性 1.6/2 | 置信度 高 👥 作者与机构 作者：Nazif Can Tamer, Victoria Ebert, Guang Yang, Noah A. Smith 机构：Paul G. Allen School of Computer Science & Engineering, University of Washington; Allen Institute for AI 💡 毒舌点评 这篇论文像一个精心设计的“全套服务”。它没有满足于只做一个更好的钢琴MIDI转录器（AMT）或一个更好的MIDI到乐谱转换器（如M2ST），而是野心勃勃地想用一个模型（Rubato）端到端地完成从音频到带时间戳乐谱（TAST）的“终极任务”。这种雄心是值得称赞的，并且通过设计InterMo这种精巧的表示法和多任务训练框架（方言系统）在一定程度上实现了。然而，毒舌的批评在于：1）其核心模型架构（~180M参数的Canary变体）相对保守，并非架构创新，主要贡献在于任务定义、表示法和训练策略。2）所有实验严格局限于钢琴独奏，这是一个相对受限且声学/记谱法结构都较规整的领域。论文对“推广到其他乐器或多乐器”的讨论非常轻描淡写（仅在结论提一句），这是其影响力的天花板。3）尽管多任务训练看起来很美好，但“方言系统”显著增加了概念复杂度和训练配方的工程难度，论文并未提供方言间相互影响的深入分析或消融。4）作为顶会论文，在评估上花了大力气（OMR-NED、检索MAP、偏移约定分析），但这些评估指标本身（尤其是OMR-NED）是否真正代表了“乐谱质量”或“对人类演奏者的实用性”，存在讨论空间。总的来说，这是一篇扎实的“系统性”工作，在限定的领域内做到了当前最好，但距离一个能广泛适用于各种乐器、各种音乐风格的通用音乐转录系统，还有相当距离。 📌 核心摘要 本文针对自动音乐转录（AMT）中级联方法导致误差累积和中间表示信息丢失的问题，提出了时间对齐乐谱转录（TAST）作为端到端任务，联合预测音乐记谱法及其时间戳。核心贡献包括：1) 设计了名为InterMo的文本乐谱表示法，其局部节拍算术、有界开合匹配等特性适合自回归序列建模；2) 构建了名为Rubato的提示条件化编码器-解码器模型，通过“方言”系统在多个相关任务上进行多任务训练；3) 大量实验表明，Rubato在乐谱转录精度（OMR-NED）上优于所有基线系统（包括使用真实中间表示的级联系统），并在节拍检测等辅助任务上具有竞争力。论文深度分析了级联系统的瓶颈在于中间表示的信息丢失而非前端预测误差，并揭示了MIDI转录评估中偏移约定对结果的巨大影响。 ...

语音/音乐/音频论文速递 2026-05-27 共分析 39 篇论文 ⚡ 今日概览 📥 抓取 39 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音合成 12篇 ████████████ #语音识别 6篇 ██████ #音乐转录 2篇 ██ #多模态模型 2篇 ██ #语音编码 2篇 ██ #基准测试 1篇 █ #音频检索 1篇 █ #自监督学习 1篇 █ 📊 论文评分排行榜（39 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 Hidden in Plain Tokens: Simply Robust, Gradient-Free Wa 10.0分 前25% #语音合成 🥈 Rubato: Transcribing Piano Music with Timestamps 10.0分 前10% #音乐转录 🥉 PitchBench: Measuring Pitch Hearing in Audio-Language M 9.7分 前25% #基准测试 4. AVBench: Human-Aligned and Automated Evaluation Benchma 9.7分 前25% #多模态模型 5. PilotTTS: A Disciplined Modular Recipe for Competitive 9.2分 前25% #语音合成 6. MERIT: Learning Disentangled Music Representations for 9.0分 前25% #音频检索 7. Learning When to Think While Listening in Large Audio-L 8.9分 前25% #语音识别 8. WaveNeXt 2: ConvNeXt-Based Fast Neural Vocoders With Re 8.5分 前25% #语音合成 9. CFMDCTCodec: A Low-Bitrate Neural Speech Codec with Noi 8.4分 前25% #语音编码 10. Continual Speaker Identity Unlearning with Minimal Inte 8.3分 前25% #语音合成 11. Eroding Trust in Real Speech: A Large-Scale Study of Hu 8.2分 前50% - 12. Beyond Binary: Speech Representations Across the Cognit 8.1分 前50% #自监督学习 13. Ultra-Low-Bitrate Mel-Spectrogram-based Neural Speech C 8.1分 前10% #语音编码 14. Decoding Stimulus Reconstruction-Based Auditory Attenti 8.0分 前25% - 15. Time Segmented Beamforming via Dynamic Programming: The 8.0分 前25% #自适应滤波 16. Can We Hear from Events? Generating Speech from Event C 7.8分 前25% #语音合成 17. A Multimodal Framework for Dementia Detection via Lingu 7.7分 前50% #多模态模型 18. Test-Time Self-Adaptive Conditioning for Stable Audio-D 7.7分 前50% #语音合成 19. Rethinking Continual Learning for Speech and Audio: A R 7.5分 前50% #语音识别 20. DuoGesture: Neuro-Inspired and Biomechanically Informed 7.5分 前25% #语音合成 21. Music Transcription with (Almost) No Supervision 7.5分 前50% #音乐转录 22. LongCat-Video-Avatar 1.5 Technical Report 7.5分 前25% #语音合成 23. CosyEdit2: Speech-Editing-Oriented Reinforcement Learni 7.2分 前25% #语音编辑 24. Why Can’t They Remember? Uncovering Representation and 7.0分 前50% #语音识别 25. cSTMM: A Unified Complex Spherical Student’s \(t\) Mixtur 7.0分 前50% #语音分离 26. G-iMUSIC: Greedy Iterative MUSIC Algorithms for Multi-T 6.9分 前50% - 27. From Scores to Gibbs Correctors: Accelerating Uniform-R 6.9分 前50% #语音合成 28. Proactive for Uncertainty: Cause-Aware Error Diagnosis 6.8分 前50% #语音识别 29. FC-TTS: Style and Timbre Control in Zero-Shot Text-to-S 6.5分 前50% #语音合成 30. PashtoTTS-Bench: automated screening for low-resource n 6.5分 前50% #语音合成 31. Score-Agnostic Structure Analysis in Large-Scale Perfor 6.5分 前50% #音乐信息检索 32. Subspace Track-before-Detect for Passive Multi-Target T 6.4分 前50% #信号处理基础 33. Toward Natural Emotional Text-To-Speech System with Fin 6.3分 前50% #语音合成 34. Thaka at KSAA-2026 Task 2: Regularized Fine-Tuning for 6.0分 前50% #语音识别 35. LongAV-Compass: Towards Unified Evaluation of Minute-Sc 6.0分 前50% #音频生成 36. FalAR: A Large-scale Speaker-Annotated European Portugu 5.5分 后50% #语音识别 37. Zero-Shot Parkinson’s Disease Detection from Speech: Co 5.2分 后50% #大语言模型 38. Exploration of Perceptual Speech Features for Clinical 5.0分 前50% #语音情感识别 39. An investigation of AI integration in sound designer wo 4.6分 后50% - 📋 论文列表 🥇 Hidden in Plain Tokens: Simply Robust, Gradient-Free Watermark for Synthetic Audio 🔥 10.0/10 | 前25% | #语音合成 | #概率与图模型 | #语音转换 #生成对抗网络 | arxiv ...

📄 StepAudio 2.5 Technical Report #统一音频模型 #多任务学习 #强化学习 #语音合成 #语音识别 #实时处理 #模型评估 🔥 8.3/10 | 前25% | #统一音频模型 | #多任务强化学习对齐 | #多任务学习 #强化学习 | arxiv 学术质量 6/7 | 影响力 1.5/2 | 可复现性 0.8/2 | 置信度 高 👥 作者与机构 论文标题： StepAudio 2.5 Technical Report 作者团队： StepFun-Audio Team（贡献者按字母顺序排列，核心贡献者与一般贡献者分开列出） 机构： 未在论文中明确说明，但根据作者团队名称和项目历史推断为 StepFun (阶跃星辰) 的音频团队。 💡 毒舌点评 这份报告像一份精心包装的产品说明书，而非一篇严谨的学术论文。其优点在于清晰地呈现了一个庞大系统的工程设计哲学——“任务特化源于操作规则”，并成功地将ASR、TTS和实时交互塞进了一个共享骨干。然而，对于顶会审稿人而言，这份报告最令人抓狂的是其“技术性模糊”：核心的MoE LLM骨干到底有多大？专家数几何？音频编码器是哪款？统统“未提及”。这就像给你看一辆跑车的赛道成绩，却把引擎盖焊死了不让你看。实验部分，ASR的表格详实可信，但TTS和实时交互的评估则严重依赖自建基准和主观评测，其公平性和可复现性要打个大问号。最遗憾的是，作为一份“技术报告”，它缺乏对关键创新点（如MTP的理论收益边界、RLHF奖励模型的具体设计）的深度分析和消融实验，显得更像是一份内部研发总结，而非可供社区深入研读和复现的学术贡献。 📌 核心摘要 本文介绍了StepAudio 2.5，一个统一的音频-语言基础模型，旨在通过单一共享骨干网络，匹配或超越专用于语音识别（ASR）、语音合成（TTS）和实时语音交互（Realtime）的专用系统。论文的核心论点是，一旦文本和音频共享一个高质量的多模态表示空间，任务间的差异便从架构设计转向了“操作机制”：即数据构建、优化目标和解码约束。基于此，作者提出了一种以强化学习从人类反馈（RLHF）为核心的后训练范式，将其作为定义复杂优化目标的主要机制。该范式结合任务特定的监督微调（SFT）和解码策略，将共享骨干塑造成三种不同的操作模式：ASR分支通过可验证的多头预测（MTP）提升转录效率；TTS分支通过基于偏好的RLHF和上下文丰富的监督实现可控、富有表现力的合成；Realtime分支则通过生成奖励建模在RLHF框架内实现低延迟、角色一致的对话。在标准基准测试上，StepAudio 2.5在ASR、TTS和实时交互任务上均取得了有竞争力的结果。 🔗 开源详情 代码：论文提及了一个用于生成ASR长形式评���数据集（WenetSpeech testnet long）的代码仓库：https://github.com/lawlict/wenetspeech-testnet-long.git。论文未提及StepAudio 2.5模型主体的完整代码开源链接。 模型权重：论文未提及模型权重的公开下载链接（如HuggingFace, ModelScope）。 数据集： 论文中使用的公开数据集包括：AISHELL-1, AISHELL-2, WenetSpeech, FLEURS, LibriSpeech, Common Voice, VoxPopuli, Earnings22。论文未提供这些数据集的直接获取链接。 论文描述了其用于ASR长形式评估的“WenetSpeech testnet long”子集的构建方法，并提供了生成代码的GitHub仓库。 论文未提及TTS和Realtime训练所用具体数据集（特别是其角色矩阵和副语言标注数据）的公开获取方式。 Demo：论文中未提及在线演示链接。 复现材料：论文详细描述了模型架构、训练流程（包括各阶段超参数）和评估方法，但未提供具体的训练配置文件、检查点下载或实验附录的直接链接。 🏗️ 方法概述和架构 StepAudio 2.5的核心架构是一个共享的音频-语言骨干，采用非对称设计（图1）。该架构由三个主要组件构成：1）冻结的音频编码器：负责将原始音频波形转换为紧凑的声学嵌入表示，其参数在训练过程中保持固定，以确保声学特征提取的稳定性。2）轻量级适配器：一个可训练的模块，负责将音频编码器输出的声学嵌入映射到语言模型（LLM）解码器的隐藏空间中。3）大型语言模型解码器：从预训练的文本LLM初始化，是模型的核心，承载语义理解、上下文管理、指令遵循和生成任务。这种设计有意让编码器专注于稳定的声学抽象，而将语义和生成的重担交给解码器，从而使得不同下游任务可以共享大部分模型。 ...

📄 UniSRM: A Unified Speech Reward Model for Reasoning-Based Fine-grained Assessment #语音质量评估 #强化学习 #多任务学习 #模型评估 🔥 10/10 | 前10% | #语音质量评估 | #统一多任务强化学习 | #强化学习 #多任务学习 | arxiv 学术质量 7/7 | 影响力 1.5/2 | 可复现性 2/2 | 置信度 0.8 👥 作者与机构 Yuanyuan Wang (香港中文大学), Dongchao Yang (香港中文大学), Yayue Deng (香港中文大学), Zhiyong Wu (香港中文大学, 清华大学), Yiwen Guo (独立研究者), Helen Meng (香港中文大学), Xixin Wu (香港中文大学)。 💡 毒舌点评 这篇工作直击语音生成评估的核心痛点——依赖昂贵、主观的人工 MOS 评估，或是片面、不透明的自动指标。它提出的 UniSRM 试图用一个统一模型解决成对偏好、质量打分、场景一致性和多轮对话评估四大任务，野心不小。两阶段训练（SFT + GRPO）和“理由一致性奖励”（RCR）是核心创新，意图让模型“说得清、判得准”。实验结果在作者自建的基准上确实亮眼，尤其是上下文相关的任务（T3/T4）优势明显。然而，它也并非无懈可击：首先，数据构建严重依赖强生成模型（Gemini, GPT-4.1）的标注，其“地面真值”本身可能带有偏见，模型本质上在学习模仿另一个大模型的评判逻辑。其次，计算开销（480 GPU 小时用于 GRPO）与复杂度不低，限制了其作为轻量级评估器的部署。最后，尽管声称“统一”，但其任务和维度划分是预设且固定的，对于未来可能出现的全新评估维度或任务类型的扩展性未作讨论。 ...

语音/音乐/音频论文速递 2026-05-25 共分析 19 篇论文 ⚡ 今日概览 📥 抓取 19 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音质量评估 3篇 ███ #语音识别 3篇 ███ #信号处理 3篇 ███ #音频分类 1篇 █ #语音编码 1篇 █ #音频深度伪造检测 1篇 █ #统一音频模型 1篇 █ #医疗音频 1篇 █ 📊 论文评分排行榜（19 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 Frame-Aligned Fusion of Canary and WavLM for Non-Intrus 10.0分 前10% #语音质量评估 🥈 Evaluating the Temporal Detection Capability of Integra 10.0分 前10% #音频分类 🥉 UniSRM: A Unified Speech Reward Model for Reasoning-Bas 10.0分 前10% #语音质量评估 4. AffectCodec: Emotion-Preserving Neural Speech Codec wit 10.0分 前10% #语音编码 5. MixFake: Benchmarking and Enhancing Audio Deepfake Dete 10.0分 前10% #音频深度伪造检测 6. A study on weakly-supervised training approaches for ph 9.7分 前10% #语音识别 7. Broad learning system with robust adaptive kernel 8.7分 前25% #信号处理 8. Articulatory strategy as a source of variation in acous 8.5分 前25% #语音识别 9. StepAudio 2.5 Technical Report 8.3分 前25% #统一音频模型 10. Comprehensive Dataset and Signal Processing Framework f 8.0分 前25% #医疗音频 11. Word-Level Modeling with Alignment-Aware Acoustic Fusio 7.7分 前25% #语音质量评估 12. Convex Low-resource Accent-Robust Language Detection in 7.5分 前25% #语音识别 13. Diffusion Domain Expansion: Learning to Coordinate Pre- 7.4分 前50% #扩散模型 14. EvalVerse: Pipeline-Aware and Expert-Calibrated Benchma 7.1分 前50% #音视频 15. Copula-Induced Correntropy for Robust Conjugate Gradien 7.0分 前50% #信号处理 16. Cost-Effective Model Evaluation with Meta-Learning 5.4分 后50% #迁移学习 17. Natural Yet Challenging to Detect: Robust In-the-Wild T 5.2分 后50% #语音合成 18. Self-Calibration DOA Estimation for Movable Antenna Sys 4.0分 后50% #声源定位 19. 6G Communication Networks Enabling Embodied Agents: Arc 2.7分 后50% #信号处理 📋 论文列表 🥇 Frame-Aligned Fusion of Canary and WavLM for Non-Intrusive Intelligibility Prediction of Hearing-Aid-Processed Speech 🔥 10.0/10 | 前10% | #语音质量评估 | #模型融合 | #多模态模型 #预训练 | arxiv ...

📄 Heterogeneity-Aware Dataset Scheduling for Efficient Audio Large Language Model Training #音频大模型 #音频问答 #多任务学习 #梯度分析 #训练调度 #分组顺序训练 #收敛分析 ✅ 7.0/10 | 前25% | #音频问答 | #训练调度 | #音频大模型 #多任务学习 | arxiv 学术质量 4.9/7 | 影响力 1.5/2 | 可复现性 0.6/2 | 置信度 高 👥 作者与机构 第一作者：Yanru Wu（深圳国际研究生院，清华大学） 通讯作者：Yang Li（深圳国际研究生院，清华大学） 作者列表：Yanru Wu（深圳国际研究生院，清华大学）、Jianning Wang（独立研究者）、Chongxin Gan（香港理工大学）、Yang Li（深圳国际研究生院，清华大学） 💡 毒舌点评 本文亮点在于为ALLM多数据集训练中被忽视的“数据集异质性”问题提供了扎实的理论分析框架（将联邦学习的收敛分析适配到多数据集场景）和实用的工程解决方案（分组顺序训练GST），在14个数据集上实现了30-40%的收敛加速且性能持平，工程价值明确。短板在于：1）理论部分推导了紧的界，但关键异质性常数β和ζ难以估计，削弱了理论的实践指导性；2）实际采用的“渐进式训练”是对理论上严格顺序训练的近似，缺乏相应的理论保证；3）实验仅在一个模型架构（SALMONN-13B）上验证，泛化性存疑；4）方法的核心依赖于初始梯度的离线计算，未探讨动态更新的可能性。 📌 核心摘要 本文针对训练通用音频大语言模型（ALLM）时因多数据集异质性（领域、标注风格差异）导致梯度冲突、收敛缓慢的问题，提出了一种名为“分组顺序训练”（Grouped Sequential Training, GST）的调度框架。 问题：现有ALLM训练普遍采用均匀混合数据（Mix-all），忽略了数据集间的异质性，导致梯度冲突和优化效率低下。 方法核心：GST包含两个关键步骤：1）基于梯度亲和性对数据集聚类分组，以最小化组内异质性；2）采用渐进式调度策略，按组顺序逐步将数据集并入训练池。该方法旨在平衡并行训练（稳定但受异质性拖累）与顺序训练（高效但易遗忘）的优缺点。 新意：从收敛理论角度系统分析了并行、顺序及分组顺序训练的权衡，并将多任务学习中的数据集关系分析从训练后的评估转变为训练循环设计的核心依据。 主要结果：在基于SALMONN-13B模型的14个AudioQA数据集实验中，GST变体（如GST-G3）相比标准并行训练（Mix-all），在完整数据训练中实现了30-40%的收敛加速（从约4天降至约2天），同时保持或略微提升了平均准确率（例如GST-G3加权平均准确率75.0% vs. Mix-all 74.2%）。在低资源微调设置下，GST保持了与Mix-all相当的性能。 实际意义：为大规模ALLM训练提供了一种模型无关、易于部署的高效调度策略，可显著减少计算成本。 主要局限：理论分析中异质性常数β、ζ的实际意义和估计方法未明确；渐进式训练作为严格顺序训练的近似，其理论保证缺失；实验仅在单一架构上验证。 方法 设置 训练时长 (𝒯.ℰ.) 平均准确率 (Avg) 加权平均准确率 (W.Avg) Mix-all 完整数据 ~4d 74.3% 74.2% GST-T2 完整数据 ~2d 75.4% 74.5% GST-G3 完整数据 ~2d 75.2% 75.0% GST-G2 完整数据 ~2d 74.7% 74.6% Sequential 完整数据 ~7d 48.6% 54.3% Mix-all 低资源 ~0.5d 68.7% 63.9% GST-T2 低资源 ~0.5d 69.0% 64.7% GST-G3 低资源 ~1d 69.1% 63.4% GST-G2 低资源 ~0.5d 68.7% 63.5% 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提供模型权重的具体链接。文中提到实验基于开源的SALMONN-13B框架，但未给出其权重获取地址。 数据集：论文中列出了14个AudioQA数据集的名称，但未提供这些数据集的具体下载链接或统一的项目主页。 Demo：论文中未提及。 复现材料：论文在附录A.3中详细提供了训练设置（包括模型架构、优化参数、硬件配置等），但未提供预训练检查点、训练日志等具体的复现材料链接。 论文中引用的开源项目： SALMONN：论文中提及，但未提供其代码或模型仓库链接。 Vicuna：论文中提及，但未提供其代码或模型仓库链接。 LoRA：论文中提及，但未提供其代码或模型仓库链接。 AdamW：论文中提及，但未提供其代码链接。 Whisper：论文中提及，但未提供其代码或模型链接。 BEATs：论文中提及，但未提供其代码或模型链接。 🏗️ 方法概述和架构 本文提出的方法是一个针对多数据集训练优化的调度框架（GST），其核心是一个两阶段流程：离线的数据集聚类分组阶段和在线的渐进式训练执行阶段。该框架旨在修改数据输入模型的顺序与组合方式，而非改变模型本身的结构。 ...

📄 Heterogeneity-Aware Dataset Scheduling for Efficient Audio Large Language Model Training #音频问答 #训练调度 #多任务学习 #音频大模型 ✅ 7/10 | 前50% | #音频问答 | #训练调度 | #多任务学习 #音频大模型 | arxiv 学术质量 5.9/8 | 影响力 0.6/1 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者：Yanru Wu（清华大学深圳国际研究生院） 通讯作者：Yang Li（清华大学深圳国际研究生院） 作者列表：Yanru Wu（清华大学深圳国际研究生院）、Jianning Wang（独立研究者）、Chongxin Gan（香港理工大学）、Yang Li（清华大学深圳国际研究生院） 💡 毒舌点评 本文的亮点在于从收敛性角度对多数据集训练的异质性问题进行了清晰的理论刻画，并据此提出了一个逻辑自洽、易于实施的调度框架（GST），实验也验证了其在加速收敛方面的有效性。然而，其理论分析框架的原创性有限（主要借鉴自联邦学习），且实验规模和模型验证（仅基于SALMONN-13B）相对保守，未能充分展示该方法在更大规模、更多架构上的通用性，使其更像是一篇扎实的“工程优化”工作而非领域突破。论文将渐进式策略作为核心实践，但其理论保证与实际实现存在断层，是一个需要正视的弱点。 📌 核心摘要 问题：训练通用音频大语言模型（ALLMs）时，将语音、音乐、环境声等异构数据集混合训练会导致梯度冲突和收敛缓慢，现有方法（如均匀混合）未有效管理这种异质性。 方法核心：提出分组顺序训练（GST）。首先基于梯度亲和度（或任务亲和度）将数据集聚类为“亲和组”，然后按组顺序引入模型进行训练，并采用渐进式（progressive）扩展训练池的策略以平衡稳定性和效率。 新在哪里：与简单并行或顺序训练不同，GST 在理论和实践上提出了一种在二者之间权衡的调度范式。理论部分将联邦学习的收敛分析适配到多数据集场景，并推导出 GST 的收敛界，证明其优于两个极端。实践上，引入了基于梯度的、可在训练循环中动态计算的亲和度指标。 主要结果：在14个AudioQA数据集上的实验表明，在全数据训练设置下，GST变体（如GST-G3）相比标准并行训练（Mix-all）实现了约30-40%的训练时间缩短（从约4天降至约2天），同时保持或略微提升了平均精度（Avg: 75.2% vs Mix-all 74.3%）。在低资源微调设置下，GST保持了与基线相当的性能。 实际意义：提供了一个模型无关的、可插拔的训练调度策略，能直接加速现有ALLM的训练过程，降低计算成本，对大规模多任务音频模型训练具有实用价值。 局限性：验证局限于单一模型架构（SALMONN）；理论分析依赖较强的假设（如强凸、有界异质性）；亲和度计算需额外开销；渐进式训练的具体调度策略（如顺序、增长率）仍为启发式。 🔗 开源详情 代码：论文中未提及代码链接。论文描述了实验基于SALMONN框架，并提及使用了Singularity容器平台，但未提供作者自己代码仓库的链接。 模型权重：论文中未提及。论文使用SALMONN-13B作为实验平台，但未提供其自身训练产出的模型权重下载链接。 数据集：论文中提及了14个数据集名称，但未提供整合后的下载链接或开源协议信息。数据集包括：AudioCaps, ChimeHome, Clotho, CochlScene, IEMOCAP, Jamendo, MACS, MusicNet, MusicQA, OpenAQA, PromptSpeech, SoundDescs, TextrolSpeech, WavCaps。论文指出这些数据集已统一为AudioQA格式，具体获取方式需参考各数据集原始来源。 Demo：论文中未提及。 复现材料：论文在附录A.3中提供了详细的训练超参数、硬件配置（如4xA100 GPU）和分布式训练设置。未提供训练检查点或具体代码脚本的直接链接。 论文中引用的开源项目： SALMONN: https://github.com/Tmechway/SALMONN Whisper: https://github.com/openai/whisper BEATs: https://github.com/microsoft/unilm/tree/master/beats Vicuna: https://github.com/lm-sys/FastChat LoRA (参数高效微调技术): 论文提到使用LoRA，该技术官方仓库为 https://github.com/microsoft/LoRA CLIP: https://github.com/openai/CLIP LLaMA (论文提及Vicuna基于此): https://github.com/facebookresearch/llama 其他引用的开源工作（如Pengi, Qwen-Audio, Audio Flamingo）在论文中有提及，但未在此提供统一链接。 🏗️ 方法概述和架构 本文提出的核心方法是分组顺序训练（Grouped Sequential Training, GST），它是一个针对ALLM多数据集训练的调度框架，而非一个新的模型架构。整个流程旨在解决数据集异质性带来的梯度冲突问题，通过智能安排训练数据的引入顺序和方式来加速收敛。 ...

📄 Speaker-Disentangled Remote Speech Detection of Asthma and COPD Exacerbations #医疗音频 #对抗学习 #语音生物标志物 #多任务学习 #隐私保护 ✅ 7.5/10 | 前50% | #医疗音频 | #对抗学习 | #语音生物标志物 #多任务学习 | arxiv 学术质量 6.2/8 | 影响力 0.8/1 | 可复现性 0.5/1 | 置信度 中 👥 作者与机构 第一作者：Yuyang Yan (马斯特里赫特大学数据科学研究所) 通讯作者：Yuyang Yan (马斯特里赫特大学数据科学研究所) 作者列表：Yuyang Yan (马斯特里赫特大学数据科学研究所)、Sami O. Simons (马斯特里赫特大学医学中心呼吸内科 / NUTRIM营养、转化与代谢研究所)、Visara Urovi (马斯特里赫特大学数据科学研究所) 💡 毒舌点评 亮点：论文切中了一个重要但常被忽视的问题——医疗语音诊断模型可能严重依赖说话人身份这一“伪特征”。其提出的对抗解耦框架思路清晰，并将临床可解释性（SHAP）与隐私保护目标相结合，在垂直医疗领域具有实际价值。通过实验证明，去除说话人偏差后模型反而更关注病理特征，这种“隐私促进性能”的发现很有启发性。短板：核心验证存在明显软肋。外部验证集Bridge2AI-Voice仅用了22名患者（每类11人），样本量过小，统计效力严重不足，难以支撑“跨数据集泛化”的强力结论。此外，研究完全基于预提取的声学特征，未与端到端从原始音频学习的方法进行对比，方法的优越性范围受限。 📌 核心摘要 要解决什么问题：基于语音的远程呼吸疾病监测模型，其预测性能可能高度依赖说话人的可识别属性（如年龄、性别、口音），这既损害了模型在未知患者上的泛化能力，也带来了严重的患者隐私泄露风险。同时，病理特征与说话人特征的混杂使得特征可解释性变差。 方法核心是什么：提出一个基于对抗学习的多任务框架。框架包含一个共享的上游编码器（LeFF Transformer + BiLSTM），其下游连接两个分类头：一个用于预测呼吸状态（稳定/加重）或加重类型（哮喘/COPD），另一个用于预测说话人身份。在说话人分类头之前插入梯度反转层（GRL），在反向传播时反转梯度，迫使上游编码器学习对病理分类有用但对说话人识别无用的特征表示。总训练目标为 \(\mathcal{L}_{\text{total}}=\mathcal{L}_{\text{res}}-\lambda\mathcal{L}_{\text{spk}}\)。 与已有方法相比新在哪里：首次将对抗解耦技术系统性地应用于医疗语音分析领域，专门解决说话人偏差问题。与简单的语音转换预处理（如FreeVC）相比，该方法是端到端的、可训练的，并能同时优化临床任务性能和隐私保护目标。此外，框架整合了多任务学习和基于SHAP的特征重要性分析，以提升模型的区分度和可解释性。 主要实验结果如何：在TACTICAS数据集（荷兰语）上，对于“稳定/加重”分类，AUC从基线的0.897提升至0.909；对于“哮喘/COPD加重”分类，AUC从0.647显著提升至0.739。同时，衡量说话人可分离度的J-ratio在两项任务中均下降（任务1：1.541→1.515；任务2：1.034→0.869）。外部验证（Bridge2AI-Voice，英语）也显示了性能提升和J-ratio下降（AUC 0.801→0.822， J-ratio 2.146→1.763）。SHAP分析显示，对抗训练后模型抑制了与说话人强相关的特征（如基频标准差、共振峰频率标准差），增强了与病理相关的特征（如抖动、响度标准差、连续静音时长）。 实际意义是什么：该工作为构建更公平、更隐私、更可靠的语音医疗诊断模型提供了方法论基础。它表明，通过主动消除无关的说话人偏差，不仅可以保护隐私，还能迫使模型关注真正的病理生物标志物，从而可能提升模型的临床泛化能力。 主要局限性是什么：研究使用的两个数据集规模均较小（TACTICAS: 56人；Bridge2AI-Voice验证集: 22人），且验证集语言不同但病理类别有限。模型性能虽有提升，但绝对提升幅度有限（Task 1 AUC提升仅0.012），且缺乏与临床重要终点（如住院率、肺功能）的关联分析。对抗训练的关键超参数λ的选择过程和最终值未明确说明，也未进行敏感性分析。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：论文中未提及 数据集： TACTICAS：该数据集用于本研究，由研究团队通过移动应用收集。论文中未提供公开获取的直接链接。 Bridge2AI-Voice：用于外部验证的公开数据集。论文中提供了其项目主页链接：www.bridge2ai-voice.org。 Demo：论文中未提及 复现材料：论文中未提及 论文中引用的开源项目： openSMILE：一种用于从语音和音频中提取声学特征的工具包。 eGeMAPS：扩展的日内瓦最小化声学描述符集。 FreeVC：用于语音转换的无文本、单次学习系统。其 GitHub 仓库链接为：https://github.com/amaurial/FreeVC。 🏗️ 方法概述和架构 整体流程概述：这是一个端到端的对抗学习框架。输入是手工提取的多域声学特征（频谱、频率、能量、时域），经过一个共享的上游编码器（Locally-enhanced Feed-Forward Network Transformer + BiLSTM）提取高级表征。该表征随后被同时送入两个下游任务头：一个病理分类头（MLP）和一个说话人分类头（MLP）。在说话人分类头之前插入梯度反转层（GRL），构成对抗训练的核心，最终输出两个任务的预测概率。训练目标是联合最小化病理分类损失和最大化说话人分类损失（通过GRL和损失函数设计实现）。 ...

📄 Beyond Content: A Comprehensive Speech Toxicity Dataset and Detection Framework Incorporating Paralinguistic Cues #音频分类 #预训练 #多任务学习 #内容审核 ✅ 6.5/10 | 前25% | #音频分类 | #预训练 | #多任务学习 #内容审核 | arxiv 学术质量 5.5/8 | 影响力 0.6/1 | 可复现性 0.4/1 | 置信度 高 👥 作者与机构 第一作者：Zhongjie Ba（论文作者列表首位，但未明确标注为第一作者） 通讯作者：未明确说明（论文仅标注“The corresponding author”，但未在作者列表旁具体指出是谁） 作者列表：Zhongjie Ba, Liang Yi, Peng Cheng, Qingcao Li, Qinglong Wang, Li Lu 作者机构：论文未在作者列表旁提供具体机构信息，但在致谢部分提及了Zhejiang Provincial Natural Science Foundation等支持机构。 💡 毒舌点评 数据集ToxiAlert-Bench的构建是最大贡献，填补了副语言毒性样本标注的空白。然而，模型（ToxiAlert）的“创新”本质上是将预训练SSL模型与两个标准MLP头进行工程整合，缺乏架构或理论深度。实验中与之对比的部分基线（如DeToxy， YIDUN）性能极低，使得性能提升的宣称需要谨慎看待；与强大的多模态大模型对比更有说服力。论文未明确列出局限性部分，是一个疏漏。 📌 核心摘要 本文旨在解决现有语音毒性检测忽视副语言特征（语调、情绪等）的问题。作者构建了首个大规模、标注毒性来源（文本/副语言/两者兼有）的语音毒性数据集ToxiAlert-Bench，包含超3.2万条音频。其次，提出了基于Wav2Vec 2.0的双头检测框架ToxiAlert：一个头（Source Head）识别毒性来源，另一个头（Category Head）对7类毒性进行分类。该框架采用三阶段训练策略：先分别独立训练两个头，再联合微调。实验表明，ToxiAlert在ToxiAlert-Bench上显著优于包括DeToxy和多个多模态大模型在内的基线，其宏F1分数相比最强基线（Gemini-2.5-Flash）提升了21.1%，准确率提升13.0%，尤其在纯副语言毒性检测上表现突出。该工作为语音内容安全领域提供了重要的数据资源和方法框架，但数据集限于英文，且合成数据可能无法完全代表真实世界分布。 ...

📄 From Flat Language Labels to Typological Priors: Structured Language Conditioning for Multilingual Speech-to-Speech Translation #语音翻译 #多任务学习 #多语言 #低资源 #语言学先验 ✅ 6.9/10 | 前50% | #语音翻译 | #多任务学习 | #多语言 #低资源 | arxiv 学术质量 5.9/8 | 影响力 0.6/1 | 可复现性 0.4/1 | 置信度 高 👥 作者与机构 第一作者：Yu Pan（九州大学信息科学与电气工程学院，工作完成时；现Recho Inc.，东京） 通讯作者：Jianjun Zhao（九州大学信息科学与电气工程学院） 作者列表：Yu Pan（九州大学/Recho Inc.）、Yang Hou（国家信息学研究所）、Xiongfei Wu（卢森堡大学SnT中心）、Yves Le Traon（卢森堡大学SnT中心）、Liang Zhang（东华大学）、Lei Ma（东京大学计算机系/阿尔伯塔大学电气与计算机工程系）、Jianjun Zhao（九州大学） 毸舌点评 论文提出一个清晰且动机充分的框架，旨在解决多语言S2ST中“扁平化语言标签”表示能力不足的问题，将语言学类型学知识系统性地注入条件机制。其核心价值在于论证了结构化先验在低资源场景下的显著增益，这为数据稀缺的多语言任务提供了实用思路。然而，该工作的“框架感”有限，本质上是对一个强基线（S2ST-Omni）在条件机制上的精巧改进，而非一个可广泛应用的新架构。实验评估完全局限于CVSS-C这一合成目标语音数据集，且未与最新的一些SpeechLLM工作进行对比，影响了结论的普适性和说服力。创新性尚可，但不足以称之为突破。 核心摘要 问题：现有基于SpeechLLM的多语言语音到语音翻译（S2ST）系统常采用扁平化的语言标签（language-as-label）作为条件，忽略了跨语言共享的系统性语言学结构（如形态、语序、谱系关联），这在低监督数据下限制了模型的多语言适应能力。 核心方法：提出S2ST-Omni 2框架，将语言条件从扁平标签重构为结构化类型学先验，在三个层面进行注入：a) 表示层：类型学启发的层次化语言编码（TI-HLE），将源语言分解为形态、重排、语系和残差特定通道；b) 声学层：动态门控的语言调制Dual-CTC（LA-Dual-CTC），根据内容自适应地调制中间声学特征；c) 解码层：类型学感知的LLM提示，提供翻译导向的语言学指导。 新意：不同于以往仅用独立语言嵌入，本文系统性地将显式的语言学类型学知识融入S2ST模型的条件机制中，旨在提供更有结构的归纳偏置，而非让模型从数据中隐式学习所有语言差异。 主要结果：在CVSS-C数据集上，S2ST-Omni 2在平均BLEU（37.73 vs 35.67）和ASR-BLEU（35.00 vs 33.45）上相比基线S2ST-Omni分别获得5.8%和4.6%的相对提升，并在COMET和BLASER 2.0上也取得最优。消融实验证实了三个层面组件的互补贡献。在仅~3小时监督数据的低资源日语-英语任务上，S2ST-Omni 2同样显著优于基线。数据预算分析显示，随着训练数据减少，S2ST-Omni 2相对于基线的BLEU相对增益从5.8%单调增加至15.1%。 实际意义：该工作为数据稀缺的多语言S2ST任务提供了一种有效的技术路径，即通过引入语言学先验来补偿监督信号的不足，对构建更具语言适应性和数据效率的跨语言语音系统有启发价值。 主要局限性：a) 方法依赖于预先定义的、针对英语翻译任务的特定类型学分类，其泛化性（如到其他目标语言）未验证；b) 框架复杂度增加（引入了多路CTC损失、FiLM调制、动态门控），训练和推理成本未充分分析；c) 主要实验局限于CVSS-C的三个欧洲语言对及合成目标语音，对其他语系、真实场景的覆盖有限；d) 未提供代码或模型权重，可复现性不足。 方法概述和架构 整体流程概述：S2ST-Omni 2是一个基于组件的组合式S2ST框架，分为语音到文本翻译（S2TT）前端和可插拔的文本到语音（TTS）后端。前端核心是一个SpeechLLM，它接收语音输入，并通过多层、多模块的条件调制，最终输出翻译文本。训练分为两阶段：第一阶段稳定语音-文本对齐，第二阶段通过LoRA微调增强LLM翻译能力。整个系统并非严格端到端，因为S2TT和TTS通过显式文本接口解耦。 ...

语音/音乐/音频论文速递 2026-05-18 共分析 13 篇论文 ⚡ 今日概览 📥 抓取 13 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音乐生成 2篇 ██ #音频分类 2篇 ██ #音频修复 1篇 █ #语音识别 #说话人分离 1篇 █ #语音翻译 1篇 █ #语音识别 1篇 █ #生理信号预测 1篇 █ #语音生物标志物 1篇 █ 📊 论文评分排行榜（13 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 Modeling Music as a Time-Frequency Image: A 2D Tokenize 8.1分 前25% #音乐生成 🥈 Scalable neuromorphic computing from autonomous spiking 7.8分 前25% #音频分类 🥉 Real-time Speech Restoration using Data Prediction Mean 7.5分 前25% #音频修复 4. Mind the Gap: Impact of Synthetic Conversational Data o 7.2分 前25% #语音识别 #说话人分离 5. From Flat Language Labels to Typological Priors: Struct 6.9分 前50% #语音翻译 6. Beyond Content: A Comprehensive Speech Toxicity Dataset 6.5分 前25% #音频分类 7. ARIA: A Diagnostic Framework for Music Training Data At 6.1分 前25% #音乐生成 8. Improving Automatic Speech Recognition for Speakers Tre 6.0分 前50% #语音识别 9. Toward World Modeling of Physiological Signals with Cha 6.0分 前50% #生理信号预测 10. Can Large Language Models Imitate Human Speech for Clin 6.0分 前50% #语音生物标志物 11. Can We Trust AI-Inferred User States. A Psychometric Fr 6.0分 前50% #模型评估 12. Sound Sparks Motion: Audio and Text Tuning for Video Ed 5.5分 前25% #视频编辑 13. Perforated Neural Networks for Keyword Spotting 5.0分 前60% #关键词检测 📋 论文列表 🥇 Modeling Music as a Time-Frequency Image: A 2D Tokenizer for Music Generation 🔥 8.1/10 | 前25% | #音乐生成 | #自回归模型 | arxiv ...

📄 SpeakerLLM: A Speaker-Specialized Audio-LLM for Speaker Understanding and Verification Reasoning #说话人验证 #音频大模型 #音频理解 #多粒度表征 #结构化推理 #多任务学习 ✅ 7/10 | 前25% | #说话人验证 | #音频大模型 | #音频理解 #多粒度表征 | arxiv 学术质量 5.6/8 | 影响力 0.6/1 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者：KiHyun Nam (韩国科学技术院 KAIST) 通讯作者：Joon Son Chung (韩国科学技术院 KAIST) 作者列表：KiHyun Nam (韩国科学技术院 KAIST), Jungwoo Heo (首尔大学), Siu Bae (韩国科学技术院 KAIST), Ha-Jin Yu (首尔大学), Joon Son Chung (韩国科学技术院 KAIST, 通讯作者) 💡 毒舌点评 这篇论文的动机清晰，针对音频优先智能体时代通用Audio-LLM在说话人理解上的不足，提出了一个专用的框架。其核心亮点在于通过分层说话人分词器整合了互补的多粒度说话人表征，并设计了结构化、可审计的验证推理目标，将传统二分类问题转化为包含环境、剖面和决策链的自然语言推理过程，这在方法论上是新颖的。然而，其主要短板在于实验的说服力不足：虽然在受控的、规模有限的基线（通用Audio-LLM）上展示了优势，但缺乏与现代端到端说话人验证模型（如基于ECAPA-TDNN或ResNet的模型）在公认的大规模标准测试集（如VoxCeleb2测试集、VoxSRC）上的直接性能对比。这使得其“说话人专用”模型的实际性能水平（是超越还是不及当前SOTA）成疑，更像是一次在特定设定下的方法验证。此外，结构化推理模板的刚性可能限制了其在更复杂、开放场景下的泛化能力。 ...

语音/音乐/音频论文速递 2026-05-15 共分析 20 篇论文 ⚡ 今日概览 📥 抓取 20 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 2篇 ██ #音频分类 2篇 ██ #语音生物标志物 2篇 ██ #说话人验证 2篇 ██ #基准测试 1篇 █ #语音翻译 1篇 █ #音频生成 1篇 █ #基础模型 1篇 █ 📊 论文评分排行榜（20 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 FutureSim: Replaying World Events to Evaluate Adaptive 7.6分 前25% #基准测试 🥈 Refining Pseudo-Audio Prompts with Speech-Text Alignmen 7.5分 前50% #语音识别 🥉 AudioMosaic: Contrastive Masked Audio Representation Le 7.3分 前50% #音频分类 4. A Benchmark for Early-stage Parkinson’s Disease Detecti 7.2分 前30% #语音生物标志物 5. SpeakerLLM: A Speaker-Specialized Audio-LLM for Speaker 7.0分 前25% #说话人验证 6. Streaming Speech-to-Text Translation with a SpeechLLM 6.8分 前25% #语音翻译 7. Break-the-Beat! Controllable MIDI-to-Drum Audio Synthes 6.8分 前50% #音频生成 8. Mini-JEPA Foundation Model Fleet Enables Agentic Hydrol 6.8分 前50% #基础模型 9. Persian MusicGen: A Large-Scale Dataset and Culturally- 6.7分 前50% #音乐生成 10. Physics-Based iOCT Sonification for Real-time Interacti 6.5分 前40% #医疗音频 11. From Text to Voice: A Reproducible and Verifiable Frame 6.3分 前50% #模型评估 12. IsoNet: Spatially-aware audio-visual target speech extr 6.0分 前50% #语音提取 13. FSD50K-Solo: Automated Curation of Single-Source Sound 5.5分 前50% #数据清洗 14. UMo: Unified Sparse Motion Modeling for Real-Time Co-Sp 5.5分 前25% #语音合成 15. Masked Autoencoders with Limited Data: Does It Work? A 5.5分 前50% #音频分类 16. Text-Dependent Speaker Verification (TdSV) Challenge 20 5.5分 前40% #说话人验证 17. PROCESS-2: A Benchmark Speech Corpus for Early Cognitiv 5.4分 前50% #语音生物标志物 18. Transmit Beamforming for High-Rate Underwater Acoustic 5.3分 前50% #水声通信 19. A Calculus-Based Framework for Determining Vocabulary S 3.9分 后50% #语音识别 20. MediaClaw: Multimodal Intelligent-Agent Platform Techni 3.3分 后50% #多模态模型 📋 论文列表 🥇 FutureSim: Replaying World Events to Evaluate Adaptive Agents ✅ 7.6/10 | 前25% | #基准测试 | #大语言模型 | #自适应代理 #测试时适应 | arxiv ...

📄 AffectCodec: Emotion-Preserving Neural Speech Codec for Expressive Speech Modeling #音频编码 #语音情感识别 #知识蒸馏 #对比学习 #多任务学习 ✅ 7.0/10 | 前25% | #音频编码 | #知识蒸馏 | #语音情感识别 #对比学习 | arxiv 学术质量 5.8/8 | 影响力 1.0/2 | 可复现性 0.7/1 | 置信度 高 👥 作者与机构 第一作者：Jiacheng Shi（College of William & Mary） 通讯作者：未明确指定（根据邮箱推测为Ye Gao，但论文未明确标注） 作者列表：Jiacheng Shi（College of William & Mary）、Hongfei Du（College of William & Mary）、Xinyuan Song（Emory University）、Y. Alicia Hong（George Mason University）、Yanfu Zhang（College of William & Mary）、Ye Gao（College of William & Mary） 💡 毒舌点评 亮点：论文明确将“情感保留”从下游评估指标提升为编解码器训练的核心优化目标，这一问题重新定义和建模思路（三阶段框架）具有清晰的学术贡献和实用价值。短板：框架整体是多个成熟技术（交叉注意力、关系蒸馏、对齐损失）的工程化组合，对“情感”这一模糊概念的建模仍高度依赖外部冻结模型，创新深度有限。此外，论文未深入讨论计算效率的权衡。 ...

📄 Speech-based Psychological Crisis Assessment using LLMs #语音情感识别 #大语言模型 #数据增强 #多任务学习 #医疗音频 📝 5.8/10 | 前25% | #语音情感识别 | #大语言模型 | #数据增强 #多任务学习 | arxiv 学术质量 5.8/8 | 影响力 1.2/2 | 可复现性 0.7/1 | 置信度 高 👥 作者与机构 第一作者：Terumi Chiba（清华大学） 通讯作者：Ziyun Cui（北京大学回龙观临床医学院），Chao Zhang（清华大学，世界卫生组织自杀预防研究与培训合作中心） 作者列表：Terumi Chiba（清华大学）、Yang Luo（清华大学）、Ziyun Cui（北京大学回龙观临床医学院）、Yongsheng Tong（清华大学）、Chao Zhang（清华大学，世界卫生组织自杀预防研究与培训合作中心） 💡 毒舌点评 论文提出的“副语言注入”方法，试图将语音中的情感线索显式文本化以供LLM处理，思路清晰，且针对临床场景（心理热线）的定位明确。然而，核心方法（语音到文本的描述转换）并非完全新颖，且其实验的最大软肋在于数据集规模极小（154例），这使得所有“显著”的结论都蒙上了一层“小样本巧合”的阴影。在如此有限的数据上，模型的高分有多少是源自方法本身的优越性，又有多少是源于对特定样本的过拟合，论文未能给出足够令人信服的论证。此外，对推理链生成这一辅助任务所依赖的外部教师模型（gpt-oss-120b）的潜在偏差，缺乏深入的风险讨论。 📌 核心摘要 问题：心理支持热线的危机级别评估依赖于人工操作员，存在主观性强、资源有限等问题。现有基于语音的研究多集中于二分类的自杀风险评估，对更细分的三类别心理危机水平评估探索不足，且常忽略语音中的副语言信息（如哭泣、颤抖）。 方法核心：提出一个基于LLM的框架，核心是“副语言注入”和“推理增强训练”。副语言注入利用SpeechLLM（Step-Audio-R1）从语音中提取情感化非语言线索（如“哭泣声”），并遵循临床创伤评估表（TAF）的情感领域标准，将这些线索以结构化文本形式注入ASR转录文本。推理增强训练则让模型在分类的同时，生成符合TAF框架的诊断推理链作为辅助任务，以提升分类性能和可解释性。 创新点：与已有方法相比，新在：(1) 明确地将临床评估框架（TAF）深度融入副语言特征提取（指导SpeechLLM）和推理链构建，使模型行为更贴合临床实践；(2) 提出将副语言信息显式转化为文本描述（“注入”）而非在音频层面端到端建模的策略，并验证其优于直接使用SpeechLLM；(3) 结合数据增强（将长通话切分为连续片段）以缓解小样本问题。 实验结果：在154例真实中文心理热线通话数据集上进行5折交叉验证，进行三项分类（无危机、低危机、中高度危机）。最终系统达到宏F1分数0.802，准确率0.805，显著优于所有基线。关键消融实验显示，移除数据增强、副语言注入、辅助损失分别导致宏F1下降10.0%、4.1%和1.7%。关键对比如下表所示： 方法 准确率 (Mean ± Std) 宏F1分数 (Mean ± Std) Zero-shot LLM 0.455 0.371 OpenSMILE (SVM) 0.486 ± 0.053 0.471 ± 0.062 SpeechLLM (Qwen2.5-Omni-7B) 0.564 ± 0.075 0.551 ± 0.079 本文方法 (Ours) 0.805 ± 0.061 0.802 ± 0.062 实际意义：为利用LLM处理心理热线语音数据提供了一种可解释、可整合临床知识的技术路径，有望辅助操作员进行更一致、客观的危机分级，优化热线资源配置。 主要局限性：数据集规模极小（154例），可能限制了模型泛化性的验证；方法依赖于外部的SpeechLLM（Step-Audio-R1）和用于生成推理链的教师模型（gpt-oss-120b）；缺乏在跨机构、跨语言数据上的外部验证；代码和数据集均未开源。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中提供了以下模型的 HuggingFace 链接： ASR模型: Paraformer-zh: https://huggingface.co/funasr/paraformer-zh 语音模型 (用于副语言特征提取): Step-Audio-R1.1: https://huggingface.co/stepfun-ai/Step-Audio-R1.1 基础大语言模型 (微调目标): Qwen2.5-7B-Instruct: https://huggingface.co/Qwen/Qwen2.5-7B-Instruct 基线大语言模型: gpt-oss-120b: https://huggingface.co/openai/gpt-oss-120b 基线语音大语言模型: Qwen2.5-Omni-7B: https://huggingface.co/Qwen/Qwen2.5-Omni-7B 数据集：论文中提及使用了包含 154 个通话录音（总时长约 100 小时）的中国心理支持热线数据集，但论文中未提及该数据集的公开获取链接或开源协议。 Demo：论文中未提及。 复现材料：论文中提供了详细的实验配置信息，可用于复现。具体包括：5折交叉验证设置、使用 LoRA (rank=8, α=64) 对 Qwen2.5-7B-Instruct 进行微调、训练细节（AdamW优化器，学习率 3×10⁻⁵，余弦退火调度，有效批量大小16）、数据增强方法（将通话音频分割为固定时长片段）。但未提供预训练检查点或打包的复现材料。 论文中引用的开源项目： OpenSMILE：用于提取声学特征 (eGeMAPSv02)。 项目链接：https://github.com/audeering/opensmile-python emotion2vec：用于情感嵌入提取。 模型链接：https://huggingface.co/emotion2vec/emotion2vec_plus_large gpt-oss-120b：用于生成诊断推理链的监督信号。 模型链接：https://huggingface.co/openai/gpt-oss-120b Qwen2.5-Omni-7B：作为SpeechLLM基线。 模型链接：https://huggingface.co/Qwen/Qwen2.5-Omni-7B 🏗️ 方法概述和架构 ...

📄 NDF+: Joint Neural Directional Filtering and Diffuse Sound Extraction #空间音频 #神经网络 #波束成形 #多任务学习 #音频增强 ✅ 6.5/10 | 前30% | #空间音频 | #神经网络 | #波束成形 #多任务学习 | arxiv 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 未提及。论文仅在致谢部分感谢了FAU的HPC资源和DFG资助。 💡 毒舌点评 这篇论文工整地做了一道“拆分重组”的数学题：把估计A，拆成估���A的一部分和另一部分，再加起来。思路清晰，工程上也有其价值——特别是那个能调β的漫射声控制，对于需要精细调节“干湿比”的录音师来说，可能是个不错的玩具。然而，整套验证全在自家后院（合成数据）里完成，没敢拉到真实世界的泥潭里打滚，这让“性能媲美NDF”和“优于传统基线”的结论，听起来有点像在真空环境下的胜利。创新性扎实但有限，像给一辆好车加了个炫酷的控制旋钮，而非发明了新引擎。对于追求原理性突破的读者，可能会觉得不够过瘾；但对于寻求实用工具的工程师，或许值得一瞄。 📌 核心摘要 本文提出了NDF+，一个用于在紧凑麦克风阵列上联合实现定向滤波与漫射声提取的神经网络框架。其核心创新是将传统NDF的单一目标（虚拟定向传声器信号估计）重新表述为两个耦合子任务：去混响VDM重建（相干声估计）与漫射声提取。通过端到端联合训练双掩模网络，NDF+能在保持最终VDM重建质量与原始NDF相当的同时，提供对输出信号中漫射声成分的显式、连续控制。在合成数据上的系统实验表明，NDF+在子任务性能上显著优于级联基线，其可控性在立体声录音应用中得到了验证。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及。 数据集： 训练集和验证集使用了 LibriSpeech 数据库（子集：train-clean-360 和 dev-clean）。获取链接：https://www.openslr.org/12/。 测试集使用了 EARS 数据集。获取链接：https://github.com/facebookresearch/ears （根据论文引用[richter2024ears]推断）。 Demo：论文中未提及。 复现材料：论文中未提及训练配置、检查点等具体复现材料。 论文中引用的开源项目：论文中引用的基线方法或工具如下，但论文中未提供其具体开源链接： FT-JNF (框架)：引用 [FT-JNF]。 RIRGenerator (房间脉冲响应生成器)：引用 [RIRGenerator]。 AWPE (加权预测误差去混响算法)：引用 [4960438]。 DRSwWPE (一种实时去混响算法)：引用 [huang2024practical]。 Diffuse BF (漫射声波束成形器)：引用 [diffuse_beamformer]。 Dynamic Acoustic Scene Generator (动态声景生成器)：引用 [DASGenerator]。 Monte Carlo RIR (蒙特卡洛房间脉冲响应模拟)：引用 [MonteCarloRIR]。 作者与机构 未提及。论文仅在致谢部分感谢了FAU的HPC资源和DFG资助。 ...

📄 APEX: Large-scale Multi-task Aesthetic-Informed Popularity Prediction for AI-Generated Music #音乐评估 #多任务学习 #自监督学习 #预训练模型 ✅ 7.5/10 | 前25% | #音乐评估 | #多任务学习 | #自监督学习 #预训练模型 | arxiv 学术质量 7.0/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Jaavid Aktar Husain（AMAAI Lab, Singapore University of Technology and Design） 通讯作者：Dorien Herremans（AMAAI Lab, Singapore University of Technology and Design） 作者列表：Jaavid Aktar Husain（AMAAI Lab, Singapore University of Technology and Design）、Dorien Herremans（AMAAI Lab, Singapore University of Technology and Design） 💡 毒舌点评 这篇论文为AI生成音乐这个“野蛮生长”的领域提供了一个扎实的多任务学习基线，首次将“好听”（美学）和“流行”（数据）放在一起建模，且跨模型的泛化实验证明了学到的美学特征具有普适性。但令人遗憾的是，联合学习“流行度”这个主任务本身并未带来显著提升，似乎美学和流行在特征上互补但并不互促，这削弱了“多任务学习能提升主任务”这一核心动机的说服力。 ...

📄 Spatial-Magnifier: Spatial upsampling for multichannel speech enhancement #语音增强 #麦克风阵列 #波束成形 #生成模型 #多任务学习 ✅ 7.0/10 | 前25% | #语音增强 | #麦克风阵列 | #波束成形 #生成模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Dongheon Lee (Meta Reality Labs Research 1, Korea Advanced Institute of Science and Technology (KAIST) 2) 通讯作者：Juan Azcarreta (Meta Reality Labs Research) 作者列表：Dongheon Lee (Meta Reality Labs Research 1, KAIST 2)、Ashutosh Pandey (Meta Reality Labs Research)、Sanjeel Parekh (Meta Reality Labs Research)、Daniel Wong (Meta Reality Labs Research)、Jacob Donley (Meta Reality Labs Research)、Buye Xu (Meta Reality Labs Research)、Juan Azcarreta (Meta Reality Labs Research) 💡 毒舌点评 亮点：论文核心贡献非常聚焦，Spatial-Magnifier模型针对“空间上采样”这一特定任务进行了专门的架构设计（选择模块、DCA模块），而非简单套用现有语音增强网络；SARL框架提出的特征级条件化（SARL-F）是一种新颖且有效的思路，实验消融证明了其优越性。短板：方法整体依赖于预训练的MC-SE模型作为下游，其性能天花板受制于此；此外，论文虽然展示了在模拟数据和特定阵列上的优秀性能，但缺乏在真实世界设备和复杂噪声环境下的端到端验证，且未开源任何实现细节，限制了其直接影响力。 ...