研究条目

AV-SyncBench: Decoupled Benchmarking of Temporal and Semantic Audio-Visual Synchronization

📄 AV-SyncBench: Decoupled Benchmarking of Temporal and Semantic Audio-Visual Synchronization #音视频理解 #自监督学习 #对比学习 #音频事件检测 8.5/10 | 创新 1.5/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 🔥 8.5/10 | 前25% | #音视频理解 | #自监督学习 | #对比学习 #音频事件检测 | arxiv 👥 作者与机构 第一作者:Tianhong Zhou(阿里巴巴集团;清华大学) 通讯作者:Jun Song(阿里巴巴集团) 作者列表:Tianhong Zhou(阿里巴巴集团;清华大学)、Mingyang Han(未说明)、Boyu Li(未说明)、Yuxuan Jiang(未说明)、Jiaxin Ye(未说明)、Dongxiao Wang(未说明)、Haoxiang Shi(未说明)、Kunpeng Wang(未说明)、Jun Song(阿里巴巴集团)、Cheng Yu(未说明)、Bo Zheng(未说明) 💡 毒舌点评 亮点是将音视频评估中被长期混淆的时序对齐与语义一致性进行系统性解耦,并基于野生视频构建了五类变量隔离的挑战任务,直击当前多模态模型训练中的维度偏置。短板是语义编辑完全依赖外部生成模型(DDSP、OpenVoice),但未对编辑产物的“声学纯度”进行定量控制或消融,使“纯语义”假设在物理声学层面站得不够稳;同时,数据集仅3,269个视频,基准规模偏小,且0.64秒切片的选择缺乏理论或实验依据,长期使用的鲁棒性存疑。 ...

 · 更新于 2026-09-05 · 约 4 分钟 · 645 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-07-02

语音/音乐/音频论文速递 2026-07-02 共分析 16 篇论文 ⚡ 今日概览 📥 抓取 16 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音频理解 3篇 ███ #说话人验证 2篇 ██ #语音合成 2篇 ██ #语音识别 1篇 █ #音视频理解 1篇 █ #语音增强 1篇 █ #语音情感识别 1篇 █ #音乐生成 1篇 █ 📊 论文评分排行榜(16 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 NPUsper: Eliminating Redundant Computation for Real-Tim 9.0分 前10% #语音识别 🥈 AV-SyncBench: Decoupled Benchmarking of Temporal and Se 8.5分 前25% #音视频理解 🥉 ORCA: Open-ended Response Correctness Assessment for Au 7.9分 前25% #音频理解 4. AmbiDrop: Ambisonics-Based Array-Agnostic Neural Speech 7.5分 前25% #语音增强 5. From Objectives to Applications: Aligning Architectural 7.5分 前25% #音频理解 6. Positive-Incentive Noise Predictor for Adversarial Puri 7.4分 前50% #说话人验证 7. Automatic Detection of Stress from Speech in the Trier 7.4分 前50% #语音情感识别 8. Enhancing Flow Matching with A Unified Guidance Framewo 7.1分 前50% #语音合成 9. MG-RWKV: Multi-Grained Context-Aware RWKV for Temporal 6.9分 前50% - 10. A Text-Steerable Instrument for Sketching Procedural So 6.8分 前50% #音乐生成 11. A Geometric Perspective on Composable Emotion Steering 6.6分 前50% #语音合成 12. Do Multimodal Large Language Models Need Reasoning to C 6.5分 前50% #语音属性识别 13. Evaluating Pretrained Music Embeddings for Cross-Perfor 5.8分 前50% #音乐检索 14. Disentangling Speaker and Language Effects in Cross-Lin 5.6分 前50% #说话人验证 15. Adaptive Perturbation Selection for Contrastive Audio D 5.3分 后50% #音频理解 16. Speech Playground: An Interactive Tool for Speech Analy 4.1分 后50% - 📋 论文列表 🥇 NPUsper: Eliminating Redundant Computation for Real-Time Whisper on Mobile NPUs 9.0/10 | 创新 1.4/2 | 严谨 1.4/1.5 | 实验 1.0/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

 · 更新于 2026-09-05 · 约 13 分钟 · 2691 字 阅读 →
研究条目

ALM2Vec: Learning Audio Embeddings for Universal Audio Retrieval with Large Audio-Language Models

📄 ALM2Vec: Learning Audio Embeddings for Universal Audio Retrieval with Large Audio-Language Models #音频问答 #对比学习 #参数高效微调 7.4/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 7.4/10 | 前50% | #音频检索 | #对比学习 | #音频问答 #参数高效微调 | arxiv 👥 作者与机构 论文作者为Fengjie Lu, Chenang Jiang, Jiarui Hai, Helin Wang, Aaron Yee,分别来自浙江大学和约翰斯·霍普金斯大学。 💡 毒舌点评 这篇论文更像是一个工程上“有效”的系统构建报告,而非一篇贡献突出的学术研究。其核心思想——将一个强大的音频语言模型转换为嵌入模型——在直觉上合理,但缺乏令人信服的“为什么这样做以及为什么是这样”的深度分析。论文在方法论上缺乏关键设计选择的消融实验(例如,为什么用[EOS]?LoRA适配是否最优?),在评估上未能充分量化其宣称的“可控性”,在局限性探讨上流于表面。整体上,它更像一篇扎实的硕士论文或技术报告,其方法论创新和实验分析的深度尚未达到顶会所期望的水平。 📌 核心摘要 本文提出了ALM2Vec,一个从预训练大型音频语言模型(ALLM,具体为MiDashengLM)衍生而来的通用音频嵌入框架。该框架旨在将ALLM在大规模多模态训练中获得的音频理解、指令遵循和推理能力,转化为支持跨音频领域(如音效、语音、音乐)、跨任务类型(检索、问答)且可指令控制的统一嵌入空间。模型使用ALLM的[EOS] token隐藏状态作为全局表示,并通过双向对比学习进行训练。实验表明,ALM2Vec在标准音频和语音检索基准上性能与强基线(如CLAP)相当或更优,在指令条件音频问答(MMAU-Mini)上也能与一些大型音频语言模型竞争,尽管微调后性能略有下降。定性案例展示了其根据指令检索音频特定属性的能力。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 405 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-07-01

语音/音乐/音频论文速递 2026-07-01 共分析 35 篇论文 ⚡ 今日概览 📥 抓取 35 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 8篇 ████████ #语音合成 7篇 ███████ #自监督学习 2篇 ██ #音频分类 2篇 ██ #生成模型 2篇 ██ #语音情感识别 2篇 ██ #数据集 1篇 █ #知识蒸馏 1篇 █ 📊 论文评分排行榜(35 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Dilemmadata: On the Interoperability of Heterogeneous R 10.0分 前50% #数据集 🥈 SwiftAudio: Data-Efficient Caption-Only Distillation fo 10.0分 前50% #知识蒸馏 🥉 Attacking UTMOS: Probing the Robustness of a Speech Qua 8.6分 前25% #语音质量评估 4. Enhancing BEST-RQ Pseudo-Label Quality through Online R 8.6分 前50% #语音识别 5. Linguistic Bias Mitigation for Spoofing Detection via G 8.6分 前25% #自监督学习 6. Building an ASR Solution for Training and Assessing Chi 8.5分 前50% #语音识别 7. Beyond Cross-Reconstruction: Probing-Based Disentanglem 8.1分 前50% #语音编码 8. MuseBench: Benchmarking Intent-Level Audiovisual Arts U 7.9分 前50% #语音合成 9. Detecting Audio Deepfakes on the Edge:Lightweight SSL-B 7.7分 前25% - 10. Beyond Binary Instrument QA: Probing Instrument Groundi 7.6分 前25% #音频分类 11. SyncCache: Exploiting Asymmetric Dynamics for Fast Audi 7.5分 前25% #语音合成 12. Probing-Guided Layer Selection from Self-Supervised Spe 7.5分 前25% #集成学习 13. A First Exploration of Neuromorphic OT-CFM for Multi-Sp 7.5分 前25% #生成模型 14. LuxEmo: Expressive Text-to-Speech Corpus for Luxembourg 7.5分 前25% #语音合成 15. A Fair and Transparent Framework for Speech-Based Depre 7.4分 前50% #语音情感识别 16. ALM2Vec: Learning Audio Embeddings for Universal Audio 7.4分 前50% #音频检索 17. ASR-Agnostic Multimodal Spectrotemporal Modeling for Ea 7.4分 前50% #多模态模型 18. UniSAE: Unified Speech Attribute Editing on Speaker, Em 7.3分 前50% #语音合成 19. Tone-Conditioned Curriculum Learning for Low-Resource B 7.3分 前50% #语音识别 20. What Counts as an Error? Dual-Reference Benchmarking fo 7.3分 前50% #语音识别 21. Is Natural Always Appropriate? Investigating Naturalnes 7.2分 前25% #语音合成 22. FlexiSLM: A Dynamic and Controllable Frame Rate Spoken 7.2分 前25% #语音合成 23. ZEBRA: Zero-Shot Entropy-Regularized Prompt Learning fo 7.1分 前50% #音频分类 24. Preserving Speech-to-Text LLM Capabilities in Speech-to 7.0分 前50% #语音识别 25. Listening Between the Lines: Joint Learning of ASR Embe 7.0分 前50% #数据增强 26. BEST-RQ-2: Contextualize-Then-Predict, a Two-Step Appro 6.9分 前50% #语音识别 27. Improving multichannel speech enhancement through accur 6.8分 前50% #语音增强 28. Amplifying Membership Signal Through Chained Regenerati 6.6分 前50% #生成模型 29. AVTok: 1D Unified Tokenization for Holistic Audio-Video 6.5分 前25% #语音合成 30. LOPA: Enhancing Spoken Language Assessment via Latent O 6.2分 前50% #低资源 31. Adapting Foundation ASR Models to Dysarthric Speech: A 6.2分 前50% #语音识别 32. How Bilingual Are SSL Speech Models? Cross-Lingual Prob 5.8分 前50% #自监督学习 33. Gated Multi-Graph Fusion via Graph Attention Networks f 5.2分 后50% #语音情感识别 34. Building a Multimodal Dataset of Academic Paper for Key 5.2分 后50% #语音识别 35. Reference-Based Prosody and Rhythm Evaluation for Spoke 4.7分 后50% #语音对话系统 📋 论文列表 🥇 Dilemmadata: On the Interoperability of Heterogeneous Roman Numeral Datasets 10.0/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

 · 更新于 2026-09-05 · 约 20 分钟 · 4207 字 阅读 →
研究条目

LeVo 2: Stable and Melodious Song Generation via Hierarchical Representation Modeling and Progressive Post-Training

📄 LeVo 2: Stable and Melodious Song Generation via Hierarchical Representation Modeling and Progressive Post-Training #音乐生成 #大语言模型 #扩散模型 #多模态模型 #对比学习 #数据增强 9.4/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 9.4/10 | 前10% | #音乐生成 | #对比学习 | #大语言模型 #扩散模型 | arxiv 👥 作者与机构 论文作者来自清华大学深圳国际研究生院(清华-港中文联合研究中心)、腾讯、武汉大学以及香港理工大学。通讯作者为清华大学的吴志勇教授和腾讯的于东博士。第一作者Lei Shun在论文完成时为腾讯实习生。 💡 毒舌点评 这篇工作是典型的“大力出奇迹”式的系统工程论文,扎实有余,灵光乍现不足。其核心贡献——分层LeLM架构和渐进式后训练——本质上是将已有的Transformer LM、VQ-VAE、扩散模型和DPO/RLHF技术进行了精心的组合与流水线化设计。分层思想虽解决了序列长度和协调性问题,但并非首创;训练范式虽设计精巧(美学引导、阶段解耦),但更像是一套针对数据和任务特性的工程化解决方案,而非普适性的算法创新。论文最大的优点在于诚实和全面:它坦诚地承认了与顶级商业系统的差距,详细公开了训练细节和代码,消融实验做得非常扎实,证明了每个设计模块的必要性。对于领域内的实践者来说,这是一份极佳的参考蓝图和可复现的基线;但对于追求颠覆性创新的顶会审稿人来说,其方法论上的“新瓶装旧酒”会是主要扣分点。分数给到8.0,是对其工程完整度、实验严谨性和开源贡献的高度认可,但也明确反映了其在根本性创新上的局限。 📌 核心摘要 本文提出了LeVo 2,一个用于可控且富有旋律性的完整歌曲生成的混合LLM-Diffusion框架。其核心架构LeLM采用分层表示建模,首先由混合语义LM预测混合令牌以捕获全局音乐结构(旋律、节奏、人声与伴奏协调),随后特定音轨LM基于前者的隐藏状态并行预测人声与伴奏令牌,以精化声学细节,最后由基于扩散的音乐编解码器将预测的令牌重建为波形。论文的主要贡献在于提出了一套由自动化音乐美学评估框架引导的三阶段训练范式,该范式包含解耦的渐进式后训练策略(SFT、大规模离线DPO、闭环半在线DPO),旨在依次优化生成质量、可控性(歌词和提示对齐)和音乐性,以缓解多目标优化冲突和静态数据集的局限。实验表明,LeVo 2在六个主观维度上显著超越所有开源基线,并在部分指标上接近领先的商业系统(Suno v5, Mureka v8),消融研究验证了其架构和训练策略各组件的有效性。 ...

 · 更新于 2026-09-05 · 约 1 分钟 · 100 字 阅读 →
研究条目

Semi-Supervised Sound Event Detection with Conditional Mixup and Embedding-Level Contrastive Loss

📄 Semi-Supervised Sound Event Detection with Conditional Mixup and Embedding-Level Contrastive Loss #对比学习 #数据增强 7.6/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 7.6/10 | 前25% | #对比学习 | #对比学习 | #数据增强 | arxiv 👥 作者与机构 Nian Shao^1,2, Xian Li^2,3, Xiaofei Li^2,3*。 1 浙江大学,杭州,中国。 2 西湖大学工程学院,杭州,中国。 3 西湖大学 & 西湖高等研究院,杭州,中国。 通讯作者。Email: lixiaofei@westlake.edu.cn 💡 毒舌点评 动机合理性存疑:论文声称“一致性正则化对于基于大规模预训练编码器的SED系统效果较弱”,并以此作为引入对比学习的主要动机。然而,这一论断缺乏直接的对比实验证据(例如,仅展示ATST-SED在一致性正则化下的性能瓶颈),更多是基于推理的假设,削弱了贡献的根基。 条件混合的必要性未充分论证:论文提出的条件混合(通过阈值τ切换组合/扰动模式)是核心创新。但消融实验仅证明了两种模式分别有效以及组合后更好,却未提供证据表明“在单一框架中统一两种混合模式”比“为两种损失分别设计独立的数据增强策略”更具优势或更简洁。其“统一性”带来的具体好处(如超参数减少、训练更稳定等)未被量化证明。 方法依赖特定预训练模型:方法高度依赖ATST-Frame模型及其预训练的对比目标。这在提升性能上是有效的,但也限制了方法的通用性。论文未探讨该方法在其他主流音频预训练模型(如BEATs, AST)上的泛化能力,使其贡献更偏向于一个特定模型架构的“改进包”,而非一个广泛适用的半监督学习框架。 数学推导与公式存在瑕疵:论文中部分公式定义存在跳跃。例如,式(4)和(7)中混合样本 \(\mathbf{x}'\) 的下标 c/p 仅用于区分模式,但与插值系数 \(\lambda_c/\lambda_p\) 的取值范围定义(\(0.5 \leq \lambda_c \leq \tau\), \(\tau < \lambda_p \leq 1\))在符号使用上略显混乱。式(6)中的 \(\min(\tilde{\mathbf{y}}_i + \tilde{\mathbf{y}}_j, \mathbf{1})\) 操作虽然直观(防止标签值超过1),但其理论依据或与其他标准mixup标签处理方式的对比未被讨论。 SOTA声明的比较局限性:在与SOTA对比时(Table III),仅与两个方法(MAT-SED, PMAM)进行比较,且PMAM的PSDS2未提供。DESED作为标准基准,应包含更多近期(如DCASE 2023/2024 Challenge)的强基线或获胜系统进行对比,才能令人信服地宣称“建立了新的最先进水平”。当前比较的广度不足。 分析文本遗漏关键信息:已有分析在“开源详情”中错误地推断“复现材料:论文中未提及单独的复现材料”。实际上,论文明确提供了代码仓库链接,这直接支撑了可复现性。分析中对“方法概述”的描述过于简略,未充分展开条件混合的数学定义、损失函数的具体构成以及对比学习的师生框架细节。 评分与定位不符:初始评分8.0偏高。论文提出了一项针对特定基线的有效改进,实验结果扎实,但创新深度(条件混合的动机与验证)、理论贡献及广泛影响力有限。它是一篇扎实的系统改进论文,但距离“顶会级”的突破性贡献仍有差距。总分调整为6.5。 📌 核心摘要 本文针对半监督声音事件检测(SED)中无标签数据利用不充分的问题,提出了一种改进的微调框架。核心在于引入了受预训练目标启发的嵌入层对比损失,并设计了一个“条件混合”策略来统一伪标签学习所用的“组合混合”与对比学习所用的“扰动混合”。该方法在ATST-SED基线上,通过联合优化伪标签损失与对比损失进行微调。在DESED验证集上,ATST-SEDv2模型取得了0.645 PSDS1和0.822 PSDS2的性能,优于先前报告的基线方法。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 348 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-30

语音/音乐/音频论文速递 2026-06-30 共分析 35 篇论文 ⚡ 今日概览 📥 抓取 35 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 10篇 ██████████ #语音合成 4篇 ████ #自监督学习 2篇 ██ #语音编码 2篇 ██ #音乐生成 1篇 █ #音频事件检测 1篇 █ #语音分离 1篇 █ #数据集 1篇 █ 📊 论文评分排行榜(35 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Preference-ASR: A Preference-Aware Test Set for Benchma 9.5分 前10% #语音识别 🥈 LeVo 2: Stable and Melodious Song Generation via Hierar 9.4分 前10% #音乐生成 🥉 VIB-AVSR: Variational Information Bottleneck for Noise- 9.0分 前10% #语音识别 4. Two kinds of robustness are not the same: disentangling 8.9分 前25% #音频事件检测 5. DialogPII: A multilingual dataset of synthetic dialog t 8.9分 前25% #语音识别 6. GigaSpeechBench: A Real-World Multilingual Speech-to-Te 8.7分 前50% #语音识别 7. SICAGE: Speaker-Independent Culture-Aware Gesture Gener 8.7分 前25% #语音合成 8. How to Leverage Synthetic Speech for LLM-Based ASR Syst 8.7分 前50% #语音识别 9. Position-Aware Target Speaker Extraction for Long-Form 8.5分 前25% #语音识别 10. wav2VOT: Automatic estimation of voice onset time, clos 8.5分 前25% #自监督学习 11. Improving Large-Scale Weakly Supervised ASR by Filterin 8.4分 前25% - 12. Agent-Computer Observation Interfaces Enable Dynamic Co 8.4分 前10% #语音识别 13. DTM-Codec: Dynamic Token Masking for VFR Speech Coding 8.1分 前25% #语音编码 14. TF-MoE: Time-Frequency Mixture-of-Experts for Efficient 8.1分 前25% #语音分离 15. Underwater Source Detection and Classification for Sign 7.8分 前25% #数据集 16. AMR: Adaptive Modality Routing for Multimodal Polyglot 7.8分 前25% #说话人识别 17. FacePlex: Full-Duplex Joint Speech-Facial Motion Genera 7.8分 前25% #语音合成 18. VeRe-Flow: Guiding Flow Matching toward Clean Speech vi 7.7分 前25% #语音增强 19. CTC-Seeded Token Edit Refinement for Non-Autoregressive 7.7分 前25% #语音识别 20. Evaluation of Head-Related Transfer Functions Across Fi 7.6分 前25% #空间音频 21. Semi-Supervised Sound Event Detection with Conditional 7.6分 前25% #对比学习 22. OLIVE: View-Augmented Latent Prediction with Waveform R 7.5分 前50% #语音识别 23. EchoHawk: A Reproducible Acoustic Pipeline for Drone De 7.5分 前25% - 24. LoRA-Tuned Large Language Models for Dementia Detection 7.5分 前50% #参数高效微调 25. MeloDISinger: Melody-Aware & Duration-Preserving Si 7.4分 前50% #语音合成 26. Child-Centric Voice Anonymization in Single and Multi-S 7.2分 前50% #语音匿名化 27. SIGMA: Saliency-Guided Sparse Mask Attacks for Speech E 7.1分 前50% #语音情感识别 28. Effective Depth in Joint Source-Channel Coding: An Impl 7.0分 前50% #语音编码 29. SIMAX: A Scalable and Interpretable Framework for Multi 6.6分 后50% #语音合成 30. Clustering Unsupervised Representations as Defense agai 6.5分 前50% #自监督学习 31. Comparing Human and Automatic Recognition of Dutch Dysa 6.5分 前50% #语音识别 32. Predicting Timbre Traits for Interpretable Assessment o 6.1分 前50% #音频生成 33. TRACE: Temporal Relationship-Aware Conversational Entra 5.9分 前50% - 34. Proteus: Automated Adversarial Robustness Testing for A 5.3分 后50% #数据增强 35. Rehearsed Multi-Agent Live Product Demonstrations with 5.3分 后50% #多模态模型 📋 论文列表 🥇 Preference-ASR: A Preference-Aware Test Set for Benchmarking ASR in the Era of Speech LLMs 9.5/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 ...

 · 更新于 2026-09-05 · 约 22 分钟 · 4475 字 阅读 →
研究条目

DNSMOS-C: Improving End-to-end Speech Quality Models via Contrastive Learning

📄 DNSMOS-C: Improving End-to-end Speech Quality Models via Contrastive Learning #对比学习 #端到端 9.3/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 🔥 9.3/10 | 前50% | #语音质量评估 | #对比学习 | #端到端 | arxiv 👥 作者与机构 作者:Xinyu Liang, Fredrik Cumlin, Victor Ungureanu, Chandan K. A. Reddy, Christian Schüldt, Saikat Chatterjee 机构:1 KTH Royal Institute of Technology, Stockholm, Sweden; 2 Google LLC ...

 · 更新于 2026-09-05 · 约 2 分钟 · 406 字 阅读 →
研究条目

SamaVaani: Auditing and Debiasing Multilingual Clinical ASR for Indian Languages

📄 SamaVaani: Auditing and Debiasing Multilingual Clinical ASR for Indian Languages #语音识别 #对比学习 #参数高效微调 #多语言 7.8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.8/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.8/10 | 前25% | #语音识别 | #对比学习 | #参数高效微调 #多语言 | arxiv 👥 作者与机构 作者:Subham Kumar, Prakrithi Shivaprakash, Abhishek Manoharan, Astut Kurariya, Diptadhi Mukherjee, Prabhat Chand, Pratima Murthy, Koustav Rudra, Lekhansh Shukla, Animesh Mukherjee 机构:印度理工学院卡拉格普尔分校(IIT Kharagpur),国家心理健康与神经科学研究所(NIMHANS, Bangalore),卢加德·邦迪亚拉地区精神病学研究所(LGBRIMH, Tezpur) ...

 · 更新于 2026-09-05 · 约 2 分钟 · 362 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-26

语音/音乐/音频论文速递 2026-06-26 共分析 22 篇论文 ⚡ 今日概览 📥 抓取 22 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 3篇 ███ #语音质量评估 2篇 ██ #语音合成 2篇 ██ #扩散模型 1篇 █ 歌唱评估 1篇 █ 音频编解码 1篇 █ 音频事件检测 1篇 █ 音频分离 1篇 █ 📊 论文评分排行榜(21 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 DNSMOS-C: Improving End-to-end Speech Quality Models vi 9.3分 前50% #语音质量评估 🥈 UnityShots: Memory-Driven Multi-Shot Audio-Video Genera 8.9分 前25% #扩散模型 🥉 Listening Like a Judge: A Music-Aware Framework for Aut 8.8分 前25% 歌唱评估 4. Elastic Time: Dynamic Frame Rate Bottlenecks for Neural 8.3分 前50% 音频编解码 5. Soroll-IA: A Weakly Labeled Audio Dataset for Real-Worl 8.3分 前25% 音频事件检测 6. A Large-Scale Database and Predictive Model of Listener 8.1分 前25% #语音质量评估 7. SamaVaani: Auditing and Debiasing Multilingual Clinical 7.8分 前25% #语音识别 8. CodecSep: Prompt-Driven Universal Sound Separation on N 7.7分 前25% 音频分离 9. VoiceTTA: Enhancing Zero-Shot Text-to-Speech via Reinfo 7.6分 前50% #语音合成 10. What We are Missing in Multimodal LLM Evaluation? 7.0分 前50% - 11. RedVox: Safety and Fairness Gaps in Speech Models Acros 6.8分 前50% #基准测试 12. WQ-Fusion: Dynamic Gated Attention for Cross-Domain Aud 6.7分 前50% #音频分类 13. Thinking While Speaking: Inference-Time Knowledge Trans 6.7分 后50% #知识蒸馏 14. When Does Quality-Aware Multimodal Fusion Matter? A Lea 6.6分 前50% #语音情感识别 15. voxmap-studio: An open-source speaker diarization annot 6.5分 前50% #说话人日志 16. FBK's Long-form SpeechLLMs for IWSLT 2026 Instructi 6.5分 前50% #语音识别 17. wav2tok 2.0: Scalable Audio Tokenization Maintaining Ex 6.4分 前50% #语音检索 18. Generative AI and Copyright Infringement: A Legal-Techn 6.0分 前50% #音乐生成 19. Closing the Quality Gap in Low-Resource Text-to-Speech: 6.0分 后50% #语音合成 20. Neural Speaker Diarization via Multilingual Training: E 5.5分 前50% #语音分离 21. Low Resource Multimodal Translation of Nepali Spoken Wo 5.3分 后50% #语音识别 22 Phonetic and semantic analyses of spoken corpora of Bei N/A - - 📋 论文列表 🥇 DNSMOS-C: Improving End-to-end Speech Quality Models via Contrastive Learning 9.3/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 ...

 · 更新于 2026-09-05 · 约 12 分钟 · 2421 字 阅读 →
研究条目

Audio--Image Alignment as a Continued-Pretraining Stage Improves Low-Resource ASR

📄 Audio–Image Alignment as a Continued-Pretraining Stage Improves Low-Resource ASR #语音识别 #自监督学习 #对比学习 #低资源 #多模态模型 6.2/10 | 创新 1.2/2 | 严谨 1.3/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0.2/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 6.2/10 | 前50% | #语音识别 | #自监督学习 | #对比学习 #低资源 | arxiv 👥 作者与机构 作者:Sujith Pulikodan, Nihar Desai, Prasanta Kumar Ghosh。 机构:论文中未明确说明作者所属机构。根据作者姓名和研究领域推测,可能来自印度的相关研究机构(例如印度科学研究所 IISc Bangalore)。 💡 毒舌点评 改进幅度的“相对性”:论文在FLEURS上的21.26%相对WER降低听起来很惊人,但这主要是因为基线模型在FLEURS(未见语言)上表现极差(WER 67.78%)。从绝对数值看,最佳模型将WER从0.68降到0.53,仍属于“不可用”到“勉强可读”的范畴。在资源更丰富的Vaani上,改进仅在1-2%之间,这种“蚊子腿”级别的增益在实际部署中几乎无感。 数据集依赖性过强:核心假设——易获取的音频-图像对——严重依赖于Vaani这个特定收集范式(图片提示说话)。在绝大多数真实低资源场景中,这种精心配对的多模态数据并不存在。方法泛化能力存疑。 成本转嫁而非消除:声称“无需转录”,但获取数十万小时高质量且配对的音频-图像数据,其成本真的远低于获取转录文本吗?Vaani数据集本身的收集就是一项巨大的工程。这更像是将一种稀缺资源(转录文本)的成本转嫁到了另一种稀缺资源(配对多模态数据)上。 消融不足:声称改进来自“对齐阶段”而非更多数据,但对比实验仅用了三个检查点的微小差异。更彻底的消融应包括:a) 使用相同音频但随机配对图像的模型;b) 使用相同音频但无图像(纯文本描述)的模型。现有证据链不够强。 工程细节模糊:虽然描述了架构,但关键超参数(如对齐阶段各组件的学习率缩放因子0.05的具体依据)未解释。三种对齐配置的对比更像是超参搜索,而非对不同模态交互机制的深度分析。 📌 核心摘要 本文针对低资源语音识别问题,提出了一种在自监督音频预训练和监督微调之间引入“音频-图像对齐”的中间适应阶段。该方法利用预先冻结的视觉编码器(如SigLIP2、Qwen3-VL)提取图像语义特征,通过对比学习(SigLIP损失)训练音频编码器,使其输出表示与图像特征对齐,全程无需转录文本。实验在Vaani(48种语言)和FLEURS(14种南亚语言)数据集上进行。结果表明,经过对齐的模型在两个基准上均优于直接微调的基线,尤其是在FLEURS这种更极端低资源场景下,最佳模型的词错误率(WER)实现了21.26%的相对下降,且统计检验显示该提升具有显著性。论文认为,此对齐阶段有效提升了音频表示的鲁棒性和泛化能力。 ...

 · 更新于 2026-09-05 · 约 3 分钟 · 524 字 阅读 →
研究条目

Audio-visual Contrastive Alignment for Diffusion-based Visual-conditioned Speech Enhancement

📄 Audio-visual Contrastive Alignment for Diffusion-based Visual-conditioned Speech Enhancement #扩散模型 #对比学习 #多模态模型 #语音增强 8.1/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.1/10 | 前25% | #语音增强 | #对比学习 | #扩散模型 #多模态模型 | arxiv 👥 作者与机构 Colombe Mboungou, Mostafa Sadeghi, Jean-Eudes Ayilo, Romain Serizel Université de Lorraine, CNRS, Inria, Loria, Nancy, France 💡 毒舌点评 这篇论文做了一件相对简单但合理的“缝合”工作:在一个现有的扩散式无监督视听语音增强(AV-UDiffSE+/DiffUSEEN)框架上,增加了一个训练时的对比损失来强化视听对齐。想法直接,实验也显示了收益。但作者似乎对这项工作的定位过于乐观。它本质上是一个模块化改进,而非架构或范式上的突破。论文在讨论中声称“明确研究了跨模态对齐的作用”,但其实验主要展示了“增加对比损失能提升性能”,对于“为何现有交叉注意力机制不够”以及“对比损失具体如何改善表示空间”的深层机制探讨不足。将这样一个相对增量的工作发表在顶会,需要更强的洞察力和更全面的分析来支撑。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 335 字 阅读 →
研究条目

Beyond U-Net: A Latent-Representation-Aligned Skip-Free Backbone for Flow-Matching Speech Enhancement

📄 Beyond U-Net: A Latent-Representation-Aligned Skip-Free Backbone for Flow-Matching Speech Enhancement #语音增强 #生成模型 #对比学习 6.6/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 0.8/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 6.6/10 | 前50% | #语音增强 | #对比学习 | #生成模型 | arxiv 👥 作者与机构 第一作者:Wangyi Pu 第二作者:Michele Scarpiniti 机构信息:论文中未明确说明作者所属机构。 💡 毒舌点评 这篇论文像是给语音增强这个“老生常谈”的任务穿了件“无跳跃连接+编解码器对齐”的新衣服。想法是好的,试图解决U-Net跳跃连接可能带噪的老问题。但问题是,在WSJ0-CHiME3上的表现简直像个“平A”,PESQ就涨了0.01,WVMOS和SI-SDR甚至倒退了,就这还好意思说“competitive”?作者把DAC当“参考”不当“基线”,是不是怕直接比不过?论文里对损失权重怎么选的、消融实验怎么做的一笔带过,问就是“未分析”。最逗的是,图和文字里说自己的主干“非对称”,但看起来编码器解码器长得挺对称啊,这“非对称”的帽子戴得有点勉强。总之,创新点有,但实验深度和说服力严重不足,像个精心包装但内料不足的礼品盒。 📌 核心摘要 本文针对基于流匹配(Flow Matching)的语音增强模型中,传统U-Net跳跃连接可能传递噪声特征的问题,提出了一种新的无跳跃连接编码器-解码器主干网络。其核心思想是通过潜在表示对齐(Latent Representation Alignment, LRA) 来补偿移除跳跃连接带来的信息损失。具体而言,该模型使用一个冻结的、无量化的Descript Audio Codec (DAC) 作为“教师”网络,其编码器和解码器分别提取干净语音的潜在表示。在训练时,所提增强网络的瓶颈特征和解码器中间特征会与这些干净的DAC潜在表示进行对齐(LRA损失),从而引导模型学习紧凑的、与噪声无关的语音表示。实验在WSJ0-CHiME3和VoiceBank-DEMAND数据集上进行,结果表明该方法在VoiceBank-DEMAND上显著提升了PESQ和感知质量指标,而在WSJ0-CHiME3上仅取得有限提升,但所有模型均能在仅5次函数评估(NFE=5)的高效推理下运行。 ...

 · 更新于 2026-09-05 · 约 3 分钟 · 493 字 阅读 →
研究条目

Breaking Shortcut Learning for Cross-Trial EEG-Guided Target Speech Extraction via Two-Stage Training

📄 Breaking Shortcut Learning for Cross-Trial EEG-Guided Target Speech Extraction via Two-Stage Training #对比学习 8.6/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 8.6/10 | 前50% | #对比学习 | #对比学习 | arxiv 👥 作者与机构 Wonchul Shin: 1, 3, 4 Inyong Choi: 2 Kyogu Lee: 1, 3, 4 1 Department of Intelligence and Information, Seoul National University, Republic of Korea 2 Department of Communication Sciences and Disorders, University of Iowa, United States 3 Interdisciplinary Program in Artificial Intelligence, Seoul National University, Republic of Korea 4 Artificial Intelligence Institute, Seoul National University, Republic of Korea ...

 · 更新于 2026-09-05 · 约 3 分钟 · 438 字 阅读 →
研究条目

Comparative Reasoning: Making an Audio Language Model Better at Comparing Emotions

📄 Comparative Reasoning: Making an Audio Language Model Better at Comparing Emotions #语音情感识别 #对比学习 7.5/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 7.5/10 | 前25% | #语音情感识别 | #对比学习 | arxiv 👥 作者与机构 Language Technologies Institute, Carnegie Mellon University, Pittsburgh, PA, 15213, US The University of Texas at Dallas, Richardson TX 75080, USA NVIDIA 💡 毒舌点评 这篇论文瞄准了一个关键但被忽视的问题:让音频语言模型学会“比较”。选择情感维度作为切入点很聪明,因为人类本身就更擅长比较而非绝对评分。方法上,把GeMAPS特征离散化后和语义描述一起喂给大模型生成“推理轨迹”,再用DPO来区分好坏推理,这个设计环环相扣,有一定巧思。实验结果也确实亮眼,5%的数据吊打了传统SSL基线,跨域迁移能力也不错。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 361 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-24

语音/音乐/音频论文速递 2026-06-24 共分析 39 篇论文 ⚡ 今日概览 📥 抓取 39 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 6篇 ██████ #语音增强 6篇 ██████ #语音合成 2篇 ██ #多模态模型 2篇 ██ #音乐生成 2篇 ██ #信号处理基础 2篇 ██ #音频深度伪造检测 1篇 █ #对比学习 1篇 █ 📊 论文评分排行榜(39 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 ZONOS2 Technical Report 10.0分 前25% #语音合成 🥈 Layer-wise Probing of wav2vec 2.0 and Whisper for Conso 9.5分 前50% #语音识别 🥉 CN-NewsTTS Bench: a target-level automatic benchmark fo 9.2分 前10% #语音合成 4. BanglaFake: Constructing and Evaluating a Specialized B 9.0分 后50% #音频深度伪造检测 5. Data Scale, Not Latency, Shapes Cross-Lingual Encoder T 9.0分 前25% #语音识别 6. Breaking Shortcut Learning for Cross-Trial EEG-Guided T 8.6分 前50% #对比学习 7. AVOC: Enhancing Hour-Level Audio-Video Understanding in 8.4分 前25% #多模态模型 8. SphereVBx: Spherical Variational Bayes Clustering for S 8.3分 前50% #无监督学习 9. ParaPairAudioBench: Paralinguistic Pairwise Audio Bench 8.2分 前50% #语音质量评估 10. video-SALMONN-R\(^3\): Learning to ReWatch, ReAsk, and Re 8.2分 前10% #多模态模型 11. Audio-visual Contrastive Alignment for Diffusion-based 8.1分 前25% #语音增强 12. Perceptual Evaluation of Higher-Order Ambisonic Codecs 8.0分 前50% #音频编码 13. DTT-BSR+: A Generative-Regression Cascade for Music Sou 8.0分 前25% #生成对抗网络 14. Heterogeneous 2D/1D Signal Representation Fusion for Un 7.6分 前50% - 15. Selective Capability Unlearning in End-to-End Spoken La 7.6分 前25% - 16. A Multi-Stage Separation-and-Classification Framework G 7.5分 前50% #音频分类 17. Progressive Alignment Objectives for Aligner-Encoder ba 7.5分 前25% #语音识别 18. Comparative Reasoning: Making an Audio Language Model B 7.5分 前25% #语音情感识别 19. VieSpeaker: A Large-Scale Vietnamese Speaker Recognitio 7.5分 前25% #说话人识别 20. Suppressing spectral edge effects in Schroeder Harmonic 7.3分 前50% #语音增强 21. Real-Time Interactive Music Generation via Data-Free St 7.1分 前50% #音乐生成 22. A Methodology for Characterizing Underwater Radiated No 7.0分 前50% #信号处理基础 23. A Fusion-Aware Two-Stage Framework for Mispronunciation 7.0分 前25% #语音识别 24. Neuromorphic Speech Enhancement with Dual-Branch Spikin 7.0分 前50% #语音增强 25. NeuroSonic: Conditional Flow Matching for EEG-to-Speech 7.0分 前50% #语音生成 26. The effect of micro-changes in the pluck trajectory on 6.8分 前50% #信号处理基础 27. Evaluation of Headrest-Integrated Loudspeakers for Enha 6.8分 前50% - 28. Statistical validation and full-sphere extension of a B 6.7分 前50% #音频质量评估 29. Beyond U-Net: A Latent-Representation-Aligned Skip-Free 6.6分 前50% #语音增强 30. Measuring User's Mental Models of Speech Translatio 6.6分 前50% #语音翻译 31. Audio–Image Alignment as a Continued-Pretraining Stage 6.2分 前50% #语音识别 32. Poster: Exploring the Limits of Audio-Based Detection o 6.2分 前50% - 33. Joint Learning of Covariance Estimation and White Noise 5.8分 前50% #语音增强 34. Sonus Health: Calibrated Heart-Murmur Detection from Sm 5.7分 前50% #音频事件检测 35. Autoencoder based optimized SSL representations: Comple 5.5分 前50% #语音识别 36. It's Complicated: On the Design and Evaluation of A 5.5分 前50% #大语言模型 37. Digital Revival: Acoustic Documentation and Digital Rea 5.3分 后50% #音乐生成 38. Aligning MusicLLM with Emotion using Instruction Tuning 4.9分 后50% #音乐情感识别 39. A Variational-Flow Analysis of StoRM under Noise-Power 4.4分 前50% #语音增强 📋 论文列表 🥇 ZONOS2 Technical Report 10.0/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ...

 · 更新于 2026-09-05 · 约 21 分钟 · 4472 字 阅读 →
研究条目

CAAD: Contrastive Audio-Aware Distillation for Efficient Speech Language Models

📄 CAAD: Contrastive Audio-Aware Distillation for Efficient Speech Language Models #语音识别 #模型压缩 #多模态模型 #语音情感识别 #对比学习 8.9/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1.1/1.5 🔥 8.9/10 | 前25% | #语音识别 | #知识蒸馏 | #模型压缩 #多模态模型 | arxiv 👥 作者与机构 第一作者:Chun-Wei Chen,第二作者:Tzu-Quan Lin,第三作者:Ke-Han Lu,第四作者:Wei-Ping Huang,第五作者:Hung-Yi Lee。机构:台湾大学电机工程学研究所、台湾大学通讯工程学研究所、台湾大学人工智能卓越研究中心(NTU AI-CoRE)。 💡 毒舌点评 本文直击了语音语言模型蒸馏中“继承偏差而非克服偏差”的痛点,并提出了一个巧妙且高效的解决方案。其核心洞察——将推理时的对比解码(CD)逻辑训练时内化到学生权重——是清晰且有价值的。同步教师强制策略的设计也确实解决了传统对比蒸馏训练开销大的瓶颈。然而,这种巧妙设计严重依赖一个核心假设:由LLM基于元数据生成的“伪真实标签(Pseudo-GT)”是高质量且无偏的锚点。论文对此论证不足,这使得整个框架的上限存疑。实验虽然扎实,但仅在单一架构和压缩比上验证,普适性存疑。更关键的是,CAAD学生模型性能虽优于Std. KD,但仍不及教师模型的CD解码,这一差距的原因分析缺失。这像是一位学生学会了老师的“内功心法”(对比逻辑),但“内力”(模型容量)仍不及老师本人施展的威力。总的来说,这是一篇技术实现巧妙、实验导向明确的工作,但其核心组件的可靠性和结论的普适性需要更严格的审视。 📌 核心摘要 本文针对语音语言模型参数庞大且标准蒸馏会继承语言先验偏差的问题,提出了对比音频感知蒸馏(CAAD)。CAAD的核心是通过同步教师强制策略,利用文本元数据生成的伪真实标签(Pseudo-GT)作为锚点,使教师模型能高效计算“音频感知”和“仅文本”两条路径的对比分布。学生模型通过优化与“音频感知目标”的KL散度,将这种对比推理能力内化到单路径模型中,从而在不增加推理延迟的前提下,提升模型对音频信息的依赖并减轻语言偏差。实验在DeSTA2(8B教师到3B学生)上表明,CAAD在通用任务(Dynamic-SUPERB)上相比标准蒸馏有约8%的性能提升,在模态冲突任务(MCR-BENCH)上显著降低了语言偏见(Shift值从100%降至79.03%)。 🔗 开源详情 代码:https://github.com/ChenWils/Contrastive_Audio-Aware_Distillation.git 模型权重:论文中未提及具体链接。 数据集:论文中提及了AccentDB、DailyTalk、IEMOCAP、PromptTTS、VCTK、VoxCeleb以及MCR-BENCH中的MELD子集,但未提供具体下载链接。 Demo:论文中未提及。 复现材料:论文中提及了训练配置(使用RTX A6000 GPU训练70小时,优化器为FusedAdam,学习率 \(1 \times 10^{-4}\),\(\lambda=0.7\),\(\tau=2.0\)),但未提供具体检查点或附录。 论文中引用的开源项目:未提及具体开源项目链接。 🏗️ 方法概述和架构 CAAD框架旨在将教师模型在推理时使用的对比解码(CD)能力,高效地蒸馏到单路径的学生模型中,避免推理时双路径计算带来的延迟。该框架分为两个阶段,如图1所示。 阶段1:伪真实标签(Pseudo-GT)生成 此阶段为后续的同步蒸馏准备统一的锚点序列。给定音频输入 \(X^{A}\),首先提取文本元数据 \(M\)(如性别、情绪、声学环境等)。然后,利用教师模型的LLM骨干(如Llama3-8B-Instruct),以元数据 \(M\) 为条件,自回归生成一个结构化的描述性文本序列 \(Y^{pseudo} = \{y_1, y_2, ..., y_L\}\)。这个序列 \(Y^{pseudo}\) 被视为一个高质量的、与音频内容对齐的伪真实标签,将作为阶段2中教师模型双路径生成的固定输入序列,以实现训练过程的并行化。论文还探索了另一种直接从连续音频嵌入生成 \(Y^{pseudo}\) 的基线,但消融实验(表3)表明,基于文本元数据的锚点具有更高的保真度。 阶段2:对比音频感知蒸馏 在此阶段,教师模型 \(\mathcal{T}\) 和学生模型 \(\mathcal{S}\) 同时使用阶段1生成的 \(Y^{pseudo}\) 作为输入序列的一部分,进行同步计算。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 356 字 阅读 →
研究条目

CoughPhase-CLR: Designing an acoustics-informed foundation model for coughing sound classification

📄 CoughPhase-CLR: Designing an acoustics-informed foundation model for coughing sound classification #对比学习 #自监督学习 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.3/1.5 | 复现 0.5/0.5 | 工程 1/1.5 🔥 10/10 | 前10% | #对比学习 | #对比学习 | #自监督学习 | arxiv 👥 作者与机构 Marius Moldovan, Andreas Triantafyllopoulos, Anton Batliner, Björn W. Schuller: CHI – the Chair of Health Informatics at the TUM University Hospital, Munich, Germany; MCML – the Munich Center for Machine Learning and MDSI – the Munich Data Science Institute, Munich, Germany. Björn W. Schuller: GLAM – the Group on Language, Audio, & Music at Imperial College London, London, United Kingdom. Thomas M. Berghaus: University Hospital Augsburg at the University of Augsburg, Augsburg, Germany and Medical Faculty, Ludwig Maximilians University of Munich, Munich, Germany. 💡 毒舌点评 这篇论文像一个精心设计但规模有限的临床试验。想法不错——用咳嗽的“物理节奏”来教AI听咳嗽,比随机切片要合理。但现实很骨感:预训练数据量仅为OPERA的十分之一,在最重要的COPD诊断任务上,所有模型都像在扔硬币(最高57%),远低于语音方法的84%。作者很诚实地承认了问题,但“诚实”不能替代“解决”。私有COPD-DE数据集只有48个病人、166条录音,这样的结论在临床意义上非常脆弱。最终,论文更像是一次扎实的、关于“当前咳嗽声学分析天花板”的演示,而非一个能实际落地的诊断工具。代码和模型权重的开源是亮点,为后续研究铺了路,但路还很长。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 407 字 阅读 →
研究条目

Cross-lingual Retrieval-Augmented Classification for Dysarthria Severity Assessment

📄 Cross-lingual Retrieval-Augmented Classification for Dysarthria Severity Assessment #对比学习 8.4/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.4/10 | 前25% | #语音识别 | #对比学习 | arxiv 👥 作者与机构 作者:Taeyoung Jeong, Insung Lee, Du-Seong Chang, Myoung-Wan Koo 机构:Department of Artificial Intelligence, Sogang University, South Korea 💡 毒舌点评 这篇论文的动机很清晰,就是模仿医生看病时的“对比诊断”思路,用一个语言的数据去帮助另一个语言的疾病分级。想法不错,但实现上深度有限。最大的亮点是把检索增强(RAG)从文本领域巧妙地搬到了语音病理分析上,并且用对比学习做跨语言对齐,这算是一个有效的工程组合。消融实验设计得不错,清楚地证明了“对齐”和“检索”缺一不可。但是,论文的“天花板”也很明显:它严重依赖一个强大的预训练模型(Whisper)作为特征提取器,CRAC框架更像是在这个强特征上做了一个精巧的“后期处理”。如果剥离Whisper的功劳,这个框架本身还能剩下多少?此外,实验只在两个语言、两种病因的数据集上做,虽然跨了病因,但样本量(尤其是测试集)太小,结论的普适性要打个问号。作者在“局限性”部分几乎一笔带过,缺乏深入的自我批判。总的来说,是一篇扎实的、有启发性的工作,但离改变领域范式还差得远,更适合发表在应用导向的会议上。 📌 核心摘要 针对病理语音数据稀缺导致的构音障碍自动严重程度评估难题,本文提出了一个跨语言检索增强分类(CRAC)框架。该框架受临床医生对比诊断流程启发,包含四个阶段:1) 对比对齐阶段,使用冻结的Whisper-small编码器提取特征,并通过监督对比学习训练一个投影头,将不同语言和任务的特征映射到一个严重程度聚焦的嵌入空间;2) 向量数据库构建阶段,使用目标语言训练集的特征构建一个检索数据库(FAISS),用于从相反语言的语料库中检索相似样本;3) 检索增强分类阶段,在训练和推理时,用目标语言样本的查询向量从数据库中检索出top-k个最相似的跨语言参考样本,并通过多头交叉注意力机制将其与输入特征融合,再送入MLP分类器;4) 主体级推理阶段,对同一受试者的六个语音任务结果进行软投票得到最终预测。在韩国中风后构音障碍和意大利ALS构音障碍数据集上的实验表明,CRAC的平衡准确率分别达到87.3%和86.7%,显著优于单语基线和简单的多语言数据池化基线。消融实验证实了对齐和检索两个组件的互补性和必要性。 ...

 · 更新于 2026-09-05 · 约 4 分钟 · 672 字 阅读 →
研究条目

Direct Raw Audio Signal Processing via Reservoir Computing: An Investigation into &#39;Feature-Free&#39; Architectures

📄 Direct Raw Audio Signal Processing via Reservoir Computing: An Investigation into 'Feature-Free' Architectures #对比学习 4.5/10 | 创新 1.5/2 | 严谨 0.6/1.5 | 实验 0.5/1.5 | 清晰 0.4/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 📝 4.5/10 | 后50% | #语音识别 | #对比学习 | arxiv 👥 作者与机构 作者:Rinku Sebastian, Simon O’Keefe, Martin A Trefzer。 机构:英国约克大学物理、工程与技术学院(School of PET, University of York, UK)和计算机科学系(Department of Computer Science, University of York, UK)。 ...

 · 更新于 2026-09-05 · 约 1 分钟 · 206 字 阅读 →