研究条目

语音/音乐/音频论文速递 2026-06-26

语音/音乐/音频论文速递 2026-06-26 共分析 22 篇论文 ⚡ 今日概览 📥 抓取 22 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 3篇 ███ #语音质量评估 2篇 ██ #语音合成 2篇 ██ #扩散模型 1篇 █ 歌唱评估 1篇 █ 音频编解码 1篇 █ 音频事件检测 1篇 █ 音频分离 1篇 █ 📊 论文评分排行榜(21 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 DNSMOS-C: Improving End-to-end Speech Quality Models vi 9.3分 前50% #语音质量评估 🥈 UnityShots: Memory-Driven Multi-Shot Audio-Video Genera 8.9分 前25% #扩散模型 🥉 Listening Like a Judge: A Music-Aware Framework for Aut 8.8分 前25% 歌唱评估 4. Elastic Time: Dynamic Frame Rate Bottlenecks for Neural 8.3分 前50% 音频编解码 5. Soroll-IA: A Weakly Labeled Audio Dataset for Real-Worl 8.3分 前25% 音频事件检测 6. A Large-Scale Database and Predictive Model of Listener 8.1分 前25% #语音质量评估 7. SamaVaani: Auditing and Debiasing Multilingual Clinical 7.8分 前25% #语音识别 8. CodecSep: Prompt-Driven Universal Sound Separation on N 7.7分 前25% 音频分离 9. VoiceTTA: Enhancing Zero-Shot Text-to-Speech via Reinfo 7.6分 前50% #语音合成 10. What We are Missing in Multimodal LLM Evaluation? 7.0分 前50% - 11. RedVox: Safety and Fairness Gaps in Speech Models Acros 6.8分 前50% #基准测试 12. WQ-Fusion: Dynamic Gated Attention for Cross-Domain Aud 6.7分 前50% #音频分类 13. Thinking While Speaking: Inference-Time Knowledge Trans 6.7分 后50% #知识蒸馏 14. When Does Quality-Aware Multimodal Fusion Matter? A Lea 6.6分 前50% #语音情感识别 15. voxmap-studio: An open-source speaker diarization annot 6.5分 前50% #说话人日志 16. FBK's Long-form SpeechLLMs for IWSLT 2026 Instructi 6.5分 前50% #语音识别 17. wav2tok 2.0: Scalable Audio Tokenization Maintaining Ex 6.4分 前50% #语音检索 18. Generative AI and Copyright Infringement: A Legal-Techn 6.0分 前50% #音乐生成 19. Closing the Quality Gap in Low-Resource Text-to-Speech: 6.0分 后50% #语音合成 20. Neural Speaker Diarization via Multilingual Training: E 5.5分 前50% #语音分离 21. Low Resource Multimodal Translation of Nepali Spoken Wo 5.3分 后50% #语音识别 22 Phonetic and semantic analyses of spoken corpora of Bei N/A - - 📋 论文列表 🥇 DNSMOS-C: Improving End-to-end Speech Quality Models via Contrastive Learning 9.3/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 ...

 · 更新于 2026-09-05 · 约 12 分钟 · 2421 字 阅读 →
研究条目

Evaluating Japanese Dialect Robustness Across Speech and Text-based Large Language Models

📄 Evaluating Japanese Dialect Robustness Across Speech and Text-based Large Language Models #语音识别 #语音翻译 #参数高效微调 #多模态模型 #低资源 5.8/10 | 创新 1/2 | 严谨 1.1/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 0.3/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 📝 5.8/10 | 前50% | #语音识别 | #参数高效微调 | #语音翻译 #多模态模型 | arxiv 👥 作者与机构 Tomoya Mizumoto, Yusuke Fujita, Hao Shi, Lianbo Liu, Atsushi Kojima, Yui Sudo. (作者所属机构未在提供的原文片段中明确提及) 💡 毒舌点评 这篇文章就像一个精心设计的“方言压力测试”。它思路清晰,实验控制得当,像个规规矩矩的优等生作业,把“SLM继承LLM能力”和“数据/微调有用”这两个直觉验证得漂漂亮亮。但问题在于,这个“压力测试”的跑道(翻译任务)太窄,沙坑(CPJD数据集)太小,连计时器(TTS标准语音)都可能不准。结果就是,你得到了一份关于“如何在特定小跑道上跑得更稳”的精致报告,但对于“方言问题到底有多复杂、在真实世界中如何解决”的宏大命题,贡献就比较有限了。它证明了一些常识,但缺乏让人“Wow”的突破或深刻的洞见。分数给高了对不起那些真正硬核的创新,给低了又委屈了它的严谨和工整,所以卡在中间。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 368 字 阅读 →
研究条目

Supervised Post-training of Speech Foundation Models for Robust Adaptation in Speech Deepfake Detection

📄 Supervised Post-training of Speech Foundation Models for Robust Adaptation in Speech Deepfake Detection #语音伪造检测 #自监督学习 #参数高效微调 #低资源 #鲁棒性 7.6/10 | 创新 1.4/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 7.6/10 | 前50% | #语音伪造检测 | #自监督学习 | #参数高效微调 #低资源 | arxiv 👥 作者与机构 作者:Zihan Pan, Hardik Sailor, Jinyang Wu 机构:新加坡科技研究局 (A*STAR) 信息通信研究院 (I2R) 💡 毒舌点评 这篇论文在特定赛道(单模型无增强)刷了SOTA,看起来不错。但仔细一想,这所谓的“监督后训练”不就是个精心设计的、分阶段的微调策略吗?创新性被高估了。论文把“混合帧扰动”包装得很厉害,但本质是数据层面的一种增强手段,只是换了个名字叫“post-training”。更让人皱眉的是,方法论部分写得像在绕迷宫,公式列了一堆但关键直觉阐述不清,比如为什么帧级标签分配要依据中心样本(公式3)?这个设计选择缺乏足够的动机论证。另外,在ASV21上只比别人好了一丢丢(gap从0.34降到0.16),但论文却大书特书其“平衡的鲁棒性”,有过度claim之嫌。总之,这是一篇工程上做了不少工作(值得肯定),但理论洞察和叙事都有提升空间的论文。 ...

 · 更新于 2026-09-05 · 约 3 分钟 · 567 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-25

语音/音乐/音频论文速递 2026-06-25 共分析 27 篇论文 ⚡ 今日概览 📥 抓取 27 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 6篇 ██████ #语音合成 5篇 █████ #语音增强 2篇 ██ #音乐生成 1篇 █ #语音翻译 1篇 █ #语音伪造检测 1篇 █ #自监督学习 1篇 █ #端到端 1篇 █ 📊 论文评分排行榜(27 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Fully Differentiable Neural Forced Alignment via Soft D 8.3分 前25% - 🥈 Attractive and Repulsive Pattern Control in Sequence Ge 8.1分 前25% #音乐生成 🥉 STEB: A Speech-to-Speech Translation Expressiveness Ben 7.8分 前50% #语音翻译 4. Supervised Post-training of Speech Foundation Models fo 7.6分 前50% #语音伪造检测 5. Joint Residual Reweighting for Classifier Free Guidance 7.5分 前50% #语音合成 6. Velocity Prediction in Automatic Guitar Transcription 7.5分 前25% - 7. SE-AGCNet: An End-to-End Framework for Joint Speech Enh 7.4分 前50% #语音增强 8. MJEPA: A Simple and Scalable Joint-Embedding Predictive 7.4分 前25% #自监督学习 9. Sarashina2.2-TTS: Tackling Kanji Polyphony in Japanese 7.3分 前50% #语音合成 10. One Model, Many Latencies: Universal Speech Enhancement 7.2分 前50% #语音增强 11. From Sounds to Scenes: A Benchmark for Evaluating Conte 7.2分 前50% #语音识别 12. Wan-Streamer v0.1: End-to-end Real-time Interactive Fou 7.2分 前25% #语音合成 13. Does Translation-Enhanced Speech Encoder Pre-training A 7.1分 前50% #语音识别 14. Adaptive Oscillatory Inductive Bias for Modeling Sharp 7.0分 前50% #语音合成 15. End-to-End Voice Intent Recognition for Spontaneous Hum 7.0分 前50% #端到端 16. Real-Time Voice AI Hears but Does Not Listen 7.0分 前50% - 17. FoleySet: A Multi-Level Human-Annotated Foley Sound Dat 7.0分 前50% #音频分类 18. EmotionAI: A Privacy-Preserving Computational Intellige 6.9分 前50% #语音情感识别 19. Frequency-Aware Self-Supervised Music Representation Le 6.8分 前50% #音乐信息检索 20. BCoughBench: Benchmarking Respiratory Acoustic Foundati 6.7分 前50% #基准测试 21. SpeechEQ: Benchmarking Emotional Intelligence Quotient 6.7分 前25% #语音对话系统 22. Graph-Based Phonetic Error Correction of Noisy ASR 6.7分 前50% #语音识别 23. What Does a Pathological Speech Assessment Model Know a 6.4分 前50% #语音可懂度评估 24. Phoneme-Level Mispronunciation Screening in Polish-Spea 6.2分 前50% #语音识别 25. Error-Aware TF-IDF Retrieval-Augmented Generation for A 6.1分 前50% #语音识别 26. Evaluating Japanese Dialect Robustness Across Speech an 5.8分 前50% #语音识别 27. CrossAccent-TTS: Cross-Lingual Accent-Intensity Control 5.5分 前50% #语音合成 📋 论文列表 🥇 Fully Differentiable Neural Forced Alignment via Soft Dynamic Programming 8.3/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.0/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ...

 · 更新于 2026-09-05 · 约 16 分钟 · 3249 字 阅读 →
研究条目

video-SALMONN-R: Learning to ReWatch, ReAsk, and ReAnswer for Efficient Video Understanding

📄 video-SALMONN-R\(^3\): Learning to ReWatch, ReAsk, and ReAnswer for Efficient Video Understanding #多模态模型 #强化学习 #参数高效微调 8.2/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.2/10 | 前10% | #多模态模型 | #强化学习 | #参数高效微调 | arxiv 👥 作者与机构 一作:Yixuan Li (清华大学 liyixuan25@mails.tsinghua.edu.cn);通讯作者:Chao Zhang (清华大学 czhang1@tsinghua.edu.cn);其他作者:Guangzhi Sun (剑桥大学), Yudong Yang (清华大学), Wei Li (字节跳动), Zejun Ma (字节跳动)。机构包括清华大学、字节跳动和剑桥大学。 💡 毒舌点评 这篇论文抓住了“视频LLM推理时算力分配不均”这个痛点,提出了一个“先粗后精”的重看范式,核心卖点是跳过了昂贵且可能有害的“链式思维”冷启动,直接通过强化学习(RL)从指令微调基座模型上训练重看策略,这确实是个讨巧且有效的工程思路。重答和重问两个机制设计简单但作用关键,实验也充分证明了其有效性。不过,论文的“首提”声称需要谨慎看待,相关工作已很丰富。整体看是一篇扎实、工程优化到位的工作,但理论新颖性有提升空间,且其成功严重依赖高质量的基座模型和精心设计的奖励函数。 ...

 · 更新于 2026-09-05 · 约 3 分钟 · 575 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-24

语音/音乐/音频论文速递 2026-06-24 共分析 39 篇论文 ⚡ 今日概览 📥 抓取 39 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 6篇 ██████ #语音增强 6篇 ██████ #语音合成 2篇 ██ #多模态模型 2篇 ██ #音乐生成 2篇 ██ #信号处理基础 2篇 ██ #音频深度伪造检测 1篇 █ #对比学习 1篇 █ 📊 论文评分排行榜(39 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 ZONOS2 Technical Report 10.0分 前25% #语音合成 🥈 Layer-wise Probing of wav2vec 2.0 and Whisper for Conso 9.5分 前50% #语音识别 🥉 CN-NewsTTS Bench: a target-level automatic benchmark fo 9.2分 前10% #语音合成 4. BanglaFake: Constructing and Evaluating a Specialized B 9.0分 后50% #音频深度伪造检测 5. Data Scale, Not Latency, Shapes Cross-Lingual Encoder T 9.0分 前25% #语音识别 6. Breaking Shortcut Learning for Cross-Trial EEG-Guided T 8.6分 前50% #对比学习 7. AVOC: Enhancing Hour-Level Audio-Video Understanding in 8.4分 前25% #多模态模型 8. SphereVBx: Spherical Variational Bayes Clustering for S 8.3分 前50% #无监督学习 9. ParaPairAudioBench: Paralinguistic Pairwise Audio Bench 8.2分 前50% #语音质量评估 10. video-SALMONN-R\(^3\): Learning to ReWatch, ReAsk, and Re 8.2分 前10% #多模态模型 11. Audio-visual Contrastive Alignment for Diffusion-based 8.1分 前25% #语音增强 12. Perceptual Evaluation of Higher-Order Ambisonic Codecs 8.0分 前50% #音频编码 13. DTT-BSR+: A Generative-Regression Cascade for Music Sou 8.0分 前25% #生成对抗网络 14. Heterogeneous 2D/1D Signal Representation Fusion for Un 7.6分 前50% - 15. Selective Capability Unlearning in End-to-End Spoken La 7.6分 前25% - 16. A Multi-Stage Separation-and-Classification Framework G 7.5分 前50% #音频分类 17. Progressive Alignment Objectives for Aligner-Encoder ba 7.5分 前25% #语音识别 18. Comparative Reasoning: Making an Audio Language Model B 7.5分 前25% #语音情感识别 19. VieSpeaker: A Large-Scale Vietnamese Speaker Recognitio 7.5分 前25% #说话人识别 20. Suppressing spectral edge effects in Schroeder Harmonic 7.3分 前50% #语音增强 21. Real-Time Interactive Music Generation via Data-Free St 7.1分 前50% #音乐生成 22. A Methodology for Characterizing Underwater Radiated No 7.0分 前50% #信号处理基础 23. A Fusion-Aware Two-Stage Framework for Mispronunciation 7.0分 前25% #语音识别 24. Neuromorphic Speech Enhancement with Dual-Branch Spikin 7.0分 前50% #语音增强 25. NeuroSonic: Conditional Flow Matching for EEG-to-Speech 7.0分 前50% #语音生成 26. The effect of micro-changes in the pluck trajectory on 6.8分 前50% #信号处理基础 27. Evaluation of Headrest-Integrated Loudspeakers for Enha 6.8分 前50% - 28. Statistical validation and full-sphere extension of a B 6.7分 前50% #音频质量评估 29. Beyond U-Net: A Latent-Representation-Aligned Skip-Free 6.6分 前50% #语音增强 30. Measuring User's Mental Models of Speech Translatio 6.6分 前50% #语音翻译 31. Audio–Image Alignment as a Continued-Pretraining Stage 6.2分 前50% #语音识别 32. Poster: Exploring the Limits of Audio-Based Detection o 6.2分 前50% - 33. Joint Learning of Covariance Estimation and White Noise 5.8分 前50% #语音增强 34. Sonus Health: Calibrated Heart-Murmur Detection from Sm 5.7分 前50% #音频事件检测 35. Autoencoder based optimized SSL representations: Comple 5.5分 前50% #语音识别 36. It's Complicated: On the Design and Evaluation of A 5.5分 前50% #大语言模型 37. Digital Revival: Acoustic Documentation and Digital Rea 5.3分 后50% #音乐生成 38. Aligning MusicLLM with Emotion using Instruction Tuning 4.9分 后50% #音乐情感识别 39. A Variational-Flow Analysis of StoRM under Noise-Power 4.4分 前50% #语音增强 📋 论文列表 🥇 ZONOS2 Technical Report 10.0/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ...

 · 更新于 2026-09-05 · 约 21 分钟 · 4472 字 阅读 →
研究条目

Adding Robust Code-Switching Capabilities to High Performance Multilingual ASR

📄 Adding Robust Code-Switching Capabilities to High Performance Multilingual ASR #语音识别 #语音合成 #参数高效微调 #低资源 7/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.6/1.5 | 开源 0.9/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7/10 | 前50% | #语音识别 | #参数高效微调 | #语音合成 #低资源 | arxiv 👥 作者与机构 Enes Yavuz Ugan¹², Alexander Waibel¹² ¹Interactive Systems Lab, Karlsruhe Institute of Technology (KIT), Germany ²InterACT, Carnegie Mellon University (CMU), USA ...

 · 更新于 2026-09-05 · 约 2 分钟 · 345 字 阅读 →
研究条目

ESPnet3: Infrastructure for Scalable Speech and Audio Research in the Foundation Model Era

📄 ESPnet3: Infrastructure for Scalable Speech and Audio Research in the Foundation Model Era #语音识别 #语音合成 #语音增强 #说话人识别 #语音翻译 #语音分离 #语音编码 #自监督学习 #数据增强 #参数高效微调 #迁移学习 7.5/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1/1.5 ✅ 7.5/10 | 前25% | #语音识别 | #自监督学习 | #语音合成 #语音增强 | arxiv 👥 作者与机构 Masao Someki (Carnegie Mellon University, Pittsburgh, USA) Alexander Polok (Brno University of Technology, Brno, Czechia) Carlos Carvalho (Instituto Superior Técnico, Lisbon, Portugal) Chyi-Jiunn Lin (Hanyang University, Seoul, South Korea) Da-Hee Yang (Hitachi Astemo, Tokyo, Japan) Jiatong Shi (Shanghai Jiao Tong University, Shanghai, China) Jinchuan Tian (Carnegie Mellon University, Pittsburgh, USA) Nelson Enrique Yalta Soplin (Carnegie Mellon University, Pittsburgh, USA) Samuele Cornell (Carnegie Mellon University, Pittsburgh, USA) Siddhant Arora (Carnegie Mellon University, Pittsburgh, USA) Francisco Teixeira (Instituto Superior Técnico, Lisbon, Portugal) Wei Wang (Shanghai Jiao Tong University, Shanghai, China) William Chen (Carnegie Mellon University, Pittsburgh, USA) Alberto Abad (Instituto Superior Técnico, Lisbon, Portugal) Chenda Li (Carnegie Mellon University, Pittsburgh, USA) Shinji Watanabe (Carnegie Mellon University, Pittsburgh, USA) Wangyou Zhang (Shanghai Jiao Tong University, Shanghai, China) ...

 · 更新于 2026-09-05 · 约 4 分钟 · 698 字 阅读 →
研究条目

Gradient-Based Learning of Parametric Engine Sound Representations for Real-Time Resynthesis and Tuning on Embedded Systems

📄 Gradient-Based Learning of Parametric Engine Sound Representations for Real-Time Resynthesis and Tuning on Embedded Systems #参数高效微调 #正则化微调 7.8/10 | 创新 1.2/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.4/1.5 ✅ 7.8/10 | 前50% | #参数高效微调 | #参数高效微调 | #正则化微调 | arxiv 👥 作者与机构 作者:Robin Doerfler, Matthieu Kuntz, Clemens Zimmer。机构:未在论文中明确提及。 💡 毒舌点评 一篇典型的、完成度很高的工程应用论文。它解决了一个具体且重要的工业界痛点——如何让引擎声音的参数化建模既逼真又能在低算力硬件上实时跑起来。作者没有发明新的“轮子”,而是很聪明地把深度学习的预训练能力、可微分合成的优化便利性,以及传统DSP的部署需求拧成了一股绳。方法直接、有效,实验也围绕着核心目标(保真度、可调性、可部署性)来设计,结果令人信服。然而,从顶会审稿人的视角看,其科学创新性相对有限,更多是系统层面的巧妙整合与工程优化。核心贡献是“把学习到的参数直接映射回传统查找表”,这一思路虽然实用,但在方法论上的突破性不足。对于追求新范式或理论深度的读者,可能会觉得不够“性感”。 📌 核心摘要 针对汽车声音设计中的引擎阶次增强任务,传统方法在分离谐波与噪声、处理RPM-扭矩二维参数歧义性上存在困难。本文提出“引擎阶次与噪声提取”(EONE)模型,通过端到端可微分的分析-合成框架,直接从音频数据学习引擎声音的紧凑参数化表示。该方法将声音建模为谐波阶次与ERB噪声带的合成,其振幅由独立的RPM增益曲线与扭矩增益曲线的逐元素乘积决定。模型分为两阶段训练:首先在大规模多引擎语料库上预训练一个音色编码-解码器,学习通用音色潜在表示;随后在目标引擎数据上冻结编码器,仅优化由解码器初始化的增益曲线参数。所学参数可直接导出为传统DSP框架使用的查找表,实现从训练到嵌入式系统部署的无损迁移。实验表明,该方法在27个测试样本上的平均对数谱距离为4.9 dB,感知测试显示其合成音频在真实感上显著优于传统纯谐波方法,且对于普通听众而言与真实录音无显著差异。 🔗 开源详情 代码:论文中未提供代码链接。 模型权重:论文中未提供。 数据集:论文提及使用了“Procedural Engine Sounds Dataset [27]”进行预训练,但未提供该数据集的具体获取链接或开源协议。预训练所用的其他真实引擎录音语料未说明来源。 Demo:提供了在线音频样例页面 (https://rdoerfler.github.io/eone-model-page/)。 复现材料:论文详细描述了训练过程、超参数和损失函数,但未提及是否会公开训练配置、检查点或附录。 论文中引用的开源项目:引用了数据集[27],但未提供其直接链接。其他引用为学术文献。 🏗️ 方法概述和架构 本文提出的EONE模型是一个端到端的分析-合成系统,旨在学习可直接部署于嵌入式DSP的引擎声音参数化表示。其核心架构分为四个阶段,如图1所示: ...

 · 更新于 2026-09-05 · 约 1 分钟 · 158 字 阅读 →
研究条目

Learning from Audio-Dependency Errors: Data Curation Strategies Based on Model Confusion Patterns in Audio Question Answering

📄 Learning from Audio-Dependency Errors: Data Curation Strategies Based on Model Confusion Patterns in Audio Question Answering #音频问答 #大语言模型 #参数高效微调 6.9/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.5/1.5 | 复现 0.4/0.5 | 工程 0.8/1.5 ✅ 6.9/10 | 前50% | #音频问答 | #参数高效微调 | #大语言模型 | arxiv 👥 作者与机构 未提及 💡 毒舌点评 这篇论文像是给DCASE竞赛交了一份很认真的“赛后总结报告”。作者很诚实,把所有试过的、没用的方法都列出来了(比如各种RL和CoT),这种开源精神值得点赞。但问题是,核心创新点——用反事实输入给数据“分桶”——更像是一个精心设计的工程trick,而非一个能推广的理论。性能从65.9%提到67.3%,在绝对数字上提升甚微,很难让人兴奋。论文花大量篇幅描述各种“失败实验”,固然体现了严谨,但也暴露了主方法在提升上限上的无力。它更像证明了“做减法比做加法更有用”,而不是提供了一个强大的新武器。对于追求突破性进展的顶会来说,这个贡献的“甜度”不够。 📌 核心摘要 本文针对音频问答任务,提出一种基于诊断数据整理的微调策略。核心思想是,先利用一个强大的基础模型(Qwen3-Omni)在“正常”、“空音频”和“乱序音频”三种条件下对训练样本进行探针测试,根据模型在不同条件下的正确性模式(\(N, E, S\)),将样本分为“强音频依赖”、“文本先验”、“困难样本”等类别。作者发现,仅使用“强音频依赖”样本(即正常条件下正确,但空音频和乱序音频条件下均失败)进行监督微调,能最有效地提升模型对音频证据的依赖性。进一步,通过加入少量(如5%)的“空音频负样本”(目标回答为“无法确定”)来抑制模型的无根据猜测。最终,该策略在ADQA-Bench开发集上取得了优于基线的准确率。 🔗 开源详情 代码:训练和评估代码计划发布于:https://github.com/frednam93/adqa_nam 模型权重:论文中未提及具体模型权重链接(论文使用了 Qwen3-Omni-30B-A3B-Instruct 和 Gemma-4-E4B-it,但未提供其下载链接)。 数据集:论文中提及 ADQA-Bench 数据集(DCASE 2026 Task 5),但未提供具体获取链接。 Demo:论文中未提及。 复现材料:论文中提供了详细的微调训练配置(基于 LLaMA-Factory,使用 4-bit bitsandbytes 量化和 LoRA),包括具体的超参数设置、训练数据构建变体(如 “Strong”、“Strong+empty 5%” 等)及其比例,以及提交的四个候选系统的详细描述。 论文中引用的开源项目: LLaMA-Factory:用于微调(论文引用[15])。 bitsandbytes:用于 4-bit 量化(论文引用[15])。 LoRA:用于参数高效微调(论文引用[8])。 Gemma-4-E4B-it:作为三模型集成的响应正常化器使用。 SimPO:作为偏好优化目标之一进行评估(论文引用[9])。 DPO:作为偏好优化目标之一进行评估(论文引用[12])。 GRPO:作为强化学习目标之一进行评估(论文引用[13])。 DAPO (lite):作为强化学习目标之一进行评估(论文引用[14])。 FunAudioChat:作为基线模型之一进行评估(论文引用[2, 1])。 AudioFlamingo3:作为基线模型之一进行评估(论文引用[5])。 🏗️ 方法概述和架构 本文方法的核心是一个基于模型行为的数据整理与微调流程,主要分为诊断分析、数据选择、微调和推理后处理四个阶段。 ...

 · 更新于 2026-09-05 · 约 3 分钟 · 446 字 阅读 →
研究条目

MindAlign: Decoding Inner Speech from fMRI Signals via Multimodal Embedding Alignment under Limited Data

📄 MindAlign: Decoding Inner Speech from fMRI Signals via Multimodal Embedding Alignment under Limited Data #语音识别 #低资源 #数据增强 #多模态模型 #自监督学习 #参数高效微调 5.8/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 0.8/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0.1/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 📝 5.8/10 | 前50% | #语音识别 | #数据增强 | #低资源 #多模态模型 | arxiv 👥 作者与机构 作者:Muxuan Liu, Ichiro Kobayashi, Satoshi Nishida。第一作者Muxuan Liu和第二作者Ichiro Kobayashi隶属于日本御茶水女子大学(Ochanomizu University)人文与科学研究生院;第三作者Satoshi Nishida隶属于日本国立信息通信技术研究所(NICT)先进ICT研究所信息与神经网络中心(CiNet)。 ...

 · 更新于 2026-09-05 · 约 1 分钟 · 163 字 阅读 →
研究条目

Scaling Audio Models Efficiently: A Joint Study of Compute Constraints and Optimization Behavior

📄 Scaling Audio Models Efficiently: A Joint Study of Compute Constraints and Optimization Behavior #参数高效微调 #语音识别 #语音情感识别 #模型压缩 #大语言模型 7.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.8/1.5 | 复现 0.4/0.5 | 工程 0.4/1.5 ✅ 7.2/10 | 前50% | #语音识别 | #参数高效微调 | #语音情感识别 #模型压缩 | arxiv 👥 作者与机构 论文作者为 Vyom Agarwal, Mokshda Gangrade, Siddharth Pal, Jerry Wu。文中未明确提及作者所属机构。 💡 毒舌点评 这篇论文像是在用显微镜仔细观察一个众所周知的工程事实:模型越大、输入越多、算的越细,效果一般会越好,但算力不是无限的。其核心贡献“三轴框架”(\(x_N, x_T, x_V\))更像是一种标准化的观察视角,而非突破性的算法或理论。方法上,本质上是“控制变量法”(Star-Sweep)在模型缩放场景下的应用,组合了现成的LoRA和DAMA技术。实验很扎实,表格列得很满,Pareto前沿图也画了,结论基本符合直觉(例如收益递减、存在最优输入长度)。但“创新性”令人尴尬,更像是在ICASSP发的工作硬往顶会挤。审稿人看到“extends this idea to the audio domain”这种话大概会翻白眼。最大的亮点可能是清晰地揭示了ASR和SER任务在缩放特性上的本质差异(平滑前沿 vs. 稀疏前沿),但这更像是一个细致的实证发现,而非方法上的突破。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 352 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-23

语音/音乐/音频论文速递 2026-06-23 共分析 83 篇论文 ⚡ 今日概览 📥 抓取 83 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 19篇 ███████████████ #语音合成 14篇 ██████████████ #音乐生成 3篇 ███ #说话人验证 3篇 ███ #语音增强 3篇 ███ #对比学习 2篇 ██ #自监督学习 2篇 ██ #音频水印 2篇 ██ 📊 论文评分排行榜(83 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 CoughPhase-CLR: Designing an acoustics-informed foundat 10.0分 前10% #对比学习 🥈 Libretto: Giving LLM Agents a Sense of Musical Structur 9.2分 前50% #音乐生成 🥉 Speaker Identity in Non-Verbal Vocalizations: Condition 9.1分 前25% #说话人验证 4. PHAST-Net: Attention-Guided, Physics-Informed Network f 9.0分 前10% #音乐信息检索 5. Domain-incremental audio classification using domain-sp 9.0分 前50% #音频分类 6. MSU-Bench: Towards Speaker-Centric Understanding in Con 9.0分 前10% - 7. How Well Do Self-Supervised Speech Models Encode Age an 9.0分 前50% #自监督学习 8. CAAD: Contrastive Audio-Aware Distillation for Efficien 8.9分 前25% #语音识别 9. STAR-VAE: Structured Topology-Aware Regularization for 8.8分 前25% #音频生成 10. An Evaluation Framework for Text-to-Speech Voice Recons 8.8分 前25% #语音合成 11. An Analysis of Untrained Deep Reservoir Networks for Au 8.8分 前50% #音频事件检测 12. Towards Detecting Neural Audio Codec Synthesized Heart 8.7分 前50% #自监督学习 13. Bridging the Age Gap: Towards Detecting Neural Audio Co 8.6分 前50% #语音伪造检测 14. ATCCaps: A Call-Sign-Aware Speech Dataset for Air Traff 8.6分 前25% #语音识别 15. InstructFX2FX: A Multi-turn Text-to-Preset Demo for Ite 8.6分 前50% #对比学习 16. When EER Hides Deployment Failure: Auditing Threshold T 8.6分 前25% - 17. CapRiCorn-1K: A Comprehensive Benchmark for Video Capti 8.6分 前50% #语音识别 18. Compiling Differentiable Audio Graphs to Real-Time DSP 8.5分 前25% - 19. Improving Text-to-Music Generation with Human Preferenc 8.5分 前50% #音乐生成 20. Don't Listen to Me: A Lightweight, Low-Latency Mode 8.4分 前50% #语音增强 21. HALAS: A Human-Annotated Dataset of Hallucinations of M 8.4分 前50% #语音识别 22. Benchmarking Large Language Models for Grapheme-to-Phon 8.4分 前25% #语音合成 23. Cross-lingual Retrieval-Augmented Classification for Dy 8.4分 前25% #语音识别 24. Bagpiper-TTS: Natural Language Guided Universal Speech 8.4分 前25% #语音合成 25. Using Phonological-Level Wav2Vec2 for Mandarin Automati 8.3分 前25% #语音识别 26. Word Lengthening as a Function of Utterance Position: A 8.1分 前25% #语音合成 27. LambdaMark: Semantic Audio Watermarking for Robustness 8.0分 前25% #音频水印 28. OpenWER: Improving Cross-Lingual ASR Evaluation and Ena 8.0分 前50% #语音识别 29. AudioCALM: Continuous Autoregressive Language Modeling 7.9分 前25% #语音合成 30. AOR-Bench: Do Large Audio Language Models Over-Refuse P 7.9分 前50% #音频问答 31. Gradient-Based Learning of Parametric Engine Sound Repr 7.8分 前50% #参数高效微调 32. Toward Open-Set Speaker Attribute Prediction with Keywo 7.8分 前25% #多模态模型 33. Time-Frequency Weighted Losses for Phoneme Reconstructi 7.8分 前25% #语音增强 34. An implicitization-based solution to the minimal 4s/6r 7.8分 前50% - 35. CORTIS: Text-Only Adaptation of Spoken Language Models 7.7分 前50% #语音识别 36. What Do Neural Networks Learn for TDOA Estimation? A Cr 7.7分 前50% #声源定位 37. Kiwano: A Cutting-Edge Open-Source Toolkit for Speaker 7.6分 前50% #说话人验证 38. Learning to Evade: Adaptive Attacks on Audio Watermarki 7.6分 前50% #音频水印 39. Bagpiper-Edit: Zero-Shot Open-Ended Audio Editing via R 7.6分 前25% #语音合成 40. From Text Metrics to Model Internals: A Study of Whispe 7.5分 前50% #语音识别 41. Bridging Self-Supervised Learning and Speech Enhancemen 7.5分 前25% #语音增强 42. Integrating Facial Generation into Full-Duplex Spoken D 7.5分 前25% - 43. ESPnet3: Infrastructure for Scalable Speech and Audio R 7.5分 前25% #语音识别 44. On the Effect of Segmentation Width and Cluster Size on 7.4分 前25% #语音合成 45. The Anatomy of the CTC Oracle Gap: Acoustic Exhaustion 7.3分 前50% #语音识别 46. FlowTTS-GRPO: Online Reinforcement Learning with Multi- 7.2分 前50% - 47. DisSpeech: Low-Resource Controllable Mandarin Stuttered 7.2分 前25% #语音合成 48. SDP-Codec: A Speaker-Decoupled Speech Codec with Pitch 7.2分 前50% #语音编码 49. Synthesizing the Lombard Effect: Multi-Level Control of 7.2分 前50% #语音合成 50. Scaling Audio Models Efficiently: A Joint Study of Comp 7.2分 前50% #语音识别 51. Online Predictive Coding for Dual-Mode Self-Supervised 7.2分 前50% #语音识别 52. Exploiting Neural Audio Codec Latents for Adversarial A 7.2分 前50% #生成对抗网络 53. Audio Editing in the Era of Foundation Models: A Survey 7.0分 前25% - 54. Adding Robust Code-Switching Capabilities to High Perfo 7.0分 前50% #语音识别 55. Unlocking In-Context Learning in Audio-Language Models 7.0分 前50% #联邦学习 56. Backdoor Attacks on Speech Emotion Recognition via TTS- 7.0分 前50% #语音情感识别 57. LK Jam: System Architecture and Implementation of a Rea 7.0分 前50% #音乐生成 58. An Acoustic Landmark Database of the English Lexicon vi 6.9分 前50% #语音合成 59. Learning from Audio-Dependency Errors: Data Curation St 6.9分 前50% #音频问答 60. The Watermark Shortcut: How Provenance Marking Sabotage 6.8分 前50% #数据增强 61. LISE : Listenable Interpretable Speaker Embeddings 6.8分 前50% #说话人验证 62. PIVOTSBench: Evaluating Fine-Grained Interpersonal Rela 6.8分 前50% #基准测试 63. AugCodec: A Low-Bitrate Disentangled Neural Speech Code 6.7分 前50% #数据增强 64. Vaani Benchmark V1.0: An Inclusive Multimodal Benchmark 6.7分 前50% #语音识别 65. Physics-Informed Neural Operator for Speech Production 6.7分 前50% #语音合成 66. Streaming T5-based Text-to-Speech Synthesis with Limite 6.7分 前25% #语音合成 67. ProsoCodec: Prosody-Oriented Speech Codec for Voice Con 6.6分 前50% #语音转换 68. Beyond ROC-AUC: Operating-Point Performance Reporting f 6.6分 前50% - 69. ISCSLP 2026 CoT-TTS Challenge: Chain-of-Thought Reasoni 6.6分 前50% #语音合成 70. A DDSP Framework for Adaptive Room Equalization 6.5分 前50% #自适应滤波 71. EmoInstruct-TTS: Dual-Path Instruction-Guided Emotional 6.5分 前50% - 72. Interleaved Speech Language Models Latently Work In Tex 6.4分 前50% #语音识别 73. DSSCNet: A Transfer Learning Framework for Cross-Corpus 6.3分 前50% #迁移学习 74. Sea-Scan: High-Accuracy, ML-based Dark Vessel Detection 6.3分 前50% - 75. Catching Lies Without Sending the Video: Privacy-Preser 6.2分 前50% #多模态模型 76. MindAlign: Decoding Inner Speech from fMRI Signals via 5.8分 前50% #语音识别 77. Acoustic Landmark Detector based on Conformer and HuBER 5.5分 前50% #语音识别 78. Explainable AI in Speaker Recognition – Attention Map 5.5分 前50% #说话人识别 79. Imitation Learning for Elder-Facing Speech Synthesis 5.5分 前50% #语音合成 80. Improving Engine Sound Analysis in Hot-Test Environment 4.9分 后50% #音频降噪 81. Direct Raw Audio Signal Processing via Reservoir Comput 4.5分 后50% #语音识别 82. A Generalized Formalism of Auto-Regressive Decoding for 4.1分 后50% #自回归模型 83. Noise-Driven Instrument Based on Coherent Quantum and S 3.8分 后50% - 📋 论文列表 🥇 CoughPhase-CLR: Designing an acoustics-informed foundation model for coughing sound classification 10.0/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.3/1.5 | 复现 0.5/0.5 | 工程 1.0/1.5 ...

 · 更新于 2026-09-05 · 约 48 分钟 · 10123 字 阅读 →
研究条目

FlowEdit: Associative Memory for Lifelong Pronunciation Adaptation in Flow-Matching TTS

📄 FlowEdit: Associative Memory for Lifelong Pronunciation Adaptation in Flow-Matching TTS #语音合成 #语音增强 #参数高效微调 #持续学习 #低资源 #数据增强 #多语言 10/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前25% | #语音合成 | #参数高效微调 | #语音增强 #持续学习 | arxiv 👥 作者与机构 作者:Harshit Singh (1), Ayush Pratap Singh (2), Nityanand Mathur (3) 机构:1 University Of Maryland, 2 TU Darmstadt, 3 Smallest AI 联系邮箱:nityanandmathur@gmail.com ...

 · 更新于 2026-09-05 · 约 2 分钟 · 423 字 阅读 →
研究条目

Repurposing a Speech Classifier for Guided Diffusion-Based Speech Generation

📄 Repurposing a Speech Classifier for Guided Diffusion-Based Speech Generation #语音合成 #扩散模型 #参数高效微调 7.9/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.9/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7.9/10 | 前50% | #语音合成 | #参数高效微调 | #扩散模型 | arxiv 👥 作者与机构 作者:Rostislav Makarov, Timo Gerkmann 机构:汉堡大学(University of Hamburg, Germany) 💡 毒舌点评 这篇论文的出发点不错,想把分类器“废物利用”做生成,想法挺有吸引力。但“废物”这个词可能不准确,人家分类器好好的。论文声称“高语音质量”和“单骨干模型”带来了好处,但在某些指标上,尤其是FID,Score Subnet并不总是赢,有时还略逊于需要单独分类器的U-Net+Classifier。在“参数高效”和“计算高效”的卖点上,确实省了一些参数和计算量,但代价是引入了更复杂的训练流程(需要先训练好一个分类器,再训练子网络)和推理时对JEM风格梯度计算的依赖。作者在低数据和零样本引导上的消融实验是个亮点,显示了方法的潜力,但这部分实验规模较小。总体而言,这是一个扎实的工程改进,但离“颠覆性”或“新范式”还有距离,更像是一个在特定约束下(如内存、计算预算有限)的优雅解决方案。 📌 核心摘要 本文研究了一种紧凑的替代方案,将常规训练的噪声条件语音分类器重新用于基于扩散的语音生成。作者从冻结的、在log-Mel空间训练的噪声条件分类器骨干网络出发,附加一个轻量级的生成子网络(Score Subnet)。该子网络重用分类器的中间表示(前向taps),并通过反向传播分类器的基于能量模型(JEM)风格的边际对数密度来获得梯度taps。仅训练这个子网络,采用去噪分数匹配(DSM)目标。该方法证明了一个预训练的分类器可以被重新用于条件生成,在单骨干模型中架起了判别建模与条件语音合成之间的桥梁,实现了高语音质量,同时减少了内存占用和计算成本。 🔗 开源详情 代码:论文提供了明确的项目主页链接,其中包含代码:https://sp-uhh.github.io/classifier-to-diffusion/。 ...

 · 更新于 2026-09-05 · 约 2 分钟 · 381 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-19

语音/音乐/音频论文速递 2026-06-19 共分析 40 篇论文 ⚡ 今日概览 📥 抓取 40 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音合成 10篇 ██████████ #语音识别 8篇 ████████ #语音转换 2篇 ██ #语音增强 2篇 ██ #自监督学习 2篇 ██ #说话人验证 1篇 █ #模型压缩 1篇 █ #多模态模型 1篇 █ 📊 论文评分排行榜(40 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 FlowEdit: Associative Memory for Lifelong Pronunciation 10.0分 前25% #语音合成 🥈 Low-Burden Data Augmentation for Dysarthric ASR via Zer 8.7分 前25% #语音识别 🥉 S-JEPA : Soft Clustering Anchors for Self-Supervised Sp 8.7分 前25% #语音识别 4. Personalized Keyword Spotting for User-Defined Keywords 8.6分 前25% #说话人验证 5. FlowFake: Liquid Networks for Audio Deepfake Detection 8.5分 前25% #模型压缩 6. Systematic Study of Dysarthric Speech Recognition: Spec 8.3分 前50% #语音识别 7. PerceptionDLM: Parallel Region Perception with Multimod 8.1分 前25% #多模态模型 8. RIVET: Robust Idempotent Voice Attribute Editing 8.0分 前50% #语音转换 9. Repurposing a Speech Classifier for Guided Diffusion-Ba 7.9分 前50% #语音合成 10. Exploring Feature Extraction Technique Parameters for A 7.9分 前50% #音频事件检测 11. Transcript-Free Flow-Matching Text-to-Speech via Speech 7.7分 前25% #语音合成 12. How Do Instructions Shape Speech? Cross-Attention Attri 7.7分 前50% #语音合成 13. Hybrid Diffusion Transformer for Instruction-Guided Aud 7.6分 前50% #Transformer 14. Improving Code-Switching ASR with Code-Mixing Guided Sy 7.6分 前25% #语音识别 15. PolSeT: Polish Semantics of Timbre Dataset 7.5分 后50% - 16. IHBench: Evaluating Post-Interruption Recovery in Voice 7.5分 前25% #语音对话系统 17. A Survey of Full-Duplex Spoken Dialogue Systems: Archit 7.4分 前50% #语音合成 18. PhysDrift: Bridging the Embodiment Gap in Humanoid Co-S 7.4分 前50% #语音合成 19. PrefSQA: Pairwise Preference Prediction for Speech Qual 7.3分 前50% #语音质量评估 20. Latency-Configurable Streaming Speech Enhancement via A 7.2分 前50% #语音增强 21. A Comparative Study of Pretrained Transformer Models fo 7.2分 前50% #语音识别 22. Pitch Spelling Jazz Lead Sheets, Solo Transcriptions, C 7.2分 前50% - 23. Stuttering Classification and Segmentation with Attenti 7.0分 前50% - 24. Time-Unconditional Generative Speech Enhancement via Au 7.0分 前25% #语音增强 25. Investigating Human-Model Discrepancies in Speech Quali 6.9分 前25% #语音合成 26. Prismriver: Formalization of Music Theory and Algorithm 6.9分 前50% - 27. NEST: Narrative Event Structures in Time for Long Video 6.8分 前50% - 28. Cross-Dataset, Age, and Gender Generalization: A Compre 6.7分 前50% #语音识别 29. Exploring Pre-training Benefits on Phoneme Addition thr 6.7分 前50% - 30. Analyzing Language and Geographical Variation in Speech 6.5分 前50% #语音识别 31. Improving End-to-End Speech Recognition for Dysarthric 6.5分 前50% #语音识别 32. Segment-Level Mandarin Chinese Speech-Based Cognitive I 6.5分 前50% #对比学习 33. Light-weight Pronunciation Assessment via Discrete Spee 6.4分 前50% #自监督学习 34. ReNikud: Audio-Supervised Hebrew Grapheme-to-Phoneme Co 6.2分 前50% #语音合成 35. Zero-VC: Zero-Lookahead Streaming Voice Conversion via 6.1分 前50% #语音转换 36. MixProLAP: Mixture-Induced Uncertainty Modeling for Pro 5.7分 前50% #音频检索 37. MaineCoon: Pursuing A Real-Time Audio-Visual Social Wor 5.7分 前50% #语音合成 38. Leveraging systems' non-linearity to tackle the sca 5.5分 后50% #数据增强 39. Interpreting Content and Speaker Characteristics in Fac 5.0分 后50% #语音合成 40. Beyond Speaker Independence: Evaluating Cross-Lingual A 4.9分 后50% #自监督学习 📋 论文列表 🥇 FlowEdit: Associative Memory for Lifelong Pronunciation Adaptation in Flow-Matching TTS 10.0/10 | 创新 2/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

 · 更新于 2026-09-05 · 约 23 分钟 · 4844 字 阅读 →
研究条目

Constraining to Generalize: Subspace Tuning for Few-shot Generalization of Audio-Language Models

📄 Constraining to Generalize: Subspace Tuning for Few-shot Generalization of Audio-Language Models #多模态模型 #参数高效微调 7.5/10 | 清晰 是/1 | 复现 是,论文提供了详细的实验设置和超参数。/0.5 ✅ 7.5/10 | 前25% | #音频分类 | #参数高效微调 | #多模态模型 | arxiv 👥 作者与机构 作者:Jaehyuk Jang, Kangwook Ko, Wonjun Lee, Changick Kim 机构:韩国科学技术院(KAIST) 邮箱:{jhyuk, kw.ko, dpenguin, changick}@kaist.ac.kr 💡 毒舌点评 论文的核心矛盾在于:声称是为音频语言模型设计的通用方法,但最大短板却是对预训练音频-文本对齐质量的绝对依赖。如果上游预训练模型本身就是个“瘸子”,你这个精妙的几何约束无异于在沙子上雕刻。 参数量随类别数线性增长的问题被轻描淡写地用“在窄标签任务中高效”带过。这本质上是将方法的应用场景做了硬约束,而非解决了可扩展性问题。当面对真实世界可能出现的成千上万音频类别时,这个方法恐怕会先把自己“参数死”。 跨数据集迁移结果(表2)堪称“不稳定之王”。在Emotion Recognition和Sound Event Classification上,改进忽高忽低,甚至部分低于零样本。这强烈暗示,所谓的“共享基变换”在跨域时可能转移的不是“知识”,而是“偏见”。附录B.6的分析虽然坦诚,但也坐实了该方法在域差异较大时的脆弱性。 在ImageNet(表5)上略逊于CoOp,以及在跨数据集迁移上的挣扎,共同勾勒出SubT的“舒适区”:任务相对简单、类别空间窄小且同质、预训练模型在该领域已有良好表征。这是一种精准的“降维打击”,但也暴露了其普适性的天花板。 📌 核心摘要 本文深入分析了在音频语言模型(ALM)小样本适应中普遍存在的基类-新类性能权衡问题,并将其根源归结为文本嵌入空间的“零样本漂移”,即适应过程破坏了预训练的类间结构(Gram漂移)并使嵌入偏离了零样本锚点(大小漂移)。为解决此问题,作者提出了子空间调谐(SubT),一个几何约束的适应框架。SubT包含两个互补机制:1)结构化子空间参数化,通过对基类文本嵌入矩阵进行SVD分解并冻结类别相关坐标,仅学习共享的语义基变换,从而限制类间关系的任意变形;2)残差锚定,将适应后的嵌入与原始零样本嵌入进行残差连接,以稳定适应过程并限制漂移幅度。在推理时,学习到的基变换被全局转移到新类的零样本嵌入上,并通过子空间感知门控机制,根据新类与基子空间的对齐程度(β分数)来抑制负迁移。在11个音频基准测试上的实验表明,SubT在保持参数高效和无需文本编码器反向传播的同时,显著优于现有方法,取得了最佳的平均调和平均精度,并提供了关于漂移控制、组件贡献和跨域迁移失败案例的深入分析。 🔗 开源详情 代码:论文未提供自身代码的开源链接。但详细引用了所有基线方法的代码仓库,链接见论文原文。 模型权重:论文未提供预训练模型(Pengi, CLAP, CLIP)或适应后模型权重的具体下载链接。 数据集:论文详细列出了11个音频数据集及ImageNet的来源、许可协议。具体信息如下: Beijing-Opera: MIT 许可,托管于 Hugging Face。 NS-Instruments: CC BY 4.0 许可,托管于 Hugging Face。 ESC50: CC BY-NC 3.0 许可,托管于 GitHub。 ESC50-Actions: CC BY-NC 3.0 许可,托管于 GitHub。 UrbanSound8K: CC BY-NC 4.0 许可,托管于 UrbanSound8K 网站。 CREMA-D: ODbL 1.0 许可,托管于 GitHub。 RAVDESS: CC BY-SA 4.0 许可,托管于 Zenodo。 SESA: CC BY 4.0 许可,托管于 Zenodo。 GT-Music-Genre: MIT 许可,托管于 Hugging Face。 VocalSound: CC BY-SA 4.0 许可,托管于 GitHub。 TUT2017: Non-commercial 许可,托管于 Zenodo。 ImageNet: Non-commercial 许可,托管于 ImageNet 网站。 Demo:论文中未提及。 复现材料:论文提供了详细的复现信息,包括数据集划分、提示模板(表6)、实现细节(附录A.2, A.3)、训练超参数(附录A.3)以及评估协议。这些信息分散在正文和附录中,可用于复现实验。 论文中引用的开源项目: Pengi: MIT 许可,链接:https://github.com/microsoft/Pengi CLAP: MIT 许可,链接:https://github.com/LAION-AI/CLAP CLIP: MIT 许可,链接:https://github.com/openai/CLIP CoOp: MIT 许可,链接:https://github.com/KaiyangZhou/CoOp CoCoOp: MIT 许可,链接:https://github.com/KaiyangZhou/CoCoOp KgCoOp: 许可未知,链接:https://github.com/y0ug/KgCoOp DePT: GPL-2.0 许可,链接:https://github.com/taozhiyu/DePT SEPT: 许可未知,链接:https://github.com/wonjunlee/SEPT CLIP-Adapter: 许可未知,链接:https://github.com/raoyongming/CLIP-Adapter 🏗️ 方法概述和架构 SubT是一个在预训练ALM的冻结文本嵌入空间中进行的小样本适应框架,其核心思想是通过几何约束来控制适应过程中的漂移,从而提升对新类的泛化能力。整个方法分为训练阶段和推理阶段,包含以下核心组件: ...

 · 更新于 2026-09-05 · 约 4 分钟 · 800 字 阅读 →
研究条目

语音/音乐/音频论文速递 2026-06-18

语音/音乐/音频论文速递 2026-06-18 共分析 36 篇论文 ⚡ 今日概览 📥 抓取 36 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 7篇 ███████ #多模态模型 5篇 █████ #语音合成 5篇 █████ #空间音频 1篇 █ #音乐生成 1篇 █ #模型评估 1篇 █ #声源定位 1篇 █ #音频生成 1篇 █ 📊 论文评分排行榜(36 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 IndicContextEval: A Benchmark for Evaluating Context Ut 9.5分 前25% #语音识别 🥈 Native Active Perception as Reasoning for Omni-Modal Un 9.1分 前10% #语音识别 🥉 Who Wins the Conflict? Mechanistic Interpretability of 8.8分 前25% #多模态模型 4. Generalised Transcoding Framework for Arbitrary Spatial 8.7分 前50% #空间音频 5. Closing the Loop: PID Feedback Control for Interpretabl 8.7分 前50% #音乐生成 6. GRIDEX: Grid-Grounded Forensic Explanations for Deepfak 8.6分 前50% #语音合成 7. Continuous-Speech Parkinson's Disease Detection Usi 8.3分 前25% - 8. Mitigating Scoring Errors and Compensating for Nonverba 8.0分 前25% #多模态模型 9. A Survey of Methods for the Discretization of Phonograp 8.0分 前50% - 10. Adaptive Speech-to-Spike Encoding for Spiking Neural Ne 8.0分 前25% - 11. MagpieTTS-LF: Inference-Time Long-Form Speech Generatio 7.9分 前25% #语音合成 12. Beyond AHI: An Interpretable Causal-Discovery-Guided Fr 7.9分 前25% - 13. Evaluating Dynamic Range Compressor Models Using Contro 7.8分 前50% #模型评估 14. NeuralMUSIC: A Hybrid Neural-Subspace Framework for Rob 7.8分 前50% #声源定位 15. Fair Cognitive Impairment Detection Through Unlearning 7.7分 前25% #多模态模型 16. Audio-to-Audio via Diffusion Warm Initialization 7.6分 前25% #音频生成 17. FineCombo-TTS: Collaborative and Precise Controllable S 7.6分 前25% #语音合成 18. Constraining to Generalize: Subspace Tuning for Few-sho 7.5分 前25% #音频分类 19. Learning Robust Pair Confidence for Multimodal Emotion- 7.5分 前50% #多模态模型 20. Montreal Forced Aligner and the state of speech-to-text 7.5分 前25% #语音识别 21. Scoring Backends Matter More Than Pooling: A Systematic 7.4分 前50% - 22. Reliable Neural-Codec Text-to-Speech by ASR Self-Verifi 7.4分 前50% #语音合成 23. Reference-Driven Multi-Speaker Audio Scene Generation f 7.3分 前50% #语音合成 24. QC-GAN: A Parameter-Efficient Quaternion Conformer GAN 7.1分 前50% #语音增强 25. Augmenting Dysarthric Speech Severity Assessment with M 7.0分 前50% #语音质量评估 26. Continuous Audio Thinking for Large Audio Language Mode 6.9分 前50% - 27. Human-AI Coevolution Dynamics: A Formal Theory of Socia 6.7分 前50% - 28. DASH: Dual-View Self-Distillation with Multi-Layer Hidd 6.6分 前50% #语音识别 29. Reference-Based Recursive Least-Squares Mitigation of R 6.6分 前50% - 30. Responsible ASR: Overcoming Challenges of Foundational 6.5分 前50% #语音识别 31. Risk Stratification for ICU Delirium using Pervasive Am 6.5分 前50% #多模态模型 32. ThinkDeception: A Progressive Reinforcement Learning Fr 6.3分 前50% #强化学习 33. EMORSION: Examining the Impact of Audio Parameters on E 6.0分 前50% - 34. Speech-Driven End-to-End Language Discrimination toward 5.8分 前50% #语音识别 35. Low-resource Language Discrimination Towards Chinese Di 5.5分 前50% #语音识别 36. SingFox: A Multi-Lingual Singfake Detection Corpus 5.4分 后50% #语音伪造检测 📋 论文列表 🥇 IndicContextEval: A Benchmark for Evaluating Context Utilisation in Audio Large Language Models Across 8 Indic Languages 9.5/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.0/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ...

 · 更新于 2026-09-05 · 约 21 分钟 · 4449 字 阅读 →
研究条目

Grounding Spoken LLMs in Multi-Speaker Audio via Diarization Conditioning

📄 Grounding Spoken LLMs in Multi-Speaker Audio via Diarization Conditioning #语音识别 #语音问答 #语音摘要 #多模态模型 #参数高效微调 8.5/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1.3/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 🔥 8.5/10 | 前25% | #语音识别 | #参数高效微调 | #语音问答 #语音摘要 | arxiv 👥 作者与机构 作者:Alexander Polok, Samuele Udupa, Sathvik Udupa, Jan Černocký, Shinji Watanabe, Lukáš Burget 机构:Speech@FIT, Brno University of Technology, Czechia;Language Technologies Institute, Carnegie Mellon University, USA ...

 · 更新于 2026-09-05 · 约 3 分钟 · 432 字 阅读 →
研究条目

Learning task-specific subspaces via interventional post-training of speech foundation models

📄 Learning task-specific subspaces via interventional post-training of speech foundation models #自监督学习 #对比学习 #数据增强 #参数高效微调 6.2/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.3/1.5 ✅ 6.2/10 | 前50% | #自监督学习 | #自监督学习 | #对比学习 #数据增强 | arxiv 👥 作者与机构 作者:Jack Cox (通讯作者), Jon Barker 机构:University of Sheffield, United Kingdom (英国谢菲尔德大学) 💡 毒舌点评 这篇工作就像一个巧妙的玩具:想法(用TTS做可控干预数据来分离表示)很有趣,但玩具本身太小(32个训练说话人,合成数据),玩出来的结果(内容子空间性能下降)也未能完全证明其价值。论文像一篇扎实的课程项目报告,而非一篇能说服顶会审稿人的研究。最大的“惊喜”是内容子空间在关键任务上性能不升反降,这直接挑战了“联合学习能更好分离”的初衷。作者将此归因于预训练目标与下游任务不匹配,但这恰恰暴露了该方法的核心局限:它依赖于一个完美的、与任务无关的干预数据集,而这在现实中很难获得。总体而言,创新点值得鼓励,但实验的规模和深度严重不足,结论的普适性存疑。 📌 核心摘要 本文针对语音基础模型表示信息纠缠的问题,提出了一种基于因果干预思想的后训练方法。核心是使用一个通过零样本TTS(F5-TTS)合成的、可密集控制内容和说话人变量的数据集,并设计一个多部分对比损失(干预对比学习)来联合学习两个正交子空间:内容子空间和说话人子空间。实验在wav2vec 2.0, HuBERT, WavLM三个骨干上进行,评估任务包括VoxCeleb1上的域外说话人验证和Speech Commands上的关键词识别。结果显示,所学说话人子空间能显著提升域外说话人验证性能,证明其有效分离了说话人信息;然而,内容子空间在关键词识别任务上性能下降,表明其未能有效保留或增强任务所需的内容信息。联合学习两个子空间相比单独学习未显示出明显优势。 ...

 · 更新于 2026-09-05 · 约 4 分钟 · 708 字 阅读 →