语音识别

📄 Gumbel-BEARD: Automatic Layer Selection for Self-Supervised Adaptation of Whisper in Low-Resource Domains #语音识别 #自监督学习 #低资源 #领域适应 9.1/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 9.1/10 | 前25% | #语音识别 | #自监督学习 | #低资源 #领域适应 | arxiv 👥 作者与机构 作者：Zilai Wang, Natarajan Balaji Shankar, Mohan Shi, Kaiyuan Zhang, Abeer Alwan 机构：University of California, Los Angeles, USA ...

📄 I Understand How You Feel: Enhancing Deeper Emotional Support Through Multilingual Emotional Validation in Dialogue System #多语言 #语音识别 #数据集 5.8/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 0.4/1.5 📝 5.8/10 | 前50% | #语音识别 | #多语言 | #数据集 | arxiv 👥 作者与机构 Zi Haur Pang, Yahui Fu, Koji Inoue, and Tatsuya Kawahara. Graduate School of Informatics, Kyoto University, Japan. ...

📄 Massive Open-Vocabulary Keyword Spotting #语音识别 #关键词检测 #模型压缩 9.8/10 | 创新 1.6/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 9.8/10 | 前50% | #语音识别 | #模型压缩 | #关键词检测 | arxiv 👥 作者与机构 Leonor Barreiros, Raul Monteiro, Afonso Mendes, Gonçalo M. Correia Priberam Labs, Lisboa, Portugal; Instituto Superior Técnico, Lisboa, Portugal; Instituto de Telecomunicações, Lisboa, Portugal 💡 毒舌点评 这篇工作抓住了OV-KWS系统在实际生产中的一个真实痛点——处理大规模术语库的效率瓶颈。提出的三级压缩思路清晰，且通过实验证明了在效率上实现了数量级的提升（128倍内存，6倍速度），这是其最大的亮点。然而，论文的短板也很明显：1）核心方法（三级压缩）是多个成熟技术（稀疏层选择、MLP降维、CNN降采样）的组合，创新性有限；2）在最具挑战性、也是最能体现其价值的大规模内部数据集上，引导ASR的效果反而变差，这严重削弱了其实际应用价值的 claim；3）部分实验细节和对比不够严谨，例如基线因内存不足而需batch处理，引入了额外开销。总体而言，这是一个工程导向、解决实际问题的有效方案，但理论贡献和最终应用效果有待商榷。 ...

📄 Pretrained self-supervised speech models can recognize unseen consonants #语音识别 #低资源 #自监督学习 #数据集 6.5/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.3/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.5/10 | 前50% | #语音识别 | #自监督学习 | #低资源 #数据集 | arxiv 👥 作者与机构 作者：Chihiro Taguchi， Éric Le Ferrand， Hirosi Nakagawa， Hitomi Ono， Kanji Kato， Emily Prud’hommeaux， David Chiang。 机构：University of Notre Dame, USA； University at Buffalo, USA； Tokyo University of Foreign Studies, Japan； Reitaku University, Japan； Independent researcher； Boston College, USA。 ...

📄 SARA: A Dual-Stream VAE for High-Fidelity Speech Generation via Integrating Semantic and Acoustic Representations #语音合成 #变分自编码器 #自监督学习 #语音识别 #多任务学习 #语音生成 #数据集 7.9/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 7.9/10 | 前25% | #语音合成 | #变分自编码器 | #自监督学习 #语音识别 | arxiv 👥 作者与机构 作者：Peijie Chen*, Wenhao Guan, Weijie Wu, Kadi Wang, Daiyu Huang, Zhuanling Zha, Junbo Li, Jun Fang, Qingyang Hong†, Lin Li 机构：1 厦门大学信息学院，中国；2 厦门大学电子科学与工程学院，中国；3 滴滴全球公司，北京，中国 联系邮箱：peijiechen@stu.xmu.edu.cn ...

📄 Towards Data-free and Training-free Compression for Speech Foundation Models Using Parameter Clustering #模型压缩 #语音识别 #无监督学习 6.4/10 | 创新 1.3/2 | 严谨 1.1/1.5 | 实验 0.9/1.5 | 清晰 1/1 | 影响 0.7/1.5 | 开源 0.4/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 6.4/10 | 前50% | #语音识别 | #模型压缩 | #无监督学习 | arxiv 👥 作者与机构 作者：Haoning Xu, Zhaoqing Li, Huimeng Wang, Youjun Chen, Chengxi Deng, Mengzhe Geng, Xunying Liu 机构：1 The Chinese University of Hong Kong, Hong Kong SAR, China; 2 National Research Council Canada, Canada 邮箱：hnxu@se.cuhk.edu.hk, xyliu@se.cuhk.edu.hk ...

📄 Which Speech Representation Better Matches Text-Native Reasoning? A Study of Speech-Text Alignment on Frame Rate and Representation #语音识别 #语音合成 7.5/10 | 创新 7/2 | 严谨 8/1.5 | 实验 7/1.5 | 清晰 8/1 | 影响 7/1.5 | 开源 0/1.5 | 复现 3/0.5 | 工程 7/1.5 ✅ 7.5/10 | 前50% | #语音识别 | #语音合成 | arxiv 👥 作者与机构 Ye, Tan, Li, Zhang, Chan, Liu, Liu, Lin, Dai, Zhang, Sun, Kong, Xue（香港科技大学，腾讯，萨里大学，香港中文大学，香港浸会大学，香港理工大学，独立研究者）；Zhen, Xu, Yiming, Guangyan, Chimin, Haohe, Zhengxi, Hongzhan, Zheqi, Xinshen, Peiwen, Qiuqiang, Wei（香港科技大学，腾讯，萨里大学，香港中文大学，香港浸会大学，香港理工大学，独立研究者）。 ...

📄 AuRA: Internalizing Audio Understanding into LLMs as LoRA #语音问答 #参数高效微调 #知识蒸馏 #语音识别 #多模态模型 7.5/10 ✅ 7.5/10 | 前25% | #语音问答 | #参数高效微调 | #知识蒸馏 #语音识别 | arxiv 👥 作者与机构 作者：Bo Cheng, Lei Shi, Zhanyu Ma, Yuan Wu, Jun Xu, Jiuchong Gao, Jinghua Hao, Renqing He 机构：Meituan, Jilin University 💡 毒舌点评 这篇论文精准地切中了当前语音-LLM集成的一个痛点：要么重（端到端训练），要么慢（级联推理），要么不够紧密（桥接方法）。AuRA提出的“内化”思路确实巧妙，像给LLM装了个隐藏的“语音耳朵”，推理时还能把这个“外挂”拆了，效率拉满。消融实验做得相当扎实，把各组件的作用都讲清楚了。不过，这位“耳朵”目前只能听懂“字面意思”（ASR），对于弦外之音（情感、语调）怕是无能为力，论文也老实承认了。实验范围有点保守，只在英语语音问答上打转，更广泛的语音理解任务（比如情感识别、对话）还没试水，这让“通用音频理解”的宣称稍微打了点折扣。总的来说，是一篇工程实现很扎实、想法很实用的扎实工作，但离“全面理解音频”还差那么一口气。 📌 核心摘要 AuRA 是一种轻量级的语音-LLM适配方法，其核心思想是将音频理解能力“内化”到大语言模型（LLM）的内部。该方法采用教师-学生蒸馏框架：训练时，一个冻结的ASR编码器（教师）与一个插入了LoRA适配器的冻结LLM（学生）并行处理相同的语音输入。通过设计的层间蒸馏损失，将教师模型的中间表示对齐到学生LLM的浅层隐藏状态中。推理时，移除庞大的ASR教师编码器，仅保留轻量的音频嵌入模块和LoRA适配的LLM，从而实现高效的端到端推理。在SDQA和HeySquad基准测试中，AuRA在准确率上超越了级联、适配和大规模端到端基线，同时显著降低了推理延迟和内存占用。 🔗 开源详情 代码：论文中未提供AuRA的官方代码仓库链接。 模型权重： AuRA 模型权重：论文中未提及。 使用的基础模型： Qwen2.5-7B-Instruct / Qwen2.5-3B-Instruct: https://huggingface.co/Qwen/Qwen2.5-7B-Instruct 和 https://huggingface.co/Qwen/Qwen2.5-3B-Instruct。 Whisper-large-v3: https://huggingface.co/openai/whisper-large-v3。 数据集： HeySquad: https://huggingface.co/datasets/yijingwu/HeySQuAD_human。 SDQA: https://huggingface.co/datasets/WillHeld/SD-QA。 CommonVoice (用于适配训练的语音部分)：论文提及使用英文子集，但未提供特定链接。该项目主站为 https://commonvoice.mozilla.org/。 VoRA-TextQA-Mixed (用于适配训练的文本部分)：论文未提供链接，仅提及名称。 复现材料：论文附录 A 提供了详细的复现信息，包括训练数据（10K CommonVoice 和 10K VoRA-TextQA-Mixed）、音频预处理方法、LoRA 适配配置（前4层，秩256）、优化器设置（学习率 2e-4，批大小128，训练3个epoch）以及计算资源（8块 NVIDIA H20 GPU 训练约1.5小时）。 论文中引用的开源项目： Whisper: https://github.com/openai/whisper。 Qwen (包括 Qwen2, Qwen2.5, Qwen2.5-Omni): https://github.com/QwenLM/Qwen (具体模型权重见上方模型权重部分)。 BLSP: https://github.com/microsoft/BLSP。 DiVA: https://github.com/declare-lab/DiVA。 Qwen2-Audio: 模型权重链接见上文，论文未提供独立代码库链接。 Qwen2.5-Omni: 模型权重链接见上文，论文未提供独立代码库链接。 CommonVoice: https://commonvoice.mozilla.org/。 🏗️ 方法概述和架构 AuRA 的整体架构遵循教师-学生蒸馏范式（如图2所示），旨在将ASR教师的能力转移到LLM学生中，并在推理时移除教师。其核心流程包含三个关键组件：音频补丁嵌入、LoRA适配的LLM学生以及层间蒸馏机制。 ...

📄 Entropy-Aware Domain-Routed Mixture-of-Experts Speech-LLM Framework: A Case Study of Multi-Domain Child-Adult ASR #语音识别 #低资源 7.5/10 | 创新 1.6/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.2/1.5 | 复现 0.5/0.5 | 工程 0.5/1.5 ✅ 7.5/10 | 前25% | #语音识别 | #低资源 | arxiv 👥 作者与机构 Shi Mohan, Kaiyuan Zhang, Zilai Wang, Natarajan Balaji Shankar, Eray Eren, Abeer Alwan University of California, Los Angeles, USA ...

📄 From Senses to Decisions: The Information Flow of Auditory and Visual Perception in Multimodal LLMs #语音识别 #多模态模型 6.5/10 ✅ 6.5/10 | 前50% | #语音识别 | #多模态模型 | arxiv 👥 作者与机构 Wish Suharitdamrong, Muhammad Awais, Xiatian Zhu, Sara Atito。 机构：Surrey Institute for People-Centred AI (PAI), University of Surrey, UK；Centre for Vision, Speech and Signal Processing (CVSSP), University of Surrey, UK。 💡 毒舌点评 这篇论文在机械可解释性领域做了一个扎实的、系统性的工作，把针对视觉语言模型（VLM）和视频语言模型（VideoLLM）的信息流分析方法扩展到了音频-视觉语言模型（AVLLM）。文章结构清晰，从观察到不可靠的注意力模式入手，到使用因果干预追踪信息流，再到利用新发现提升效率，逻辑链条完整。主要贡献在于填补了AVLLM信息流动机分析的空白，并发现了任务依赖的路由机制。然而，这项工作的“音频”属性略显薄弱。虽然研究对象是多模态，但核心分析方法（注意力消除、token丢弃）和主要发现（顺序流、并行流、汇聚点）在之前的VLM/VideoLLM研究中已有类似报道。论文的增量创新更多体现在应用场景的扩展和验证上，而非方法或理论上的重大突破。此外，结论的普适性受限于所选模型和任务，作者自己也承认开放生成任务可能不同。对于寻求音频领域独有洞见的读者，本文的启发可能有限，其价值更多体现在通用多模态模型的可解释性和效率优化方向上。 📌 核心摘要 本文首次系统研究了音频-视觉大语言模型（AVLLM）内部的信息流动机制。研究者通过注意力消除这一因果干预手段，追踪了音频和视觉信号如何在网络中路由、整合以形成最终预测。主要发现包括：1) 在音频-视觉视频输入中，信息遵循单一的顺序路径：模态信息首先在早中期层进行交互并汇聚到问题token（作为聚合点），随后问题token将信息传递至最后一个token以生成预测，且各模态的贡献比例由任务需求动态调节。2) 在多个交错音视频输入的配置中，信息流动转变为两条并行路径：一条是“候选项+问题->参考项->最后一个token”，另一条是“候选项->选项字母->最后一个token”。3) 后期层的视频注意力尖峰实为由巨大激活值驱动的“视觉注意力池”工件，不传输有用信息。4) 音频、视频及非选项文本token在完成信息传递后，可被丢弃而几乎不影响模型精度，甚至略有提升。这些发现在多个模型（Qwen2.5-Omni, Video-SALMONN2 Plus）和多个数据集（AV-SpeakerBench, WorldSense, AV-Odyssey）上得到验证。基于此，论文提出了一种新的AVLLM效率优化思路：在模型中间层丢弃已传递信息的冗余token。 ...