语音识别

📄 FiLM-Based Speaker Conditioning of a SpeechLLM for Pathological Speech Recognition #语音识别 #参数高效微调 #低资源 #语音问答 8.0/10 | 创新 6/2 | 严谨 7/1.5 | 实验 6/1.5 | 清晰 8/1 | 影响 5/1.5 | 开源 7/1.5 | 复现 7/0.5 | 工程 6/1.5 🔥 8.0/10 | 前50% | #语音识别 | #参数高效微调 | #低资源 #语音问答 | arxiv 👥 作者与机构 Fernando López, Santosh Kesiraju, Jordi Luque Telefónica Innovación Digital Spain, Universidad Autónoma de Madrid Spain, Brno University of Technology Czech Republic ...

📄 M2S-AVSR: Modality-aware Multi-view Self-supervised Representation for Robust Audio-Visual Speech Recognition #多模态模型 #自监督学习 #语音识别 #音视频 9/10 | 创新 1.6/2 | 严谨 1.4/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 🔥 9/10 | 前25% | #语音识别 | #自监督学习 | #多模态模型 #音视频 | arxiv 👥 作者与机构 作者：Fei Su, Cancan Li, Ming Li, Juan Liu。 机构：武汉大学人工智能学院与计算机科学学院；香港中文大学（深圳）人工智能学院；武汉大学人工智能学院。 💡 毒舌点评 这篇论文工作扎实，动机明确，旨在解决真实世界AVSR中视角变化和模态退化的核心痛点。方法上，将多视角自监督学习（MVL编码器）与细粒度的模态感知融合（同时考虑质量和同步性）相结合，思路清晰且有新意。新发布的AISHELL8-RealScene数据集（室外、多视角）填补了部分空白，实验也较为全面。主要问题在于：1）部分实验对比可能受限于特定设置（如LLM基线未完全对齐训练数据规模），使得“最优”结论需谨慎解读；2）模态感知模块的计算开销和实际部署时的延迟未充分讨论；3）合成多视角数据的真实性和多样性可能限制MVL编码器的泛化上限。总体是一篇达到顶会门槛的工作，但部分细节的论证和工程实践考量有待加强。 📌 核心摘要 本文提出了M2S-AVSR，一个用于鲁棒音视觉语音识别（AVSR）的模态感知多视角自监督表征框架。该框架针对真实场景下常见的视角变化、音频失真和视觉遮挡等问题，主要包含两个核心创新：1）一个多视角表征学习（MVL）编码器，通过结合真实与合成视角的多视角自监督学习策略，学习视角不变的视觉表征；2）一个模态感知融合机制，在解码时显式建模视觉模态质量与跨模态同步性，实现细粒度的自适应信息注入。此外，论文发布了新的公开数据集AISHELL8-RealScene，包含多场景（室内/室外）、多视角的真实世界对话数据，用于建立更贴近现实的基准。在LRS3、MISP2021-AVSR和AISHELL8-RealScene上的实验表明，M2S-AVSR在应对视角扰动和视觉退化时显著优于现有方法，并在MISP2021-AVSR测试集上取得了新的最先进性能。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集：AISHELL8-RealScene。论文中明确声明该数据集公开可用，并提供了具体链接和开源协议。 名称：AISHELL8-RealScene 获取链接：https://huggingface.co/datasets/SMIIP-lab/AISHELL8-RealScene 开源协议：CC BY-NC-SA 4.0 Demo：论文中未提及在线演示链接。 复现材料：论文中未提及完整的复现配置包或检查点下载链接，但提供了详细的实验设置（如网络配置、学习率、批大小、GPU型号等）。 论文中引用的开源项目： Whisper：OpenAI的开源语音识别模型。GitHub: https://github.com/openai/whisper；HuggingFace模型库: https://huggingface.co/openai/whisper-large-v3 AV-HuBERT：Facebook AI Research的音视频自监督表征学习模型。GitHub: https://github.com/facebookresearch/av_hubert LRS3：大规模的视听语音识别数据集。项目主页: https://www.robots.ox.ac.uk/~vgg/data/lip_reading/lrs3.html VoxCeleb2：大规模的视听人物识别数据集。项目主页: https://www.robots.ox.ac.uk/~vgg/data/voxceleb/vox2.html MISP2021-AVSR：多模态远场语音识别挑战赛数据集。项目主页: https://mispchallenge.github.io/ OuluVS2：多视角视听语音数据集。论文中未提供具体链接，但为已知公开数据集。 MUSAN：用于噪声增强的开源噪声数据集。论文中未提供具体链接，但为已知公开数据集。 WPE：加权预测误差法（盲解混响算法）。论文中未提供具体链接，但为已知公开工具。 GSS：引导源分离法。论文中未提供具体链接，但为已知公开工具。 ResNet-18：深度残差网络模型，广泛使用。论文中未提供具体链接，但为已知开源模型。 LLaMA：Meta的大语言模型系列。论文中未提供具体链接，但为已知开源模型。 Fun-ASR：阿里云达摩院的开源语音识别框架。GitHub: https://github.com/modelscope/FunASR FireRed-ASR：论文中提及为LLM-based ASR模型。论文中未提供具体链接。 Qwen3-ASR：论文中提及为LLM-based ASR模型。论文中未提供具体链接。 🏗️ 方法概述和架构 M2S-AVSR的整体框架如图2所示。其核心思想是分别从音频和视觉模态中提取鲁棒表征，并通过模态感知机制在解码器中进行融合。 ...

📄 MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models #语音识别 #多模态模型 #语音合成 8.4/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 8.4/10 | 后50% | #语音识别 | #多模态模型 | #语音合成 | arxiv 👥 作者与机构 论文标题：MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models 作者：Luong Tien, Abraham Tamas, Kim Junae, Kaur Amar, Omari Rollin, Haffari Gholamreza, Vu Trang, Qu Lizhen, Phung Dinh 机构：1 Monash University, Australia; 2 Defence Science and Technology Group, Australia ...

📄 Multi-task Learning is Not Enough: Representational Entanglement in Dual-output Second Language Speech Recognition #语音识别 #多任务学习 #低资源 6.9/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.2/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 0.1/1.5 | 复现 0.4/0.5 | 工程 0.7/1.5 ✅ 6.9/10 | 前50% | #语音识别 | #Conformer | #多任务学习 #低资源 | arxiv 👥 作者与机构 Seung Hwan Cho, Young-Min Kim 💡 毒舌点评 论文提出了一个有趣且重要的观察：在双输出L2 ASR中，MTL对表面和意义转录的影响是不对称的，且这种不对称性在语言间有差异。这确实挑战了“MTL总是有益”的简单假设。然而，研究的“解决方案”部分（即“缓解编码器纠缠”）完全停留在动机层面，缺乏任何实际的方法提出或验证。这使得论文更像是一个现象观察和机理分析的工作，其贡献和完整度略显不足。此外，实验仅在两种语言上进行，且数据集来源特定（教育场景），其结论的普适性有待商榷。分析深度（CKA）不错，但仅凭相似度指标断言因果关系有些牵强。 📌 核心摘要 本文研究了在双输出（DO）第二语言（L2）自动语音识别（ASR）中，联合多任务学习（MTL）对表面转录（实际发音）和意义转录（规范形式）的非对称影响。实验对比了单任务（SO）和双任务（DO）模型在韩语和英语L2语音数据上的性能。结果发现，MTL在提升意义转录性能的同时，会降低表面转录性能，且英语中的性能下降远大于韩语。通过中心核对齐（CKA）分析，研究将这种现象归因于编码器层面的表征纠缠：韩语编码器能为两个任务学习可区分的表征，而英语编码器学习到高度相似的表征。进一步的跨任务解码器分析揭示，英语的意义解码器通过构建一个全新的、绕过纠缠编码器的独特表征来实现性能提升，而表面解码器则受制于编码器，无法摆脱其纠缠的表征。这表明仅依赖解码器自适应无法完全补偿编码器层面的任务纠缠，为设计能缓解编码器表征纠缠的MTL框架提供了动机。 🔗 开源详情 代码：论文中未提及任何代码库或代码链接。 模型权重：论文中未提及任何预训练或训练后的模型权重。 数据集：论文使用了来自AI-Hub的两个数据集：“Educational Korean Audio Data Recorded by Native (L1) Chinese and Japanese Speakers”和“Educational English Audio Data Recorded by L1 Korean Speakers”。论文中注明了数据来源（www.aihub.or.kr），但未提供具体获取链接或开源协议信息。 Demo：未提及。 复现材料：论文未提供检查点、完整配置文件或详细数据预处理脚本。但论文在“Baselines and Implementation Details”部分详细描述了模型架构（Conformer编码器+Transformer解码器，混合CTC-注意力）、训练设置（AdamW优化器，权重衰减0.01，学习率 \(10^{-4}\)，Whisper微调为 \(10^{-5}\)，50个epoch，批大小8，SpecAugment增强）和解码策略（Beam Search，beam size 5），硬件环境为单张NVIDIA RTX 3090 GPU。 论文中引用的开源项目： Whisper (Radford et al., 2022)：作为基线模型之一被引用。官方仓库：https://github.com/openai/whisper。 Conformer (Gulati et al., 2020)：论文方法中使用的核心编码器架构。这是一个公开的架构，但未指向特定代码库。 SpecAugment (Park et al., 2019)：作为数据增强方法被引用。 Centered Kernel Alignment (CKA) (Kornblith et al., 2019)：作为分析工具被使用。 🏗️ 方法概述和架构 论文的核心方法是对比单任务（SO）和双任务（DO）模型在双输出L2 ASR任务上的表现，并利用CKA分析两者在编码器和解码器层面的表征差异。具体架构和训练细节如下： ...

📄 Ouvia: A User-centered Framework for Measuring Usability of Speech Translation in Real-World Communication Scenarios #语音翻译 #语音识别 8.6/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.1/1.5 | 开源 1.3/1.5 | 复现 0.5/0.5 | 工程 0.7/1.5 🔥 8.6/10 | 前25% | #语音翻译 | #语音识别 | arxiv 👥 作者与机构 Giuseppe Attanasio (Instituto de Telecomunicações, Instituto Superior Técnico), Beatrice Savoldi (Fondazione Bruno Kessler), Daniel Chechelnitsky (Carnegie Mellon University), Matteo Negri (Fondazione Bruno Kessler), Marine Carpuat (University of Maryland), Maarten Sap (Carnegie Mellon University), André F.T. Martins (Instituto Superior Técnico, Instituto de Telecomunicações, TransPerfect) ...

📄 Revisiting Lexicon Evaluation in Unsupervised Word Discovery #无监督学习 #语音识别 #低资源 #聚类分析 #数据集 1/10 📝 1/10 | 前25% | #语音识别 | #聚类分析 | #无监督学习 #低资源 | arxiv 👥 作者与机构 作者：Simon Malan, Danel Slabbert, Herman Kamper 机构：斯泰伦博斯大学 (Stellenbosch University) 💡 毒舌点评 这篇论文像一个细致但有些“学院派”的工具评测员。它正确地诊断了NED指标的“偏科”问题——过度关注大聚类的表现，而忽略了词类分布的完整性。提出的两套新指标（WNES/PAcc系列）在理论上更严谨，公式推导清晰。然而，最大的槽点在于：1）代码完全黑箱。在2024年，一篇纯方法论的评估论文不开源任何代码，是严重的减分项。读者如何便捷地使用这些新指标？2）实验说服力一般。合成实验设计巧妙但略显理想化；真实实验仅在一个数据集、有限的几个简单聚类基线上进行。声称“更接近真实分布”是好的，但缺乏在大规模、多样化无监督词发现系统（如端到端模型）上的验证。3）工程价值存疑。WNES的\(O(|k_i|^2)\)复杂度在面对海量发现单元时可能不实用。总体来说，这是一篇问题定位准确、理论推导扎实的“分析工具”论文，但离成为领域标准还有距离，主要短板在于实践层面的验证和开放性。 📌 核心摘要 本文针对无监督词发现任务中最常用的评估指标归一化编辑距离(NED)进行批判性分析。作者指出NED存在两个核心缺陷：1) 基于成对比较导致的聚类大小偏见，使得大聚类的质量对整体评分影响过大；2) 仅评估聚类内部同质性，忽略评估真实词类在聚类中的分布完整性（即完整性）。为此，论文提出了两组新的评估指标：加权归一化编辑相似度(WNES)及其逆指标(iWNES)，以及计算更快的音素准确率(PAcc)及其逆指标(iPAcc)。通过合成词表和真实世界词发现系统的实验，证明了这些新指标在鲁棒性、以及与真实词类分布匹配度方面均优于NED与比特率的组合。 🔗 开源详情 代码：未提及 模型权重：未提及 数据集：使用了LibriSpeech dev-clean数据集，但未提供直接下载链接。 Demo：未提及 复现材料：未提及具体的复现脚本或配置文件。论文中描述了实验使用的聚类方法和超参数设置依据。 论文中引用的开源项目：未提供具体链接。提及了K-Means++、图聚类等算法，以及用于获取强制对齐的工具（未指明具体软件）、ZeroSpeech重叠转写方法。 🏗️ 方法概述和架构 本文方法围绕提出新的词表评估指标展开，核心架构分为理论分析、指标设计与聚合、实验验证三部分。 问题分析与指标设计基础： 论文首先定义了评估指标应满足的四个聚类性质（见图1）：同质性、完整性、布条袋、大小与质量。并指出现有通用聚类指标（如纯度、v-measure）因依赖类别-单元映射，不适用于语音词发现场景。 详细分析了归一化编辑距离(NED)和比特率(Bitrate)。NED使用ZeroSpeech重叠转录法将单元转为音素序列，在簇内进行成对归一化编辑距离平均，它满足同质性和大小与质量性质，但存在聚类大小偏见：因为采用全局平均，簇大小为\(|k_i|\)的簇贡献\(\binom{|k_i|}{2}\)个距离值，大簇影响不成比例地大。比特率从信息论角度评估紧凑性，间接反映完整性，但不直接测量类别分布。 关键洞察：NED仅评估同质性，比特率不直接评估完整性。需要结合评估同质性的正向指标和评估完整性的逆向指标。 提出的新指标： 正向指标（评估同质性）： 加权归一化编辑相似度(WNES)：核心是消除NED的大小偏见，使每个单元贡献均等。公式为： \[\text{WNES}=1-\frac{\sum_{i=1}^{|K|}\frac{|k_{i}|}{\binom{|k_{i}|}{2}}\sum_{\{t,t^{\prime}\}\subseteq k_{i}}\text{NED}_{i}(t,t^{\prime})}{\sum_{i=1}^{|K|}|k_{i}|}\] 其中\(\text{NED}_{i}(t,t^{\prime})\)是簇内成对音素序列的归一化编辑距离。公式通过除以\(\binom{|k_i|}{2}\)消除簇大小对成对比较数的直接影响，再乘以\(|k_i|\)进行加权，最终归一化到总单元数。这确保了每个单元在最终得分中权重相等。 音素准确率(PAcc)：一种基于错误率的更快替代方案。计算每个单元的转录与其簇模态单元转录\(t^{}\)之间的归一化编辑距离（错误率），然后取平均： \[\text{PAcc}=1-\frac{1}{|S|}\sum_{i=1}^{|K|}\sum_{t\in k_{i}}\frac{\text{Lev}(t,t^{})}{|t^{}|}\] 它自然地使每个单元的影响与簇大小对齐（因为求和遍历所有单元），但仅考虑与模态单元的比较，而非成对比较。 逆向指标（评估完整性）： ...

📄 SpeechJBB: Probing Safety Alignment and Comprehension in Large Audio Language Models under Code-Switched Speech #语音识别 #多语言 #语音合成 #数据集 7.3/10 | 创新 1.5/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.3/1.5 | 复现 0.3/0.5 | 工程 0.5/1.5 ✅ 7.3/10 | 前25% | #语音识别 | #多语言 | #语音合成 #数据集 | arxiv 👥 作者与机构 Virginia Ceccatelli1,2， Yejin Jeon1,2， David Ifeoluwa Adelani1,2,3。1 Mila - Quebec AI Institute， 2 McGill University, Canada， 3 Canada CIFAR AI Chair. ...

📄 Towards Truly Multilingual ASR: Generalizing Code-Switching ASR to Unseen Language Pairs #语音识别 #低资源 5.9/10 | 创新 1/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.3/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 0.2/1.5 📝 5.9/10 | 前50% | #语音识别 | #低资源 | arxiv 👥 作者与机构 Gio Paik, Hyunseo Shin, Soungmin Lee。 机构未在提供的原文中明确说明。 💡 毒舌点评 这篇论文试图解决一个重要的实际问题——代码切换ASR在未见语言对上的泛化。作者很诚实地用现有“轮子”（模型合并、领域泛化）来尝试，也很坦诚地展示了这些方法效果不佳。这本身没问题。问题在于：1）“尝试”本身的技术贡献和新颖性非常有限，更像是一个方法应用的验证性实验，而非提出新解法；2）实验设计存在硬伤，尤其是完全依赖Whisper这一特定架构，其多语言特性和对CS的潜在偏见未被讨论，使得结论的普适性存疑；3）构建的数据集（尤其是ko-de）制作流程（翻译+录制）可能引入了显著的领域偏移，作为评估基准的有效性要打个问号。因此，虽然论文写作清晰、实验“完整”，但核心价值更接近于一个高质量的“负面结果”报告，离顶会论文的创新性和技术深度要求有明显差距。 📌 核心摘要 本文研究了将代码切换（CS）能力从有限的已见语言对（ko-en, ja-en, de-en）泛化到未见语言对（ko-ja, ko-de）的可能性。作者以Whisper-medium为骨干，尝试了三种路径：1）在单个已见语言对上微调；2）使用Task Arithmetic、TIES和DARE等方法合并多个微调模型；3）应用Fish、Fishr和GGA-L等领域泛化方法。实验结果表明，现有的模型合并和领域泛化方法在未见语言对上仅有有限的改进（最佳平均MER为0.32），远未达到实用水平，证明了直接应用这些通用方法对于CS-ASR泛化任务效果不足。参数分析显示，CS适应主要发生在模型的高层表示中。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及模型权重链接。 数据集： Korean-Japanese Code-Switching Speech 评估数据集：论文明确声明将开源，并提供了具体链接：https://huggingface.co/datasets/thetaone-ai/Korean-Japanese-Code-Switching-Speech。 其他训练/评估数据集：论文中引用了多个第三方数据集作为训练和评估基础（如 AI-Hub (ko-en), Shinnosuke et al. (ja-en), Lee et al. (2025) (de-en), Yan et al. (2025) (评估), Paik et al. (2026) (ko-en)），但未提供这些数据集的直接下载链接。这些数据集通常需要通过原始论文或相关研究项目获取。 Demo：论文中未提及。 复现材料： 训练配置：论文附录 A 提供了详细的训练细节，包括： 模型：Whisper-medium。 优化器：AdamW，使用余弦学习率衰减和10%训练步数的线性预热。 超参数： 单语言对微调：batch size 8，73 steps。 多语言对微调及领域泛化实验：batch size 9，195 steps。 合并工具：MergeKit。 计算环境：使用 PyTorch 2.8.0，在 NVIDIA GeForce RTX 4090 GPU 上运行。 检查点：论文中未提及公开发布模型检查点。 附录：论文提供了附录 A（实验细节）和附录 B（参数分析可视化），是复现研究的重要补充材料。 论文中引用的开源项目： Whisper (模型)： 名称：Whisper 链接：https://huggingface.co/openai/whisper-medium (论文引用的模型)。 MergeKit (模型合并工具)： 名称：MergeKit 论文描述：用于执行 Task Arithmetic、TIES、DARE 等模型合并方法的工具。 链接：https://github.com/arcee-ai/MergeKit (项目官方仓库，论文中引用了其原始论文 Goddard et al., 2024)。 其他方法论（通常由原始论文附带代码，但本文未直接引用其代码库）： Task Arithmetic (Ilharco et al., 2023) TIES-Merging (Yadav et al., 2023) DARE (Yu et al., 2024) Fish (Shi et al., 2021) Fishr (Rame et al., 2022) GGA-L (Ballas and Diou, 2025) 注：上述方法的代码实现通常可在其原始论文的作者GitHub页面找到，但本论文未提供具体链接。 🏗️ 方法概述和架构 本文的核心方法并非提出新架构，而是系统性地评估三种现有技术范式在CS-ASR跨语言对泛化任务上的表现。实验流程主要包含三个阶段，且所有阶段均以预训练的Whisper-medium模型作为起点。 ...

📄 CleanCodec: Efficient and Robust Speech Tokenization via Perceptually Guided Encoding #语音编码 #语音合成 #语音识别 #对比学习 8.8/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.3/1.5 | 开源 0.5/1.5 | 复现 0.5/0.5 | 工程 1.4/1.5 🔥 8.8/10 | 前25% | #语音编码 | #自监督学习 | #语音合成 #语音识别 | arxiv 👥 作者与机构 Eugene Kwek (Pennsylvania State University), Feng Liu (Drexel University), Rui Zhang (Pennsylvania State University), Wenpeng Yin (Pennsylvania State University)。 ...

📄 Multilingual Long-Form Speech Instruction Following: KIT's Submission to IWSLT 2026 #语音识别 #语音合成 #语音翻译 #多模态模型 #数据增强 #参数高效微调 #模型集成 10/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 🔥 10/10 | 前10% | #语音识别 | #数据增强 | #语音合成 #语音翻译 | arxiv 👥 作者与机构 Enes Yavuz Ugan, Maike Züfle, Yuka Ko, Supriti Sinhamahapatra, Fabian Retkowski, Seymanur Akti, Jan Niehues, Alexander Waibel 1 Karlsruhe Institute of Technology (KIT) 2 Carnegie Mellon University ...