语音理解

📄 Exploring Fine-Tuning Of Large Audio Language Models For Spoken Language Understanding Under Limited Speech Data #语音理解 #迁移学习 #低资源 #多语言 🔥 8.0/10 | 前25% | #语音理解 | #迁移学习 | #低资源 #多语言 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Youngwon Choi (MAUM AI Inc., Republic of Korea) 通讯作者：Huu-Kim Nguyen (∗ 作者列表中标注星号，现单位为 Atmanity Inc., USA) 作者列表： Youngwon Choi (MAUM AI Inc., Republic of Korea) Jaeyoon Jung (MAUM AI Inc., Republic of Korea & Soongsil University, Republic of Korea) Hyeonyu Kim (MAUM AI Inc., Republic of Korea) Huu-Kim Nguyen (MAUM AI Inc., Republic of Korea → 现 Atmanity Inc., USA) Hwayeon Kim (MAUM AI Inc., Republic of Korea) 💡 毒舌点评 这篇论文像一份非常扎实的“工程实验报告”，系统地厘清了“当语音标注数据很少时，怎么微调音频大模型最划算”这个现实问题，结论（转录文本先行、加少量语音、课程学习）对实践者极具指导性。短板在于，它本质上是方法组合与验证，而非底层算法的原创突破，且所有实验仅基于Qwen2-Audio-7B一个模型，结论的普适性存疑。 ...

ICASSP 2026 - 语音理解 共 2 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 Exploring Fine-Tuning Of Large Audio Language Models For Spo 8.0分 前25% 🥈 Scaling Spoken Language Models with Syllabic Speech Tokeniza 7.0分 前25% 📋 论文详情 🥇 Exploring Fine-Tuning Of Large Audio Language Models For Spoken Language Understanding Under Limited Speech Data 🔥 8.0/10 | 前25% | #语音理解 | #迁移学习 | #低资源 #多语言 👥 作者与机构 第一作者：Youngwon Choi (MAUM AI Inc., Republic of Korea) 通讯作者：Huu-Kim Nguyen (∗ 作者列表中标注星号，现单位为 Atmanity Inc., USA) 作者列表： Youngwon Choi (MAUM AI Inc., Republic of Korea) Jaeyoon Jung (MAUM AI Inc., Republic of Korea & Soongsil University, Republic of Korea) Hyeonyu Kim (MAUM AI Inc., Republic of Korea) Huu-Kim Nguyen (MAUM AI Inc., Republic of Korea → 现 Atmanity Inc., USA) Hwayeon Kim (MAUM AI Inc., Republic of Korea) 💡 毒舌点评 ...

📄 Scaling Spoken Language Models with Syllabic Speech Tokenization #语音大模型 #语音理解 #分词技术 #自监督学习 #模型比较 ✅ 7.0/10 | 前25% | #语音理解 | #分词技术 | #语音大模型 #自监督学习 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Nicholas Lee (UC Berkeley) 通讯作者：未明确说明（论文中未指定） 作者列表：Nicholas Lee (UC Berkeley)、Cheol Jun Cho (UC Berkeley)、Alan W. Black (CMU)、Gopala K. Anumanchipalli (UC Berkeley) 💡 毒舌点评 亮点：这篇论文做了一件扎实且重要的事——系统性地证明了“把语音序列砍短”（音节分词）是训练更高效语音大模型的一条靠谱捷径，用5倍的计算节省换取了相当甚至更好的性能。短板：研究止步于“对比观察”，缺乏对“为何音节分词有效”的深层机制剖析（例如，这种离散化如何保留了关键的韵律或语义信息？），且未提供代码，使得“可复现”的承诺打了折扣。 📌 核心摘要 问题：当前主流的语音语言模型（SLM）使用高帧率（25-75 Hz）的语音令牌，导致序列过长，使得基于Transformer的模型在自注意力机制下面临二次复杂度的计算瓶颈，严重限制了模型在长上下文数据上的扩展和推理速度。 方法核心：采用基于自监督学习模型“Sylber”生成的音节级语音分词（约4.27 Hz），替代传统的帧级分词（如Hubert，约50 Hz），将语音序列长度压缩约5倍。 创新点：首次系统性研究音节分词在语音语言建模中的扩展性。在固定计算预算下，对比了不同数据规模和词汇表大小的Sylber分词与Hubert分词SLM的性能。 主要实验结果：在多个口语理解基准测试（sBLIMP, sSC, tSC）和生成困惑度（GenPPL）上，Sylber模型用约1/5的训练数据（令牌量）即可匹配或超越使用全量数据的Hubert模型。具体而言，在完整数据集（LibriSpeech+LibriLight+STS）上，Sylber-20k模型在sBLIMP上得分60.57（Qwen-0.5B），高于Hubert的56.95；训练时间从8.5小时降至3小时（8xA100-80GB），FLOPs减少超过5倍。关键结果对比如下表： 模型（Qwen2.5-0.5B） 训练数据集 令牌量 sBLIMP ↑ sSC ↑ tSC ↑ GenPPL ↓ Hubert (km500) 全量 6.04B 56.95 57.30 79.64 85.90 Sylber (km20k) 全量 1.24B 60.57 58.90 80.17 183.08 Sylber (km5k) 全量 1.24B 60.54 57.67 79.58 168.81 实际意义：为构建高效、可扩展的长上下文语音语言模型指明了一条有前景的道路，通过更粗粒度、更可解释的语音表示（音节），大幅降低训练和推理成本。 主要局限性：研究局限于特定的Sylber分词方法和k-means聚类；未深入探讨不同分词策略（如基于语言学的分词）的影响；生成任务（GenPPL）的评分上，Sylber模型目前仍劣于Hubert模型，表明音节分词在语音生成建模上可能仍有挑战。 🏗️ 模型架构 论文未提出全新的端到端模型架构，而是研究将音节级分词作为输入表示对现有SLM架构的影响。其核心系统流程如下： ...

📄 Slot Filling as a Reasoning Task for Speechllms #语音理解 #槽填充 #语音大模型 #思维链 #监督微调 ✅ 6.5/10 | 前25% | #槽填充 | #思维链 | #语音理解 #语音大模型 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Kadri Hacioglu（Uniphore） 通讯作者：未说明 作者列表：Kadri Hacioglu (Uniphore), Manjunath K. E. (Uniphore), Andreas Stolcke (Uniphore) 💡 毒舌点评 论文亮点在于清晰地指出了推理优化型LLM（如DeepSeek R1蒸馏版）在直接应用于语音槽填充时“水土不服”的现象，并提出了通过混合训练来兼顾直接与推理模式的务实解决方案。然而，其主要短板在于实验局限于有限的几个开源模型和单一的脚本对话数据集，未能充分验证该方法在更多样化语音场景（如自然对话、噪声环境）下的普适性，且完全缺失代码和数据开源，削弱了结论的说服力和影响力。 📌 核心摘要 问题：传统语音槽填充任务通常被建模为单步预测，缺乏显式的推理过程，而新兴的推理型大语言模型（LLM）在此类任务上的适用性尚不明确。 方法核心：提出将槽填充重构为多步推理任务，模仿人类标注流程（听写-识别-分配）。利用思维链（CoT）框架构建包含转录、提及识别和理由说明的推理数据集，并通过监督微调（SFT） 训练语音大模型（SpeechLLM）。模型架构包含语音编码器（Whisper-base）、适配器和文本LLM，支持在“常规”（直接输出）和“推理”（先输出思考过程再输出答案）模式间切换。 新意：与此前端到端直接生成槽填充结果的方法不同，本文首次系统性地探索了将显式CoT推理引入语音大模型用于槽填充的可行性，并对比了不同类型（基础、指令、推理、混合）和规模的基础LLM，还创新性地提出了同时保留两种操作模式的混合训练策略。 主要实验结果：在约31K通客服电话数据集上，中等规模（8B参数）的基础或指令微调LLM 作为语音大模型骨干时，引入推理监督能提升性能（如Llama 3.1 8B Base的F1从0.6923提升至0.7736）。然而，专门为数学/代码等推理任务优化的模型（如DeepSeek R1蒸馏版）作为骨干时，尽管在推理模式下提升幅度最大（+22.72%），但绝对性能仍低于同规模其他模型。小规模（≤4B）的混合或推理LLM 在引入显式推理后，性能反而下降。最终，基于混合LLM（Qwen3 4B）并采用混合监督训练的语音大模型取得了最佳性能（F1达0.7988）。具体数据见表1和表2。 实际意义：为提升语音理解任务的可解释性和性能提供了新思路，指出构建兼顾指令遵循与推理能力的“混合”基础模型对于下游语音任务可能更有效，对工业界构建实用型语音大模型有指导价值。 主要局限性：实验数据来自单一来源（DefinedAI客服脚本），可能缺乏泛化性；对比的LLM型号和数量有限；未提供代码和数据集，复现困难；推理模式显著增加计算成本（4-5倍）和延迟。 🏗️ 模型架构 论文提出的语音大模型（SpeechLLM）架构如图1 (pdf-image-page1-idx0) 所示，主要包含三个组件： ...

📄 ST-HNTM: Joint Speech-Text Neural Topic Modeling on the Hypersphere #主题建模 #多模态模型 #超球面表示 #语音理解 #无监督学习 ✅ 7.0/10 | 前25% | #主题建模 | #多模态模型 | #超球面表示 #语音理解 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 中 👥 作者与机构 第一作者：Dayu Guo†（北京师范大学-香港浸会大学联合国际学院，计算机科学系） 通讯作者：Wentao Fan*（北京师范大学-香港浸会大学联合国际学院，计算机科学系） 作者列表：Dayu Guo†（北京师范大学-香港浸会大学联合国际学院，计算机科学系），Zhiwen Luo†（康考迪亚大学，信息系统工程学院），Nizar Bouguila（康考迪亚大学，信息系统工程学院），Wentao Fan*（北京师范大学-香港浸会大学联合国际学院，计算机科学系） 💡 毒舌点评 该论文首次将语音与文本在超球面潜在空间中联合建模，架构设计逻辑清晰，实验结果在多项指标上显示显著提升。然而，其核心任务“主题建模”在当前AI研究中已属相对传统领域，且论文中对比的多数基线模型较为陈旧，对最新多模态或超球面主题建模方法的覆盖有限，这在一定程度上限制了其结论的前沿性和说服力。 📌 核心摘要 要解决什么问题：现有神经主题模型（NTMs）主要局限于文本输入，忽略了语音中丰富的语义和副语言信息。同时，基于文本的多模态主题建模也较少探索语音这一关键模态。 方法核心是什么：提出ST-HNTM，一个首个在共享超球面潜在空间中联合建模语音和文本的神经主题模型。它使用词袋（BoW）和声学词袋（BoAW）分别表示文本和语音，并通过von Mises-Fisher (vMF) 先验推断统一的文档-主题分布，每个模态通过vMF混合成分解码。 与已有方法相比新在哪里：首次将语音模态系统性地集成到基于超球面的神经主题建模框架中，克服了传统方法依赖易错ASR转录文本的局限性，利用原始声学模式提供互补线索。 主要实验结果如何：在LibriSpeech和TEDLIUM-Release3两个基准数据集上，ST-HNTM在主题连贯性（Cv）、多样性（TD）和综合质量（Quality）指标上均优于或持平于多个先进的文本基线模型。例如，在LibriSpeech数据集上，当主题数为10时，ST-HNTM的Quality得分（0.538）显著高于次佳的NeuralLDA（0.452）。消融实验证明，超球面先验、vMF混合解码器以及语音模态的引入对性能均有贡献。 实际意义是什么：展示了将语音直接融入主题建模的价值，为处理语音-文本对齐数据、丰富语义表示、以及在无法获取可靠文本转录（如低资源语言、自发语音）的场景下进行主题发现提供了新思路。 主要局限性是什么：模型性能依赖于预训练的文本和语音嵌入模型（GloVe, wav2vec2）以及声学码本的质量；论文中未详细讨论对语音中说话人、情感等信息的显式建模；实验对比的基线模型部分较为陈旧，未与最新的多模态或超球面主题模型进行对比。 🏗️ 模型架构 ST-HNTM的架构如图1所示，整体是一个变分自编码器（VAE）框架，其核心在于将文本和语音统一到超球面潜在空间中进行主题推断。 图1] 图1：ST-HNTM架构概览。编码器φ在超球面潜在空间上操作，特定模态的解码器γ_t和γ_s分别处理文本和语音。 输入表示： 文本：文档被表示为词袋（BoW）向量 x_i^{(t)}，并关联一个经ℓ2归一化（使其位于单位超球面上）的预训练词嵌入矩阵 W^{(t)}。 语音：音频信号首先通过预训练模型（wav2vec2）提取帧级嵌入，然后通过k-means聚类获得声学码本 W^{(s)}。每个音频被量化为声学词袋（BoAW）向量 x_i^{(s)}，其帧嵌入和码本向量同样经ℓ2归一化。 编码与推断： ...