语音对话系统

📄 Easy Turn: Integrating Acoustic and Linguistic Modalities for Robust Turn-Taking in Full-Duplex Spoken Dialogue Systems #语音对话系统 #多模态模型 #大语言模型 #数据集 #预训练 ✅ 7.0/10 | 前25% | #语音对话系统 | #多模态模型 | #大语言模型 #数据集 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Guojian Li（西北工业大学计算机学院，音频、语音与语言处理组） 通讯作者：Zhonghua Fu（西北工业大学计算机学院），Lei Xie（西北工业大学计算机学院） 作者列表： Guojian Li，Chengyou Wang，Hongfei Xue，Shuiyuan Wang，Dehui Gao，Zhonghua Fu，Lei Xie（西北工业大学计算机学院，音频、语音与语言处理组） Zihan Zhang，Yuke Lin，Wenjie Li，Longshuai Xiao（华为技术有限公司） 💡 毒舌点评 亮点：论文直击全双工对话系统中轮次检测“缺乏开源、数据稀缺”的痛点，不仅提出了一个性能优越的开源模型，还配套发布了超千小时的专项训练集，堪称“送数据送模型”的良心之作，对社区的实用价值很高。短板：模型架构本质上是Whisper和轻量LLM的常规组合，创新更多体现在工程化整合与ASR+检测的串联范式，理论突破有限；合成数据流程复杂，其与真实用户交互数据的分布差异可能影响模型在极端情况下的鲁棒性。 🔗 开源详情 代码：提供GitHub仓库链接：https://github.com/ASLP-lab/Easy-Turn 模型权重：论文声明模型权重将公开发布。 数据集：论文声明将开源Easy Turn trainset和testset。 Demo：论文未提及在线演示。 复现材料：论文提供了详细的训练数据处理流水线（图1）、两阶段训练策略、具体的学习率、批大小、epoch数、硬件环境（8x RTX 4090）以及推理配置（贪心搜索，温度1.0），复现信息较为充分。 引用的开源项目/模型：论文明确使用了以下开源工具/模型作为基线或组件：TEN Turn Detection， Smart Turn V2， Whisper， Qwen2.5系列， Wav2Vec2， Paraformer， CosyVoice 2， WeNet toolkit。此外，训练数据构建中使用了MagicData-RAMC， Emilia， AudioQA-1M等开源数据集。 📌 核心摘要 问题：在全双工语音对话系统中，需要一个鲁棒的轮次检测模块来判断用户何时说完、未说完、在回应或要求暂停，但现有开源方案或受限于单模态、或模型过大、或需要大量稀缺的全双工数据。 方法：提出Easy Turn，一个开源的模块化双模态（声学+语言学）轮次检测模型。它采用“ASR+轮次检测”范式，以Whisper为音频编码器，通过适配器连接轻量级的Qwen2.5-0.5B LLM，先生成语音转录文本，再融合声学与文本特征预测四种对话状态。同时发布了Easy Turn trainset，一个1145小时、覆盖四种状态的大规模训练数据集。 创新：主要创新在于：(1) 开源了首个支持四种对话状态、性能领先的轮次检测模型和配套数据集，填补了领域空白；(2) 采用“ASR+检测”范式有效融合声学与语言信息，避免了单模态的局限；(3) 通过模块化设计和轻量级LLM，在性能和效率间取得了平衡。 实验结果：在自建的Easy Turn测试集上，Easy Turn在四种状态（完整、不完整、回应、等待）上的准确率（96.33%， 97.67%， 91%， 98%）均显著优于现有开源模型TEN Turn Detection和Smart Turn V2。同时，模型参数量（850MB）、延迟（263ms）和内存占用（2559MB）处于可接受范围。消融实验表明，双模态融合及“ASR+检测”范式对性能提升至关重要（平均准确率从单模态的~86%提升至95.75%）。 模型 参数量(MB) ↓ 延迟(ms) 内存(MB) 完整(%) ↑ 不完整(%) 回应(%) 等待(%) Paraformer + TEN Turn Detection 7220 204 15419 86.67 89.3 - 91 Smart Turn V2 95 27 370 78.67 62 - - Easy Turn (Proposed) 850 263 2559 96.33 97.67 91 98 实际意义：为全双工语音对话研究提供了即插即用的开源工具和高质量数据，显著降低了研究门槛，有望加速相关技术从实验室走向产品应用。 主要局限性：模型在极端真实环境（如极高噪声、多人同时说话）下的鲁棒性尚未充分验证；训练数据中的合成部分可能无法完全覆盖所有自然交互场景；“ASR+检测”的串联设计可能带来一定延迟，且在ASR错误时可能影响检测性能。 🏗️ 模型架构 (注：此为论文描述的架构图，但无法确认其原始URL。上图链接来自论文引用的GitHub仓库，推测为论文中的图2) ...

📄 Enhancing Dialogue-Related Speech Tasks with Generated Spoken Dialogues #语音对话系统 #数据增强 #语音大模型 #说话人分离 #语音活动检测 ✅ 6.5/10 | 前25% | #语音对话系统 | #数据增强 | #语音大模型 #说话人分离 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Haitian Lu（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学） 通讯作者：Gaofeng Cheng（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学） 作者列表：Haitian Lu（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学）、Zhihao Bai（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学）、Yukun Liu（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学）、Xuyang Wang（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学）、Gaofeng Cheng（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学）、Yonghong Yan（中国科学院声学研究所语音声学与内容理解重点实验室；中国科学院大学） 💡 毒舌点评 这篇论文的亮点在于思路清晰，将“生成可控对话数据”这一上游能力与多个下游具体任务紧密结合，并系统验证了其作为数据增强工具的实用价值，尤其是在改善VAD的对话级错误率（CDER）上效果显著。短板在于，其“增强”的根基——生成模型SLIDE是前作，本文的增量贡献更多是应用层面的实验验证；同时，生成数据的说话人多样性不足（仅120人）导致EEND的说话人错误率居高不下���暴露了当前生成对话数据用于复杂说话人场景时的核心瓶颈。 🔗 开源详情 代码：论文中未提及任何代码仓库链接。 模型权重：未提及任何已公开的模型权重（包括生成模型SLIDE或下游任务模型）。 数据集：论文中使用的Fisher和CALLHOME是标准公开数据集。但本文生成的对话数据集未公开，也未说明获取方式。 Demo：未提供在线演示。 复现材料：论文描述了下游任务的模型架构（如CRDNN， ResNet-LSTM）和使用的工具包（SpeechBrain， EEND官方工具），但未提供训练超参数配置、检查点或详细的复现说明。对于核心的生成对话部分，未提供任何复现材料。 论文中引用的开源项目：SpeechBrain， wav2vec2， EEND官方工具包， pyannote.audio， Silero VAD， CDER_Metric toolkit。 开源计划：论文中未提及任何开源计划。 📌 核心摘要 解决的问题：大语言模型（LLM）和语音语言模型（SLM）能生成自然的对话语音，但生成的语音在文本-语音一致性、精确的时间戳获取以及保持自然对话动态（如韵律、重叠）方面存在挑战，限制了其作为高质量数据增强资源在下游任务中的应用。 方法核心：基于SLIDE框架，扩展生成带有精确转录和话语时间戳的双通道语音对话。通过从模型预测的音素时长中解析出连续的语音片段边界，获得精确的监督信号。随后，将这些生成的对话数据以多种策略（单独使用、与真实数据混合、预训练后微调）应用于四个下游任务：自动语音识别（ASR）、端到端神经说话人分离（EEND）、语音活动检测（VAD）和重叠语音检测（OSD）。 创新点：相比于直接使用真实数据或传统仿真数据，本文提出的方法生成的对话兼具自然对话动态和准确的标注（文本与时间戳）。它不是提出一个新的生成模型，而是系统地探索和验证了可控生成对话数据作为通用数据增强方案的潜力和具体应用方法。 主要实验结果：在Fisher和CALLHOME数据集上的实验表明： ASR：使用100小时真实数据+1600小时生成数据进行预训练-微调后，WER为14.31%，优于仅使用1600小时真实数据的15.20%。 VAD：仅用400小时生成数据训练的模型，CDER（对话级错误率）为34.4%，相比仅用真实数据的最佳结果48.1%有28.5%的相对改进。 OSD：结合1600小时真实数据与1600小时生成数据，F1分数达到65.4%，优于仅用1600小时真实数据的62.0%。 EEND：生成数据在MS+FA（漏检与误检）指标上表现良好，但由于生成对话仅包含120位说话人，导致说话人错误率较高，整体DER提升有限。 具体实验结果表格如下： 表1：ASR性能（Fisher数据集） ...

📄 Human-1 by Josh Talks: A Full-Duplex Conversational Modeling Framework in Hindi using Real-World Conversations #语音对话系统 #迁移学习 #多语言 #语音大模型 #数据集 ✅ 7.5/10 | 前50% | #语音对话系统 | #迁移学习 | #多语言 #语音大模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Bhaskar Singh (JoshTalks) 通讯作者：未说明 作者列表：Bhaskar Singh (JoshTalks)、Shobhit Banga (JoshTalks)、Pranav Sharma (JoshTalks) 💡 毒舌点评 亮点：论文首次为印地语构建了开源、可复现的全双工对话系统，其核心贡献在于收集并利用了一个大规模（2.6万小时）、高质量的真实对话立体声数据集，这直接解决了该领域从零到一的“冷启动”数据难题，为后续所有印度语言的研究奠定了基础。短板：尽管声称“开放”，但论文未公开模型权重、代码或数据集，极大地限制了其可复现性和社区影响力；同时，实验部分缺少与其它基线模型（如Turn-based模型）的直接对比，使得对全双工架构优势的论证不够充分。 📌 核心摘要 解决的问题：目前，全双工语音对话系统（能够模拟打断、重叠等自然对话行为）的研究几乎完全集中在英语上，对于拥有数亿使用者的印地语等印度语言存在巨大空白。构建此类系统面临三大挑战：现有架构的英文分词器不适用于天城体文字、替换分词器需重新初始化参数、以及缺乏大规模真实对话立体声训练数据。 方法核心：论文采用“迁移学习+领域适配”策略。核心架构是基于英文的Moshi模型，但替换其英文SentencePiece分词器为印地语分词器，并重新初始化了所有与文本词汇相关的参数。训练冻结了Mimi神经音频编解码器（验证其对印地语有足够泛化能力），仅对RQ-Transformer进行两阶段训练：先在2.6万小时数据上预训练，再在精选的约1000小时数据上微调。 新在哪里：与已有工作相比，本文是首个针对印地语（及印度语言）的全双工对话系统开源框架；其关键创新在于收集并利用了规模巨大、质量可控的真实对话立体声数据集（26,000小时），而非使用朗读语音或合成数据；同时提出了适配预训练模型的“部分重训练”训练方案。 主要实验结果： 编解码质量：冻结的Mimi编解码器在印地语上PESQ为2.55±0.37，STOI为0.878±0.027，表明语音可懂度高（见表2）。 语言流畅度：生成语音的印地语困惑度（PPL）在温度τ=0.8时为356.9，高于真实语音的237.1，但优于更高温度下的结果（表3）。 人类评估：130位母语者评估显示，模型生成语音的自然度评分为4.10（人类为4.55），清晰度为3.04（人类为4.05）。在成对比较中，66.9%的情况被评为与人类无差异，表明质量接近人类水平（表4）。但在“上下文恰当性”（53%）和“回复完整性”（42%）上仍有明显差距。 对话轮次动态：分析表明，温度τ=0.9时生成的对话轮次统计（如间歇、停顿、重叠时长）与真实对话最接近（表5）。 模型 τ 自然度 (5分制) 清晰度 (5分制) 偏好 (人/模型/平局) 人类式互动通过率 恰当性通过率 完整性通过率 Ground-truth - 4.55 4.05 - - - - Human-1 - 4.10 3.04 30.0% / 3.1% / 66.9% ≈85% ≈53% ≈42% 实际意义：该工作为印地语乃至其他印度语言的实时、自然全双工对话系统铺平了道路，证明了在缺乏此类数据时，收集高质量真实对话数据是最关键的突破点，对开发符合当地语言习惯的AI助手具有重要价值。 主要局限性：1) 开源缺失：未公开代码、模型和数据，削弱了论文的影响力和可复现性。2) 数据同质性：虽然数据量大，但主要来自电话对话场景，可能无法完全代表所有印地语对话场景（如多人讨论、嘈杂环境）。3) 基线对比不足：未与简单的“轮流说话”模型等进行对比，难以量化全双工架构带来的具体增益。4) 长程上下文能力：人类评估显示模型在维持对话连贯性和生成完整回复方面存在不足。 🏗️ 模型架构 论文的模型架构直接复用了Moshi，一个端到端的全双工语音对话模型。其核心流程和组件如下： ...

ICASSP 2026 - 语音对话系统 共 10 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 DOMA: Leveraging Diffusion Language Models with Adaptive Pri 8.5分 前25% 🥈 PersonaPlex: Voice and Role Control for Full Duplex Conversa 8.5分 前25% 🥉 UTI-LLM: A Personalized Articulatory-Speech Therapy Assistan 7.5分 前25% 4. A Dataset of Robot-Patient and Doctor-Patient Medical Dialog 7.5分 前25% 5. Game-Time: Evaluating Temporal Dynamics in Spoken Language M 7.5分 前25% 6. The Role of Prosodic and Lexical Cues in Turn-Taking with Se 7.5分 前25% 7. Vocalnet-M2: Advancing Low-Latency Spoken Language Modeling 7.5分 前25% 8. Easy Turn: Integrating Acoustic and Linguistic Modalities fo 7.0分 前25% 9. Still Thinking or Stopped Talking? Dialogue Silence Intentio 6.5分 前25% 10. Enhancing Dialogue-Related Speech Tasks with Generated Spoke 6.5分 前25% 📋 论文详情 🥇 DOMA: Leveraging Diffusion Language Models with Adaptive Prior for Intent Classification and Slot Filling 🔥 8.5/10 | 前25% | #语音对话系统 | #扩散模型 | #意图识别 #槽填充 ...

📄 PersonaPlex: Voice and Role Control for Full Duplex Conversational Speech Models #语音对话系统 #语音大模型 #语音克隆 #零样本 🔥 8.5/10 | 前25% | #语音对话系统 | #语音大模型 | #语音克隆 #零样本 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Rajarshi Roy (NVIDIA) 通讯作者：未说明 作者列表：Rajarshi Roy (NVIDIA), Jonathan Raiman (NVIDIA), Sang-gil Lee (NVIDIA), Teodor-Dumitru Ene (NVIDIA), Robert Kirby (NVIDIA), Sungwon Kim (NVIDIA), Jaehyeon Kim (NVIDIA), Bryan Catanzaro (NVIDIA) 💡 毒舌点评 亮点：这是首个在全双工语音对话模型中实现实用级零样本语音克隆和细粒度角色控制的开源工作，其提出的Service-Duplex-Bench为评估此类系统提供了更贴近真实应用的标尺。短板：模型的全部能力均基于大规模合成数据训练，虽然实验验证了有效性，但其在复杂、真实世界交互中的泛化能力和“涌现”行为尚待检验；且合成对话是否覆盖了足够多样的真实交互模式，文中未做深入讨论。 ...

📄 Step-Audio-R1.5 Technical Report #语音对话系统 #强化学习 #语音大模型 #基准测试 #模型评估 🔥 8.0/10 | 前25% | #语音对话系统 | #强化学习 | #语音大模型 #基准测试 | arxiv 学术质量 6.2/7 | 选题价值 1.7/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yuxin Zhang（StepFun， 上海交通大学） 通讯作者：Fei Tian（StepFun） 作者列表：Yuxin Zhang（StepFun， 上海交通大学）， Xiangyu Tony Zhang（新南威尔士大学）， Daijiao Liu（StepFun， 新南威尔士大学）， Fei Tian（StepFun）， Yayue Deng（StepFun）， Jun Chen（StepFun）， Qingjian Lin（StepFun）， Haoyang Zhang（StepFun， 南洋理工大学）， Yuxin Li（StepFun， 南洋理工大学）， Jinglan Gong（StepFun）， Yechang Huang（StepFun）， Liang Zhao（StepFun）， Chengyuan Yao（StepFun）， Hexin Liu（南洋理工大学）， Eng Siong Chng（南洋理工大学）， Xuerui Yang（StepFun）， Gang Yu（StepFun）， Xiangyu Zhang（StepFun）， Daxin Jiang（StepFun） 💡 毒舌点评 论文精准地指出了当前音频模型训练中“RLVR导致机械感”的核心痛点，并给出了一个优雅且实验验证有效的解决方案（引入RLHF）。但作为一份技术报告，其最大的短板恰恰在于“技术”细节的不透明：训练数据规模与构成、奖励模型的具体架构与训练细节、RLHF阶段的采样与优化超参数等关键复现信息均付之阙如，这与其宣称的“技术报告”定位略有不符，使得外部研究者难以跟进。 ...

📄 Still Thinking or Stopped Talking? Dialogue Silence Intention Classification Using Multimodal Large Language Model #语音对话系统 #多模态模型 #数据集 #大语言模型 ✅ 6.5/10 | 前25% | #语音对话系统 | #多模态模型 | #数据集 #大语言模型 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Muyun Wu（京都大学信息学院） 通讯作者：未说明 作者列表：Muyun Wu（京都大学信息学院）、Zi Haur Pang（京都大学信息学院）、Koji Inoue（京都大学信息学院）、Tatsuya Kawahara（京都大学信息学院） 💡 毒舌点评 亮点：论文精准地抓住了对话系统中一个被长期忽视但至关重要的细节——沉默的意图解读，并为此构建了首个专门的多模态数据集，这种对具体问题的深入挖掘值得肯定。 短板：模型更像是现有成熟组件（Whisper， SigLip2， Q-former， Qwen3）的“乐高式”拼装，在多模态融合的核心技术上缺乏原创性。数据集规模相对较小（仅63名说话人），且仅针对日语，结论的普适性存疑。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：论文详细描述了数据集构建方法，但未明确说明是否会公开发布该数据集。 Demo：论文中未提及在线演示。 复现材料：论文提供了模型架构、训练策略（优化器、学习率、LoRA参数）、推理设置等复现所需的关键框架信息，但缺少损失函数、完整超参、训练日志等细节。 论文中引用的开源项目：CLIP [13], SigLip2 [14], AV-HuBERT [15], Marlin [16], Whisper, HuBERT, BLIP-2/Q-former [17], MMS-LlaMA [18], VideoLLaMA2/STPConnector [12], Qwen3, Llama3.2, Perceiver IO [19], Adam [20], LoRA [21]。 总结：论文中未提及明确的开源计划。 📌 核心摘要 本文旨在解决对话式语音系统（SDS）中用户长暂停（沉默）意图不明确的问题，即无法判断用户是在“思考”还是已“停止发言”。方法核心是将此问题重新定义为多模态（音频-视频）分类任务，并构建了一个包含63名日语母语者与“倾听系统”交互的专用数据集，对2秒以上的静音区间基于前后文语言线索、视觉线索和后续行为进行标注。基于此数据集，作者提出了一种名为SilenceLLM的多模态大语言模型架构，该架构结合了视觉编码器（评估了CLIP， SigLip2， AV-HuBERT， Marlin）、音频编码器（Whisper， HuBERT）、AV Q-former和LLM解码器。与已有方法相比，其新意在于专门针对沉默理解设计了数据集和端到端的分类框架，并在多个组件组合上进行了系统性对比。实验表明，最优配置（Qwen3-1.7B + SigLip2 (带STPConnector) + Whisper）达到了0.857的宏F1分数，显著优于单模态基线（音频0.662， 视频0.392），且与通用多模态LLM（如MMS-LlaMA）相比也有显著提升（p<0.05）。这项工作的实际意义在于为提升对话系统的交互自然性提供了关键模块和评估数据集。主要局限性是数据集规模较小、语种单一，且模型的创新性更多体现在系统集成而非底层算法突破。 ...

📄 The Role of Prosodic and Lexical Cues in Turn-Taking with Self-Supervised Speech Representations #语音对话系统 #自监督学习 #语音活动检测 #语音表示学习 ✅ 7.5/10 | 前25% | #语音对话系统 | #自监督学习 | #语音活动检测 #语音表示学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sam O’Connor Russell（都柏林三一学院工程学院） 通讯作者：未说明 作者列表：Sam O’Connor Russell（都柏林三一学院工程学院）、Delphine Charuau（都柏林三一学院工程学院）、Naomi Harte（都柏林三一学院工程学院） 💡 毒舌点评 本文巧妙地将神经科学中的“声音相关噪声”范式移植到语音轮次预测的可解释性分析中，像做手术一样干净地分离了韵律和词汇线索，方法论上值得称赞。然而，结论“仅韵律就够了”可能过于乐观，毕竟实验中的“韵律匹配噪声”在真实世界的噪声环境下难以复现，且模型在复杂对话场景中是否仍能如此可靠地依赖单一线索存疑。 🔗 开源详情 代码：论文中提供了代码仓库链接：github.com/russelsa/noise_generation_ICASSP-。 模型权重：未提及是否公开预训练好的VAP模型或S3R权重。 数据集：使用CANDOR语料库，论文未提及是否提供处理后的数据版本或获取方式。 Demo：未提及。 复现材料：论文详细说明了训练超参数（学习率、batch size、epoch数）、vocoder参数、评估指标和划分方法，提供了充分的复现细节。 引用的开源项目：主要依赖WORLD vocoder、Whisper（用于计算WER）、CPC和wav2vec 2.0预训练模型。 📌 核心摘要 要解决的问题：基于自监督语音表示（S3R）的轮次预测模型性能优异，但其决策依赖于语音中的哪些线索（韵律 vs. 词汇）尚不清楚，这限制了模型的可解释性、隐私保护和轻量化潜力。 方法核心：引入一种基于WORLD vocoder的控制方法，能够干净地生成仅保留韵律（去除词汇可懂度）或仅保留词汇（平滑韵律）的语音，用于系统性地探究S3R模型（主要是VAP模型）的线索依赖关系。 与已有方法相比新在哪里：不同于以往通过简单滤波或添加背景噪声（会同时破坏多种线索）的研究，该方法能独立、可控地操纵语音的韵律和词汇成分，提供了更干净的实验条件。研究范围从单一S3R（CPC）扩展到了wav2vec2.0，增强了结论的普适性。 主要实验结果： 在纯净语音上训练的VAP模型，在测试时面对仅保留韵律的噪声语音（WER>100%），仍能保持较高的轮次预测准确率（S/H-Pred平衡准确率≈70%，见表2），接近纯净语音性能的91%（图4）。 相反，去除韵律（平滑音高和强度）后，性能虽下降但仍显著高于随机水平（表2）。 当一种线索被破坏时，模型无需重新训练即可利用另一种线索，证明两种线索在S3R编码中相互独立（图2）。这一结论在wav2vec2.0前端上同样成立。 实际意义：该发现为设计轻量化、仅依赖韵律的轮次预测模型提供了理论支持，此类模型具有计算高效和保护语音隐私（去除可识别词汇内容）的双重优势。 主要局限性：研究仅在英语对话语料库（CANDOR）上进行，跨语言泛化性未验证。所使用的“韵律匹配噪声”是一种受控实验条件，与真实世界的噪声干扰存在差异。 🏗️ 模型架构 论文主要分析的对象是语音活动投影（Voice Activity Projection， VAP）模型，一个基于S3R的轮次预测模型。其架构如下： ...

📄 UTI-LLM: A Personalized Articulatory-Speech Therapy Assistance System Based on Multimodal Large Language Model #语音对话系统 #多模态模型 #医疗应用 #数据集 ✅ 7.5/10 | 前25% | #语音对话系统 | #多模态模型 | #医疗应用 #数据集 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：未说明（论文首页列有多个作者，但未明确标注第一作者。根据作者列表顺序推测为Yudong Yang或Xiaokang Liu，但不明确） 通讯作者：Nan Yan, Lan Wang（论文中明确标注为“Corresponding authors”） 作者列表： Yudong Yang (1, 2) Xiaokang Liu (1) Shaofeng Zhao (3) Rongfeng Su (1) Nan Yan (1, 2, *) Lan Wang (1, 2, *) 单位1：Shenzhen Institutes of Advanced Technology, Chinese Academy of Sciences, China (中国科学院深圳先进技术研究院) 单位2：Key Laboratory of Biomedical Imaging Science and System, Chinese Academy of Sciences, China (中国科学院生物医学成像科学与系统重点实验室) 单位3：Department of Rehabilitation Medicine, The Eighth Affiliated Hospital of Sun Yat-sen University, China (中山大学附属第八医院康复医学科) 💡 毒舌点评 亮点：系统性地解决了从领域数据构建（创新性的双智能体协作生成）、模型设计（针对UTI特性的时空特征融合）到多维度评估的完整流程，是一套“交钥匙”式的解决方案，对于想在医疗垂直领域应用MLLM的研究者有很好的示范作用。 短板：核心的“多模态融合”方法（图2）实质上是将语音特征与UTI的时空特征简单拼接后输入LLM，缺乏更精巧的跨模态交互机制；更重要的是，整个系统的“个性化”和“治疗辅助”效果目前仅通过离线数据集上的分析准确率和文本生成质量来间接证明，缺乏真实医患交互场景的验证和用户研究，离临床实用尚有距离。 ...

📄 Vocalnet-M2: Advancing Low-Latency Spoken Language Modeling via Integrated Multi-Codebook Tokenization and Multi-Token Prediction #语音对话系统 #多令牌预测 #多码本分词 #语音大模型 ✅ 7.5/10 | 前25% | #语音对话系统 | #多令牌预测 | #多码本分词 #语音大模型 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yuhao Wang (上海交通大学，蚂蚁集团) 通讯作者：Yu Wang (上海交通大学) 作者列表：Yuhao Wang (上海交通大学，蚂蚁集团)、Ziyang Cheng (上海交通大学)、Heyang Liu (上海交通大学，蚂蚁集团)、Ronghua Wu (蚂蚁集团)、Qunshan Gu (蚂蚁集团)、Yanfeng Wang (上海交通大学)、Yu Wang (上海交通大学) 💡 毒舌点评 论文直击当前语音大模型在实时交互中的“阿喀琉斯之踵”——延迟，并通过多码本直出和MTP策略给出了有效缓解方案，工程实用性值得肯定。然而，多码本学习的“高门槛”特性意味着它严重依赖高质量、大规规模的训练数据，这可能成为其在资源受限场景下落地的“新瓶颈”。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：提到了使用Emilia、VoiceAssistant、Ultrachat等数据集以及自己合成的v1/v2数据，但未说明是否公开或如何获取合成部分。 Demo：未提及。 复现材料：提供了部分训练细节（如数据来源、模型初始化、三阶段训练策略），但关键超参数（如学习率、batch size、优化器、训练步数）和硬件信息缺失，不足以支撑完整复现。 论文中引用的开源项目：引用了Whisper、Qwen3-8B、CosyVoice2、Emilia等开源模型/数据集。 📌 核心摘要 本文旨在解决当前端到端语音语言模型因自回归生成和依赖流匹配模型导致的响应延迟过高问题。方法核心是提出VocalNet-M2，一个采用“思考者-说话者”架构的低延迟模态对齐SLM。其创新在于：1）集成多码本分词器，直接生成包含丰富声学信息的8码本语音令牌，从而省去了高延迟的流匹配声学重建模型；2）设计了针对多码本生成的多令牌预测策略，在单次推理步骤中预测多个未来令牌，进一步提升效率并改善性能。主要实验结果表明，VocalNet-M2在保持与主流SLM竞争性的文本与语音质量（如AlpacaEval 7.29， WER 6.07）的同时，将首音频块延迟从基线系统的约725毫秒大幅降低至约349毫秒，实现了约2倍的推理加速。该工作的实际意义在于为构建低延迟、高响应的实时语音交互系统提供了有价值的架构设计和对比分析。主要局限性在于，学习多码本语音令牌比单码本令牌更困难，对训练数据的质量和数量要求更高。 ...