Train Short, Infer Long: Speech-LLM Enables Zero-Shot Streamable Joint ASR and Diarization on Long Audio

📄 Train Short, Infer Long: Speech-LLM Enables Zero-Shot Streamable Joint ASR and Diarization on Long Audio #语音识别 #说话人分离 #语音大模型 #端到端 #流式处理 🔥 9.0/10 | 前10% | #说话人分离 | #语音大模型 | #语音识别 #端到端 学术质量 7.0/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Mohan Shi(UCLA, Microsoft CoreAI) 通讯作者:未说明 作者列表:Mohan Shi(UCLA, Microsoft CoreAI)、Xiong Xiao(Microsoft CoreAI)、Ruchao Fan(Microsoft CoreAI)、Shaoshi Ling(Microsoft CoreAI)、Jinyu Li(Microsoft CoreAI) 💡 毒舌点评 亮点在于“Train Short, Infer Long”的思路极其巧妙,通过设计说话人提示缓存(SPC)机制,成功将短音频训练的模型能力零样本迁移到长音频的流式推理场景,解决了长音频联合任务中棘手的说话人标签排列问题。短板在于,虽然实验全面,但论文未对SPC在极端动态说话人场景(如人数快速增减)下的鲁棒性进行深入探讨和测试。 🔗 开源详情 代码:论文中未提及代码链接或开源计划。 模型权重:未提及是否公开模型权重。 数据集:使用了多个公开数据集(AMI, ICSI, Fisher, VoxCeleb),但论文本身未发布新数据集。 Demo:未提及在线演示。 复现材料:论文提供了详细的训练设置(数据集构成、超参数、硬件、优化器等)和算法伪代码(Algorithm 1),为复现提供了关键信息。 论文中引用的开源项目:SpeechBrain(用于语言识别)、Silero VAD(用于VAD分块)、dvector提取器(基于Res2Net,具体实现未说明)。 📌 核心摘要 问题:联合自动语音识别(ASR)与说话人分离(“谁在什么时间说了什么”)在长音频上的流式处理是一个重大挑战,现有端到端模型通常局限于短音频,而处理长音频的级联系统存在错误传播问题。 方法核心:提出一个名为JEDIS-LLM的端到端语音大模型。该模型仅在短音频(≤20秒)上训练,但通过引入“说话人提示缓存(Speaker Prompt Cache, SPC)”及其在线更新机制,实现了在任意长音频上的分块流式推理,无需额外训练。 与已有方法的对比创新:a) 首次实现了仅用短音频训练即可在长音频上进行零样本流式联合ASR与分离;b) 设计了SPC机制,通过缓存和拼接历史说话人音频与文本作为LLM的提示,自然地维持了跨音频块的说话人一致性,无需后处理的全局聚类;c) 在训练时为语音编码器引入了“词级说话人监督”任务,增强了其说话人区分能力。 主要实验结果: 短音频(本地设置):在AMI和CH109测试集上,JEDIS-LLM在cpWER上显著超越了强基线Sortformer和Meta-Cat。 系统 AMI Test cpWER CH109 Full cpWER Internal Test cpWER Sortformer 26.71 21.45 - Meta-Cat 26.02 26.17 - JEDIS-LLM (Final) 23.13 19.46 18.14 长音频(全局设置):在CH109和Fisher长音频测试集上,流式JEDIS-LLM(使用SPC更新)全面超越了级联离线系统DiarizationLM。 系统 CH109 Test WDER/cpWER Fisher Test WDER/cpWER DiarizationLM (PaLM 2) 4.25 / 20.22 2.37 / 16.93 JEDIS-LLM (Offline+Clustering) 2.48 / 19.03 2.06 / 15.03 JEDIS-LLM (Streaming, SPC Update) 1.73 / 18.20 2.05 / 15.88 实际意义:该方法为会议记录、对话分析等实际应用提供了一个完全端到端、可流式处理长音频且性能更优的解决方案,避免了传统级联系统的复杂性和错误累积。 主要局限性:SPC的更新机制依赖于说话人向量相似度计算和启发式规则(如句子完整度),可能在说话人特征变化大或语音片段短时不够鲁棒;模型的长音频处理能力受限于固定的缓存大小和更新策略。 🏗️ 模型架构 JEDIS-LLM的整体架构基于Speech-LLM范式,并针对说话人分离任务进行了增强。其完整流程如下: ...

2026-04-29 · 更新于 2026-08-14 · 3 min · 454 words

VChangeCodec: An Ultra Low-Complexity Neural Speech Codec with Built-In Voice Changer for Customized Real-Time Communication

📄 VChangeCodec: An Ultra Low-Complexity Neural Speech Codec with Built-In Voice Changer for Customized Real-Time Communication #语音转换 #语音增强 #端到端 #流式处理 #实时处理 🔥 8.0/10 | 前25% | #语音转换 #语音增强 | #端到端 | #语音转换 #语音增强 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Xusheng Yang (⋆†) (北京大学深圳研究生院,超高清沉浸式媒体技术广东省重点实验室;ADSPLAB,电子与计算机工程学院) 通讯作者:Yuexian Zou (⋆†B) (北京大学深圳研究生院,超高清沉浸式媒体技术广东省重点实验室;ADSPLAB,电子与计算机工程学院) 作者列表: Xusheng Yang (北京大学深圳研究生院,超高清沉浸式媒体技术广东省重点实验室;ADSPLAB,电子与计算机工程学院) Wei Xiao (⋄) (腾讯天籁音频实验室) Bang Yang (‡) (鹏城实验室) Shidong Shang (⋄) (腾讯天籁音频实验室) Yuexian Zou (⋆†B) (北京大学深圳研究生院,超高清沉浸式媒体技术广东省重点实验室;ADSPLAB,电子与计算机工程学院) 💡 毒舌点评 本文提出的“编解码器内建变声器”架构确实是个聪明的集成创新,将语音转换从额外的级联模块变为编解码管道的一部分,从而将端到端延迟砍到了40ms,这对实时通信场景是实质性的提升。不过,论文在“超低复杂度”上做得更极致,但在“音质竞争力”和“变声效果竞争力”上更像是“足够好”而非“令人惊叹”,POLQA分数虽然不错但并未拉开与DAC等模型的差距,语音转换的自然度(N-MOS)也逊色于QuickVC。 ...

2026-04-29 · 更新于 2026-08-14 · 3 min · 460 words

VoXtream: Full-Stream Text-To-Speech With Extremely Low Latency

📄 VoXtream: Full-Stream Text-To-Speech With Extremely Low Latency #语音合成 #自回归模型 #流式处理 #零样本 🔥 8.5/10 | 前25% | #语音合成 | #自回归模型 | #流式处理 #零样本 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Nikita Torgashov(KTH皇家理工学院,语音、音乐与听觉系) 通讯作者:未说明 作者列表:Nikita Torgashov(KTH皇家理工学院,语音、音乐与听觉系)、Gustav Eje Henter(KTH皇家理工学院,语音、音乐与听觉系)、Gabriel Skantze(KTH皇家理工学院,语音、音乐与听觉系) 💡 毒舌点评 亮点:这篇论文最精妙的地方在于,它通过将文本编码器(Phoneme Transformer)设计为增量式,并限制了前瞻长度,巧妙地实现了“收到一个词就开口说”的极低延迟,同时利用单调对齐和分层预测保证了合成质量的连贯性。短板:尽管模型效率很高,但训练数据规模(9k小时)在当下这个“数据为王”的大模型时代只能算中等,这可能限制了其在超大规模、多语言或更复杂说话风格下的泛化能力上限,论文也承认了数据规模是未来工作之一。 🔗 开源详情 代码:提供代码仓库链接:https://herimor.github.io/voxtream 模型权重:论文中未明确提及是否公开训练好的VoXtream模型权重。仅提到引用了开源的CSM模型和ReDimNet。 数据集:使用了Emilia和HiFiTTS-2数据集,这两个都是公开数据集。但论文中未提供其预处理后的具体获取方式。 Demo:提供在线演示链接:https://herimor.github.io/voxtream 复现材料:论文给出了模型架构的详细描述、主要的训练超参数(学习率、batch size、优化器、epoch数)、硬件环境(A100 GPU)。但未提供完整的训练脚本、配置文件或检查点。 引用的开源项目:g2p(音素转换)、Mimi编解码器、Montreal Forced Aligner (MFA)、CSM模型、ReDimNet说话人编码器、Llama架构。 总体开源情况:论文提供了核心的推理代码和演示,但训练所需的完整复现材料(如预处理数据、详细训练配置、预训练模型权重)并未完全公开。 📌 核心摘要 问题:当前流式文本转语音(TTS)系统存在较高的初始延迟(从输入文本到发出第一个音素的时间),或需要复杂的多阶段流水线,影响了实时交互体验。 方法核心:提出VoXtream,一个完全自回归的零样本流式TTS模型。其核心是一个三层Transformer架构:(1) 增量音素Transformer(PT)逐步编码输入文本并允许有限前瞻;(2) 时间Transformer(TT)基于音素和过去音频预测语义令牌和时长令牌;(3) 深度Transformer(DT)基于前两者生成声学令牌。关键设计是基于“停留/切换”标志的单调音素对齐预测。 创新点:与先前工作相比,VoXtream首次实现了从接收到第一个词就开始生成语音的增量处理模式,无需等待整个句子或固定数量的未来词。它将文本编码、时序预测和声学生成解耦到三个专用模块中,平衡了延迟与质量。 实验结果:在公开流式TTS模型中达到了最低的首次分组延迟(FPL):102ms(使用torch.compile加速后)。在9k小时数据上训练,其质量(WER, SPK-SIM, UTMOS)可与甚至超越许多使用更大规模数据训练的非流式和流式基线模型。在主观MUSHRA评测中,其流式版本的自然度与部分非流式模型相当。在长文本流式场景下,其自然度显著优于CosyVoice2。 实际意义:为需要极低延迟响应的实时语音应用(如语音助手、同步翻译、对话AI)提供了一个高效且高质量的解决方案,推动了流式语音合成技术的实用化。 主要局限性:训练数据规模(9k小时)中等;在零样本说话人相似度上,仍低于使用更大规模数据和非自回归解码器(如流匹配)的顶级模型(如CosyVoice2);长文本流式合成的稳定性有待进一步验证。 🏗️ 模型架构 VoXtream的架构(见图1)旨在实现从文本流到音频流的端到端、低延迟转换。它由三个核心Transformer模块组成,数据流如下: ...

2026-04-29 · 更新于 2026-08-14 · 3 min · 482 words

WhisperPipe: A Resource-Efficient Streaming Architecture for Real-Time Automatic Speech Recognition

📄 WhisperPipe: A Resource-Efficient Streaming Architecture for Real-Time Automatic Speech Recognition #语音识别 #流式处理 #端到端 #实时处理 #低资源 ✅ 6.5/10 | 前50% | #语音识别 | #流式处理 | #端到端 #实时处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Erfan Ramezani(论文中未提及所属机构) 通讯作者:论文中未说明 作者列表:Erfan Ramezani(未说明),Mohammad Mahdi Giahi(未说明),Mohammad Erfan Zarabadipour(未说明),Amir Reza Yosefian(未说明),Hamid Ghadiri(未说明) 💡 毒舌点评 亮点:精准抓住了将Whisper这类离线大模型转为流式应用的核心痛点(内存与延迟),提出的动态缓冲和混合VAD方案有明确的工程价值,实验数据也显示了内存控制方面的显著改善。 短板:论文描述中的创新更多是系统层面的模块组合与优化,缺乏在核心识别模型本身的理论或架构突破;且2.5小时的测试集对于验证“多样性”和“长期稳定性”来说说服力有限。 🔗 开源详情 代码:论文中未提及代码仓库链接。 模型权重:未提及。 数据集:未提及。 Demo:未提及。 复现材料:未提及。 论文中引用的开源项目:论文中提及使用了“Silero VAD”,这是一个开源的语音活动检测模型。 总结:论文中未提及任何开源计划或材料。 📌 核心摘要 这篇论文旨在解决将大规模Transformer语音识别模型(如Whisper)应用于实时流式场景时,面临的准确率与计算效率(特别是内存占用)之间的根本矛盾。其核心方法是提出WhisperPipe,一个通过混合VAD、动态重叠缓冲和自适应处理策略来实现的流式架构,目标是在保证转录质量的同时,实现有界内存消耗和低延迟。与现有方法相比,其新在于系统性地将语音端点检测、上下文管理和计算调度三个环节进行联合优化,以平衡实时性与准确性。主要实验结果表明,在2.5小时数据上,WhisperPipe实现了89毫秒的中位端到端延迟,峰值GPU内存减少48%,平均GPU利用率降低80.9%,并在150分钟连续运行中内存使用保持稳定。该工作的实际意义在于为在边缘设备到云基础设施的各类资源受限环境中部署高质量实时ASR提供了可行的工程方案。主要局限性在于评估数据集的规模和多样性可能不足以全面代表所有真实场景,且论文未提供与其他主流流式ASR系统(如基于Conformer的流式模型)在相同基准下的全面对比。 🏗️ 模型架构 论文未提供WhisperPipe的详细架构图或模块化分解。根据摘要描述,其架构是一个针对流式处理的系统级设计,核心是在标准Whisper模型之上构建了一个预处理与调度层。 ...

2026-04-29 · 更新于 2026-08-14 · 1 min · 178 words

Hallo-Live: Real-Time Streaming Joint Audio-Video Avatar Generation with Asynchronous Dual-Stream and Human-Centric Preference Distillation

📄 Hallo-Live: Real-Time Streaming Joint Audio-Video Avatar Generation with Asynchronous Dual-Stream and Human-Centric Preference Distillation #音视频 #扩散模型 #知识蒸馏 #流式处理 #实时处理 🔥 8.5/10 | 前25% | #音视频 | #扩散模型 | #知识蒸馏 #流式处理 | arxiv 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者:Chunyu Li(上海创新研究院, 复旦大学) , Jiaye Li(复旦大学) *并列第一 通讯作者:Siyu Zhu(复旦大学) 作者列表: Chunyu Li(上海创新研究院, 复旦大学) Jiaye Li(复旦大学) Ruiqiao Mei(复旦大学) Haoyuan Xia(复旦大学, 中国科学技术大学) Hao Zhu(南京大学) Jingdong Wang(百度) Siyu Zhu(复旦大学) 💡 毒舌点评 亮点:论文精准瞄准了当前音视频数字人模型“慢”和“蒸馏后变糊”的两大痛点,用“未来扩展注意力”这个巧妙设计让模型“偷看”未来几帧音频来预判唇形,同时用多模态奖励加权的蒸馏方法“择优录取”,最终在H200上跑出了20 FPS、延迟不足1秒的惊人速度,且质量损失可控。短板:尽管速度飞起,但在同步性(Sync-C)和语音识别准确率(WER)等绝对指标上,依然能看到与教师模型Ovi的明显差距,而且论文并未与另一个强劲的实时竞争者OmniForcing进行正面比较,说服力稍打折扣。 ...

2026-04-28 · 更新于 2026-08-14 · 3 min · 491 words

MAGIC-TTS: Fine-Grained Controllable Speech Synthesis with Explicit Local Duration and Pause Control

📄 MAGIC-TTS: Fine-Grained Controllable Speech Synthesis with Explicit Local Duration and Pause Control #语音合成 #流匹配 #零样本 #可控合成 #流式处理 ✅ 7.0/10 | 前25% | #语音合成 | #流匹配 | #零样本 #可控合成 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Jialong Mai(华南理工大学) 通讯作者:Xiaofen Xing(华南理工大学) 作者列表:Jialong Mai(华南理工大学)、Xiaofen Xing(华南理工大学,通讯作者)、Xiangmin Xu(华南理工大学) 💡 毒舌点评 这篇论文精准地瞄准了现代TTS系统中一个被忽视但实际应用中很关键的痛点——缺乏token级别的精细时长和停顿控制,并为此设计了一套从数据准备到训练机制的系统性解决方案,实验也做得很扎实。其短板也很明显:为了获得这种控制能力,模型在无控制的“自发合成”模式下,语音识别错误率(WER/CER)有明显上升,这表明精细控制与生成自然度之间存在一个不容忽视的权衡,而且目前没有任何开源迹象。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开权重。 数据集:训练数据来源于Emilia子集,交叉验证后的高置信度子集(B@150)未说明是否公开。 Demo:未提供在线演示。 复现材料:论文给出了非常详细的训练细节(数据来源、规模、预处理、batch size、学习率、warmup、训练步数、硬件)和超参数配置,附录中也有额外分析,有助于复现。 论文中引用的开源项目:F5-TTS (骨干网络)、Stable-ts (时长标签)、MFA (交叉验证与评估)、Vocos (声码器)、Emilia (数据集)。 论文中未提及开源计划。 📌 核心摘要 解决的问题:现有的文本到语音(TTS)系统通常只能提供句子级的语速或时长控制,缺乏对每个token(音素或字符)内容发音时长和停顿时长的显式、精细控制能力,这限制了需要精确节奏控制的应用场景。 方法核心:提出了MAGIC-TTS,一种基于流匹配(Flow Matching)的零样本TTS模型。其核心是在文本表示中显式注入每个token的内容时长(d_i)和停顿时长(p_i)作为条件。通过精心设计的两阶段训练(大规模时长条件预训练+高置信度时长监督微调)、零值校正(使零时长输入不产生残差)和缺失控制鲁棒性训练(随机丢弃时长条件),使模型既能可靠地遵循时长指令,又能在无时长指令时保持自然合成。 与已有方法相比新在哪里:与现有提供全局语速或风格控制的系统不同,MAGIC-TTS是首个提供显式、token级内容时长和停顿控制的TTS模型。与一些将时长作为内部中间变量的系统不同,它将时长设计为外部可直接操控的高置信度条件,而非需要隐式推断的潜在变量。 主要实验结果: 在时长控制准确性上,提供显式时长条件后,内容时长MAE从36.88ms降至10.56ms,相关性从0.588提升至0.918;停顿MAE从18.92ms降至8.32ms(详见表1)。 在局部编辑基准测试中,模型能根据指令调整局部时长,例如将目标内容时长从170ms编辑为225ms后,实现均值为207.40ms(绝对偏差17.60ms)(详见表2)。 消融实验表明,零值校正和高置信度时长监督对提升内容时长控制精度至关重要(详见表3)。 关键权衡:在无控制模式下,与同等规模持续预训练的基线相比,最终模型的英文WER从1.994升至3.434,中文CER从1.772升至2.215(详见表7)。 实际意义:为需要精确节奏控制的语音生成场景(如导航提示、引导式朗读、无障碍辅助阅读代码/验证码)提供了解决方案,能够实现可复现的均匀节奏基线,并支持局部编辑。 主要局限性:获得精细控制能力的代价是无控制模式下的合成质量(清晰度)有所下降;评估依赖于MFA强制对齐,存在测量误差;论文未提及代码和模型的开源。 🏗️ 模型架构 MAGIC-TTS建立在非自回归的零样本TTS骨干网络(F5-TTS)之上,该骨干基于条件流匹配(Conditional Flow Matching)生成梅尔频谱图。 ...

2026-04-28 · 更新于 2026-08-14 · 2 min · 411 words

Hierarchical Policy Optimization for Simultaneous Translation of Unbounded Speech

📄 Hierarchical Policy Optimization for Simultaneous Translation of Unbounded Speech #语音翻译 #强化学习 #大语言模型 #多语言 #流式处理 ✅ 7.5/10 | 前25% | #语音翻译 | #强化学习 | #大语言模型 #多语言 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:未说明 通讯作者:未说明 作者列表:Siqi Ouyang(未说明)、Shuoyang Ding(未说明)、Oleksii Hrinchuk(未说明)、Vitaly Lavrukhin(未说明)、Brian Yan(未说明)、Boris Ginsburg��未说明)、Lei Li(未说明) 💡 毒舌点评 这篇论文精准地抓住了LLM应用于同声传译时“数据质量差”和“计算开销大”这两个落地痛点,并用一套设计精巧的后训练策略(HPO)给出了有效的解决方案,实验结果也足够亮眼。不过,其核心创新更多是针对特定问题的优化框架组合,而非提出一种全新的模型架构或学习范式,对“如何生成高质量合成数据”这一上游问题本身并未深入探索。 🔗 开源详情 代码:提供了代码仓库链接:https://github.com/owaski/HPO。 模型权重:论文中未提及公开的模型权重。 数据集:论文中未提及公开的数据集。 Demo:论文中未提及在线演示。 复现材料:论文提供了代码,可能包含训练脚本和配置,但具体的训练细节(如超参数)需查阅代码仓库或论文全文。 论文中引用的开源项目:未在摘要中明确列出。 📌 核心摘要 要解决什么问题:大语言模型(LLM)能显著提升同声传译(SST)质量,但计算开销巨大。现有通过将SST重构为多轮对话来复用KV缓存的方法,严重依赖高质量的监督微调(SFT)数据,而这类数据稀缺且合成方法难以保证质量。 方法核心是什么:提出分层策略优化(HPO)框架,用于后训练在不完美SFT数据上训练的模型。核心是引入一个分层奖励函数,同时优化翻译质量(使用COMET等指标)和延迟(如等待时间)这两个相互冲突的目标。 与已有方法相比新在哪里:不同于直接使用SFT或简单的强化学习微调,HPO通过分层奖励设计,更精细地平衡了质量与延迟。它不依赖完美的初始对话数据,而是通过后训练对现有模型进行优化,是一种更实用、鲁棒的训练范式。 主要实验结果如何:在英译中、德、日的任务上,HPO方法在1.5秒的平均延迟下,相比强基线取得了超过+7 COMET分数和+1.25 MetricX分数的显著提升。消融研究验证了不同质量奖励、分层奖励公式和分段策略的有效性。 实际意义是什么:该方法降低了部署高质量LLM-SST系统的门槛和成本,使得在资源受限或需要实时响应的场景下应用先进翻译模型成为可能,推动了SST技术的实用化。 主要局限性是什么:论文中未明确讨论。可能包括:对基础模型质量有一定依赖;分层奖励的设计需要针对具体任务进行调优;在极低延迟或极端语音条件下的表现有待进一步验证。 🏗️ 模型架构 论文的核心是训练框架而非全新的模型架构,它基于一个已有的、用于SST的LLM架构进行后训练优化。 ...

2026-04-24 · 更新于 2026-08-14 · 1 min · 178 words

FastTurn: Unifying Acoustic and Streaming Semantic Cues for Low-Latency and Robust Turn Detection

📄 FastTurn: Unifying Acoustic and Streaming Semantic Cues for Low-Latency and Robust Turn Detection #语音对话系统 #流式处理 #多任务学习 #大语言模型 #鲁棒性 🔥 8.0/10 | 前25% | #语音对话系统 | #流式处理 | #多任务学习 #大语言模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Chengyou Wang(Audio, Speech and Language Processing Group (ASLP@NPU)) 通讯作者:未说明 作者列表: Chengyou Wang(Audio, Speech and Language Processing Group (ASLP@NPU)) Hongfei Xue(Audio, Speech and Language Processing Group (ASLP@NPU)) Chunjiang He(Audio, Speech and Language Processing Group (ASLP@NPU)) Jingbin Hu(Audio, Speech and Language Processing Group (ASLP@NPU)) Shuiyuan Wang(Audio, Speech and Language Processing Group (ASLP@NPU)) Bo Wu(Audio, Speech and Language Processing Group (ASLP@NPU)) Yuyu Ji(Audio, Speech and Language Processing Group (ASLP@NPU)) Jimeng Zheng(Audio, Speech and Language Processing Group (ASLP@NPU)) Ruofei Chen(Audio, Speech and Language Processing Group (ASLP@NPU)) Zhou Zhu(Audio, Speech and Language Processing Group (ASLP@NPU)) Lei Xie(Audio, Speech and Language Processing Group (ASLP@NPU)) 注:作者列表后标注了所属机构“1 Audio, Speech and Language Processing Group (ASLP@NPU) 2 Shengwang 3 QualiaLabs”,但论文正文中未明确将每位作者与具体机构(2, 3)进行一一对应,因此统一按第一作者所在机构列出。 💡 毒舌点评 亮点:论文巧妙地通过“FastTurn-Cascaded -> FastTurn-Semantic -> FastTurn-Unified”的三阶段演进,清晰地展示了如何在低延迟(利用流式CTC)和高鲁棒性(融合声学特征)之间进行工程权衡,并发布了一个标注详实、贴近真实对话的测试集,这对该领域的研究很有价值。 短板:核心创新更多是现有技术(CTC, LLM, Conformer)的系统集成和训练策略设计,而非提出全新的模型架构或理论;此外,论文在英文数据上的效果(表3)并未超越已有基线(Para.+Ten Turn),显示其优势可能更集中于中文场景或特定测试集。 ...

2026-04-23 · 更新于 2026-08-14 · 2 min · 302 words

Reducing the Offline-Streaming Gap for Unified ASR Transducer with Consistency Regularization

📄 Reducing the Offline-Streaming Gap for Unified ASR Transducer with Consistency Regularization #语音识别 #端到端 #流式处理 #统一音频模型 #模型评估 ✅ 7.5/10 | 前25% | #语音识别 | #端到端 | #流式处理 #统一音频模型 | arxiv 学术质量 7.5/7 | 选题价值 0.8/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者:Andrei Andrusenko (NVIDIA, Armenia) 通讯作者:未说明 作者列表: Andrei Andrusenko (NVIDIA, Armenia) Vladimir Bataev (NVIDIA, Armenia) Lilit Grigoryan (NVIDIA, Armenia) Nune Tadevosyan (NVIDIA, Armenia) Vitaly Lavrukhin (NVIDIA, Armenia) Boris Ginsburg (NVIDIA, USA) 💡 毒舌点评 亮点:MCR-RNNT正则化方法设计巧妙,通过强制离线和流式模式在RNNT联合网络输出层面保持一致,有效缓解了低延迟下的性能崩塌,且其实现的Triton内核保证了训练效率。短板:尽管在多个延迟点上取得了SOTA,但在极端低延迟(如0.16s)场景下,统一模型仍略逊于专门为流式优化的基线,表明“统一”与“极致性能”之间仍存在根本性张力。 ...

2026-04-23 · 更新于 2026-08-14 · 2 min · 231 words

Towards Streaming Target Speaker Extraction via Chunk-wise Interleaved Splicing of Autoregressive Language Model

📄 Towards Streaming Target Speaker Extraction via Chunk-wise Interleaved Splicing of Autoregressive Language Model #语音分离 #自回归模型 #流式处理 #实时处理 #语音大模型 🔥 8.5/10 | 前25% | #语音分离 | #自回归模型 | #流式处理 #实时处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Shuhai Peng (1) 通讯作者:Zhiyong Wu (1,†) 作者列表: Shuhai Peng (1) Hui Lu (2) Jinjiang Liu (1) Liyang Chen (1) Guiping Zhong (3) Jiakui Li (3) Huimeng Wang (2) Haiyun Li (1) Liang Cao (1) Shiyin Kang (3) Zhiyong Wu (1,†) 机构信息:论文中未明确给出机构1、2、3的具体名称。根据作者上标标注,作者分属三个不同机构。 💡 毒舌点评 这篇论文的亮点在于首次将自回归生成模型成功适配到流式目标说话人提取任务中,并通过“分块交错拼接”这一工程上优雅的设计解决了训练与推理的不匹配问题,实现了100%的推理稳定性,且性能在低延迟下超越了传统判别式模型。然而,其短板也十分明显:所有实验均在单一的Libri2Mix数据集上进行,对于更复杂、噪声更多样的真实场景(如远场、强混响)的泛化能力未得到验证,这使得其“超越离线基线”的结论显得有些封闭和乐观。 ...

2026-04-23 · 更新于 2026-08-14 · 2 min · 316 words