流式处理

📄 Real-Time Streaming MEL Vocoding with Generative Flow Matching #语音合成 #流匹配 #流式处理 #实时处理 #信号处理 ✅ 7.5/10 | 前25% | #语音合成 | #流匹配 | #流式处理 #实时处理 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 1 | 置信度 高 👥 作者与机构 第一作者：Simon Welker (汉堡大学信息系信号处理组) 通讯作者：未说明 作者列表：Simon Welker (汉堡大学信息系信号处理组)、Tal Peer (汉堡大学信息系信号处理组)、Timo Gerkmann (汉堡大学信息系信号处理组) 💡 毒舌点评 本文成功地将前沿的生成式流匹配模型“塞”进了实时流式处理的严苛约束里，并拿出了一套从DNN架构到推理缓存的完整解决方案，这工程落地能力值得肯定。然而，其核心贡献在于优化而非范式革命，48ms的总延迟虽比扩散缓冲方案短得多，但对于追求极致低延迟的实时交互（如实时游戏语音）来说，可能仍非最优解。 📌 核心摘要 要解决什么问题：解决将梅尔频谱图实时流式地转换为高质量波形（即Mel声码）的问题，这是许多文本到语音（TTS）系统的关键环节，尤其适用于需要自然、实时交互的场景。 方法核心是什么：结合了基于生成流匹配的先驱工作（DiffPhase）和FreeV中利用梅尔滤波器伪逆算子初始化的思想，提出了MelFlow。核心是设计了一个帧因果（frame-causal）的生成式DNN，并配套一个无需增加额外算法延迟的高效缓存推理方案，实现了流式处理。 与已有方法相比新在哪里：据作者所知，这是首次探索基于扩散/流模型的流式Mel声码。与HiFi-GAN等非流式生成模型相比，它实现了实时流式处理能力；与传统的Diffusion Buffer方案相比，它实现了更低的算法延迟（32ms窗+16ms跳=48ms）。其提出的缓存推理方案是实现高效流式扩散/流推理的关键创新。 主要实验结果如何：在EARS-WHAM v2和LibriTTS数据集上，MelFlow（N=5步）在PESQ（4.12/3.97）和SI-SDR（-8.8/-14.5）等指标上显著优于16kHz HiFi-GAN（2.99/3.03， -29.9/-25.8）等强基线，同时保持了有竞争力的非侵入式质量指标。其N=25步版本（非流式）进一步提升了性能，接近或超越所有基线。在NVIDIA RTX 4080 Laptop GPU上，处理单帧的时间为 N×2.71ms，N=5时满足16ms帧移的实时要求。 实际意义是什么：为构建低延迟、高质量的实时对话式TTS系统提供了一个关键的流式声码器组件。其开源的代码和模型检查点将促进社区在实时生成式语音处理方面的研究与应用。 主要局限性是什么：模型参数量较大（27.9M），可能对边缘部署构成挑战；尽管实现了实时流式，但其48ms的总延迟仍然高于一些传统非生成式声码器；在非侵入式指标（如LSD， MCD）上并非最优，表明其在频谱精细结构恢复上可能与特定任务优化的模型有差距。 🏗️ 模型架构 MelFlow的整体流程是一个“生成式增强”过程： ...

📄 SAASDNet: An EEG-Based Streaming Auditory Attention Switch Decoding Network for Self-Initiated Attention Switching in Mixed Speech #脑机接口 #端到端 #流式处理 #数据集 #预训练 🔥 8.0/10 | 前25% | #脑机接口 | #端到端 | #流式处理 #数据集 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Yuting Ding（南方科技大学电子与电气工程系） 通讯作者：Fei Chen（南方科技大学电子与电气工程系） 作者列表：Yuting Ding（南方科技大学电子与电气工程系），Siyu Yu（南方科技大学电子与电气工程系），Ximin Chen（南方科技大学电子与电气工程系），Xuefei Wang（南方科技大学电子与电气工程系），Yueting Ban（南方科技大学电子与电气工程系），Fei Chen（南方科技大学电子与电气工程系） 💡 毒舌点评 亮点：论文抓住了一个非常实际且尚未被充分建模的痛点——在无提示线索、无空间分离的混合语音中进行自发起的注意力切换解码，其构建的MS-AASD数据集和提出的流式解码框架（SAASDNet）为这个更具生态效度的场景提供了首个系统性基准。短板：SAASDNet的架构（多尺度卷积+Transformer+门控循环）在脑电信号建模中已属常见组合，其核心创新点“稳定性感知门控”依赖的“置信度”和“波动性”指标设计相对启发式，缺乏更深入的理论或神经机制支撑，模型整体的“新颖性”相较于其“工程整合性”稍弱。 📌 核心摘要 问题：现有的EEG听觉注意力切换解码（AASD）范式大多依赖外部提示线索（如蜂鸣声）和空间化音频，无法捕捉自然状态下由听者自发发起的注意力切换，且可能引入非听觉伪迹。 方法核心：提出一个新的混合语音AASD数据集（MS-AASD）和一个端到端的流式解码网络SAASDNet。SAASDNet包含三个核心组件：多频带多分辨率聚合EEG编码器（MMAEnc）、简单的语音编码器，以及流式稳定性感知门控（StreamSAG）单元。 创新点：1）新范式与新数据集：首次构建支持自发起切换、无空间线索的混合语音EEG数据集MS-AASD。2）针对性架构设计：MMAEnc通过多尺度时域卷积和自适应频带聚合来应对EEG的非平稳性；StreamSAG单元利用说话人分类的置信度和短期波动性作为稳定性分数，自适应地加权历史信息，避免显式的切换点检测。 主要实验结果：在MS-AASD数据集上，使用wav2vec 2.0特征和1秒决策窗口时，SAASDNet的流式解码准确率达到83.6%，非流式准确率为79.9%。相比多种先进基线（DARNet, ListenNet等）和其自身的非流式版本（AASDNet）均有显著提升。消融实验证明了StreamSAG单元（特别是其中的置信度和波动性成分）、多分辨率卷积（GMR）和自适应频带聚合（MBA）的贡献。关键对比数据如下： 模型 决策窗口长度 0.5 s 1 s 2 s Mel W2V Mel W2V Mel W2V DARNet 70.3 74.1 71.5 76.8 72.0 77.9 ListenNet 71.4 74.0 71.8 76.4 72.7 76.9 ResCNN 71.8 76.2 72.1 77.2 73.7 78.0 TransCNN 72.3 77.5 73.8 78.4 74.4 79.7 AASDNet (ours) 72.9 78.4 74.3 79.9 76.7 81.1 SAASDNet (ours) 75.8 81.5 78.2 83.6 80.1 84.5 实际意义：这项工作为开发更自然、更鲁棒的下一代神经调控助听器提供了关键的数据基础和算法参考，展示了在复杂真实场景中利用EEG解码动态注意力的可行性。 主要局限性：数据集规模较小（13名被试），且均为母语中文，模型的泛化能力有待验证。模型虽然有效，但其组件的神经科学可解释性可以进一步深化。 🏗️ 模型架构 SAASDNet是一个为流式EEG听觉注意力切换解码设计的端到端网络，整体架构如图1所示。其核心流程如下： ...

📄 SpatialNet-Echo: Real-Time Acoustic Echo Cancellation via Integrated Narrow-Band and Cross-Band Processing #语音增强 #声学回声消除 #端到端 #流式处理 #Mamba ✅ 7.5/10 | 前25% | #语音增强 | #自回归模型 | #声学回声消除 #端到端 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Ziyin Chen（浙江大学，杭州，中国） 通讯作者：Xiaofei Li（西湖大学 & 西湖高等研究院，杭州，中国） 作者列表：Ziyin Chen（浙江大学），Xiaofei Li（西湖大学 & 西湖高等研究院） 💡 毒舌点评 论文巧妙地将Mamba架构引入AEC的窄带处理，解决了传统RNN和Transformer的长序列建模效率问题，是一个有价值的工程实践。但其高达28.31G的MACs和1.71M参数的“标准版”模型，离真正的“实时”轻量化部署似乎还有距离，论文中“轻量级变体”的性能也仅比对比方法略好，且未公开代码，让“可部署性”的宣称打了折扣。 📌 核心摘要 这篇论文旨在解决实时通信中声学回声消除（AEC）的难题，特别是传统窄带处理方法的局限性和信号的非线性失真。论文提出了SpatialNet-Echo，这是首个集成窄带时间建模与跨带谱一致性的端到端实时AEC模型。其核心方法是结合时间-频率卷积块（TFCB）捕捉联合谱时特征、挤压-激励（SE）块进行动态通道加权，以及基于Mamba的窄带处理器进行高效的长上下文建模。同时，采用了一个结合SI-SNR、幅度谱和实/虚部损失的相位感知混合损失函数。 与已有方法相比，该模型的创新点在于首次将上述组件统一到一个针对AEC设计的端到端架构中，强调窄带与跨带处理的协同作用。在ICASSP 2023 AEC挑战赛盲测集上，SpatialNet-Echo在远端单讲（ST-FE）场景下取得了SOTA的4.81 EMOS，在双讲（DT）场景下取得了竞争性的4.59 EMOS和4.05 DMOS，优于或持平于其他四个SOTA方法。 该工作的实际意义在于推动了基于深度学习的端到端AEC模型的发展，并验证了Mamba在该任务中的有效性。主要的局限性在于其标准模型的计算复杂度（28.31G MACs）仍然较高，且论文未提供开源代码和模型，限制了其复现性和直接应用。 表1：与SOTA方法在ICASSP 2023 AEC挑战赛盲测集上的性能对比 ...

📄 Spike-Driven Low-Power Speech Bandwidth Extension #语音增强 #脉冲神经网络 #低功耗 #流式处理 🔥 8.0/10 | 前25% | #语音增强 | #脉冲神经网络 | #低功耗 #流式处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Donghyun Kim (Department of Electronic Engineering, Hanyang University, Seoul, Republic of Korea) 通讯作者：Joon-Hyuk Chang† (Department of Electronic Engineering, Hanyang University, Seoul, Republic of Korea) 作者列表：Donghyun Kim (Hanyang University), Sangho Han (Hanyang University), Joon-Hyuk Chang (Hanyang University) 💡 毒舌点评 亮点：模型在效率上实现了质变，参数量仅为最强对比模型(AP-BWE)的约1/20，能耗降低了约93%，将语音带宽扩展任务拉入了“毫焦耳”时代。短板：在生成质量的“天花板”上并未超越现有最佳ANN模型，甚至在最重要的PESQ和ESTOI指标上落后约0.5分，表明SNN在捕获复杂生成任务的感知细节上可能仍有瓶颈。 ...

📄 Str-DiffSep: Streamable Diffusion Model for Speech Separation #语音分离 #扩散模型 #流式处理 #实时处理 #波形建模 ✅ 7.5/10 | 前25% | #语音分离 | #扩散模型 | #流式处理 #实时处理 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Chenjun Zhao (剑桥大学工程系) 通讯作者：未明确说明（根据署名顺序和机构，Philip C. Woodland教授可能是通讯作者，但论文未明确标注） 作者列表：Chenjun Zhao (剑桥大学工程系), Guangzhi Sun (剑桥大学工程系), Keqi Deng (剑桥大学工程系), Chenda Li (上海交通大学), Philip C. Woodland (剑桥大学工程系) 💡 毒舌点评 该论文首次将扩散模型引入实时语音分离，通过巧妙融合SkiM的流式架构和MultiDiffusion的边界融合策略，成功解决了生成模型难以流式化的痛点，这是一个漂亮的工程-算法结合。不过，其推理计算量（RTF=0.51）仍是判别式模型SkiM（RTF=0.26）的两倍，且扩散带来的感知质量（PESQ）轻微下降也提醒我们，生成模型在实时场景的“免费午餐”可能并不完全免费。 📌 核心摘要 解决的问题：传统判别式语音分离模型在未见数据上泛化能力差，而现有的扩散模型分离方法无法满足实时流式处理的低延迟要求。 方法核心：提出Str-DiffSep，第一个用于流式语音分离的扩散模型。其核心是采用SkiM架构改造扩散模型的分数函数，使其能处理短时音频块；并引入源自图像生成的MultiDiffusion策略，通过融合重叠块的去噪结果来消除边界伪影，实现稳定的流式推理。 新意：这是首次将扩散模型框架成功适配到流式语音分离任务。创新点在于设计了基于记忆增强LSTM的分数函数网络，并将MultiDiffusion这一生成空间融合策略迁移到了语音波形领域。 主要结果：在WSJ0-2mix测试集上，Str-DiffSep在50ms延迟的流式设置下，SI-SDR（14.74 dB）和SI-SAR（14.97 dB）指标均优于判别式基线SkiM（13.69/14.01 dB），且接近离线DiffSep模型（14.32/14.66 dB）。在未见数据集Libri2Mix上，其DNSMOS评估分数超过SkiM，展现了更强的泛化能力。消融实验证明MultiDiffusion和状态传递缺一不可。 数据集 模式 MultiDiffusion States SI-SDR (dB) SI-SAR (dB) PESQ STOI WSJ0-2mix Str-DiffSep (online) yes yes 14.74 (5.56) 14.97 (5.06) 2.74 (0.53) 0.877 (0.102) WSJ0-2mix SkiM (online) - - 13.69 (4.98) 14.01 (4.42) 2.92 (0.46) 0.878 (0.081) WSJ0-2mix DiffSep (offline) - - 14.32 (5.69) 14.66 (5.07) 3.13 (0.55) 0.896 (0.093) （表1: WSJ0-2mix关键性能对比） 实际意义：证明了扩散模型可以作为一种有效且泛化能力更强的框架用于实时语音分离任务，为流式语音处理提供了新的模型选择。 主要局限：流式推理的实时因子（RTF=0.51）高于判别式模型，计算开销更大；MultiDiffusion的平滑策略可能导致感知质量指标（如PESQ）略有下降；实验数据集规模相对有限（仅两个2说话人混合数据集）。 🏗️ 模型架构 Str-DiffSep的整体架构旨在实现端到端的流式语音分离。其输入是连续的混合语音流，输出是按时间顺序生成的分离后语音流。 ...

📄 Streaming Speech Recognition with Decoder-Only Large Language Models and Latency Optimization #语音识别 #语音大模型 #流式处理 #端到端 ✅ 7.0/10 | 前25% | #语音识别 | #语音大模型 | #流式处理 #端到端 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Genshun Wan（中国科学技术大学）†1 （论文标注†Equal contribution） 通讯作者：Jing-Xuan Zhang（陕西师范大学人工智能与计算机科学学院）⋆3 作者列表： Genshun Wan（中国科学技术大学，合肥）†1 Wenhui Zhang（科大讯飞研究院，科大讯飞有限公司，合肥）†2 Jing-Xuan Zhang（陕西师范大学人工智能与计算机科学学院，西安）⋆3 Shifu Xiong（中国科学技术大学，合肥）1 Jianqing Gao（科大讯飞研究院，科大讯飞有限公司，合肥）2 Zhongfu Ye（中国科学技术大学，合肥）1 💡 毒舌点评 这篇论文的亮点在于提出了一种优雅的“统一训练”范式，让一个LLM同时掌握流式和非流式ASR，并巧妙地利用MoChA作为可训练的“读/写”策略，实现了延迟降低62.5%的显著效果。不过，其短板也很明显：创新性主要是对已有模块（MoChA, LoRA, Qwen）的集成与优化，在模型架构上未提出根本性的新范式；且实验仅限于中文数据集，对于流式ASR在多语言、嘈杂环境或更长上下文场景下的泛化能力，缺乏有力验证。 📌 核心摘要 要解决什么问题？ 如何在基于解码器-only大语言模型的语音识别框架中，实现高效的流式识别，并解决延迟与精度的平衡问题。 方法核心是什么？ 提出了一种基于单调分块注意力的读/写策略网络，用于动态分割语音流；结合最小延迟训练目标优化分割边界；并采用流式与非流式���型共享参数的联合训练策略。 与已有方法相比新在哪里？ 与依赖CTC或强制对齐的级联方法不同，该方法实现了端到端训练；通过动态的读/写策略替代固定大小音频块的处理，实现了自适应的低延迟解码；统一了流式与非流式模式的训练。 主要实验结果如何？ 在AISHELL-1和AISHELL-2数据集上，流式模式的字符错误率分别为5.1%和5.5%，优于基线系统。延迟优化（minLT）在保持精度几乎不变的情况下，将平均令牌生成延迟从16帧降低到6帧（降低62.5%）。消融实验证实了联合训练、LoRA和预训练LLM初始化的重要性。 实际意义是什么？ 为实时语音应用（如实时字幕、同声传译）提供了一种高精度、低延迟的语音识别解决方案，同时简化了支持流式/非流式双模式的ASR系统开发流程。 主要局限性是什么？ 实验仅在中文普通话数据集上验证，缺乏在多语言、低资源或嘈杂环境下的泛化性评估；方法性能依赖于前置的HMM强制对齐来生成最小延迟训练的目标边界；未公开代码与模型，限制了可复现性。 🏗️ 模型架构 本文提出了一种用于流式语音识别的解码器-only大语言模型（LLM）架构，其核心是集成一个自适应的读/写策略网络。整体架构如论文中图2所示。 ...

📄 SynaSpot: A Lightweight, Streaming Multi-modal Framework for Keyword Spotting with Audio-Text Synergy #关键词检测 #多模态模型 #流式处理 #对比学习 ✅ 7.5/10 | 前25% | #关键词检测 | #多模态模型 | #流式处理 #对比学习 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Kewei Li (†等贡献) （阿里巴巴集团，智能互联） 通讯作者：Xiaotao Liang (∗) （阿里巴巴集团，智能互联） 作者列表：Kewei Li†, Yinan Zhong†, Xiaotao Liang∗, Tianchi Dai, Shaofei Xue（所有作者均隶属于：Intelligent Connectivity, Alibaba Group, Hangzhou, China） 💡 毒舌点评 亮点在于将“多模态注册”和“流式数学解码”结合得非常优雅，通过一个轻量的音频编码器实现了灵活的多种注册模式，工程实用性强。短板是模型架构本身（DFSMN）缺乏新颖性，流式解码部分的泛化性论证和与更多现代流式模型的深度对比有待加强，且训练策略的细节（如域适应的具体设置）可以更透明。 📌 核心摘要 本文针对开放词汇关键词检测（KWS）在流式场景中面临的多模态模型参数开销大、端到端解码灵活性差的问题，提出了一种名为SYNASPOT的轻量级流式多模态框架。其核心方法包括：1) 设计一种轻量的音频编码器，并通过对抗训练剥离说话人信息，得到与说话人无关的音频表征；2) 引入文本和音频-文本混合模态，并通过对比学习将三者对齐到同一嵌入空间；3) 提出一种流式解码方案，在线推理时仅运行音频编码器，并利用缓存的模态嵌入通过数学计算（滑动窗口平滑与相似度聚合）直接生成帧级分数。主要实验表明，在英文LibriPhrase和中文WenetiPhrase数据集上，SYNASPOT（仅0.9M参数）在多种注册模式下均优于或媲美基线方法，在难度较大的测试集（LPH/WPH）上取得了更低的错误率（如LPH上EER为27.29%）和更高的AUC（79.15%）。该工作的实际意义在于为资源受限的端侧设备提供了一种高效、灵活的流式KWS解决方案。其主要局限性在于未与更多最新的端到端流式模型进行全面比较，且流式解码的性能对滑动窗口超参数的敏感性未充分讨论。 ...

📄 Syncspeech: Efficient and Low-Latency Text-to-Speech Based on Temporal Masked Transformer #语音合成 #自回归模型 #流式处理 #预训练 #多语言 ✅ 7.5/10 | 前25% | #语音合成 | #自回归模型 | #流式处理 #预训练 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Zhengyan Sheng（中国科学技术大学） 通讯作者：Liping Chen（中国科学技术大学） 作者列表：Zhengyan Sheng（中国科学技术大学），Zhihao Du（未说明具体机构，标注为独立研究者），Shiliang Zhang（未说明具体机构，标注为独立研究者），Zhijie Yan（未说明具体机构，标注为独立研究者），Liping Chen（中国科学技术大学） 💡 毒舌点评 SyncSpeech 巧妙地将自回归模型的“时序感”与非自回归模型的“并行力”结合，通过一个统一的TMT框架在低延迟和高效率上取得了显著突破，特别是在中文场景下效果惊艳。不过，其语音质量本身并未超越已有的顶尖AR模型（如CosyVoice2），创新更多体现在生成范式的效率优化而非合成质量的绝对提升，且实验场景相对单一。 📌 核心摘要 问题：现有文本到语音（TTS）模型面临两难：自回归（AR）模型生成效率低，而非自回归（NAR）模型因无序生成导致首包延迟高，难以用于流式场景。 方法核心：提出SyncSpeech模型和Temporal Masked Transformer（TMT）范式。TMT在训练时通过随机截断和掩码，模拟接收流式文本并预测对应语音片段；推理时，每收到一个文本词（BPE token），即可一步并行生成其对应的全部语音token及下一个文本词的时长，实现“文本同步”生成。 与已有方法不同：TMT将AR模型的有序生成与NAR模型的并行预测统一在一个解码步骤中。其时间复杂度从与语音序列长度T线性相关（AR）降低为与文本序列长度L线性相关（L≪T），从而大幅提升效率并降低延迟。此外，引入了高概率掩码预训练和混合注意力机制（结合因果与双向）。 主要实验结果：在LibriSpeech（英文）和SeedTTS（中文）基准上，SyncSpeech在语音质量（WER, SS, MOS）上与强AR基线CosyVoice2持平。关键突破在于延迟和效率： 首包延迟（FPL-A）：比AR模型分别降低 3.7倍（英文） 和 5.8倍（中文）。 实时率（RTF）：比AR模型分别提升 6.4倍（英文） 和 8.8倍（中文）。 流式设置下（FPL-L），在假设接入Qwen-7B LLM时，延迟优势更为明显。 实际意义：为构建与大语言模型无缝对接、支持超低延迟交互的语音合成系统提供了一个高效基础架构，有望推动实时语音助手、辅助通信等应用的发展。 主要局限性：语音自然度与音色相似性相较于最强基线无提升；评估主要在标准数据集上进行，未验证在嘈杂环境、多样化风格或极端低资源场景下的表现；依赖上游的强制对齐工具。 🏗️ 模型架构 SyncSpeech采用两阶段架构：文本到词元（Text-to-Token）模型和词元到语音（Token-to-Speech）模型。核心创新在于前者提出的TMT。 ...

📄 Train Short, Infer Long: Speech-LLM Enables Zero-Shot Streamable Joint ASR and Diarization on Long Audio #语音识别 #说话人分离 #语音大模型 #端到端 #流式处理 🔥 9.0/10 | 前10% | #说话人分离 | #语音大模型 | #语音识别 #端到端 学术质量 7.0/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Mohan Shi（UCLA， Microsoft CoreAI） 通讯作者：未说明 作者列表：Mohan Shi（UCLA， Microsoft CoreAI）、Xiong Xiao（Microsoft CoreAI）、Ruchao Fan（Microsoft CoreAI）、Shaoshi Ling（Microsoft CoreAI）、Jinyu Li（Microsoft CoreAI） 💡 毒舌点评 亮点在于“Train Short, Infer Long”的思路极其巧妙，通过设计说话人提示缓存（SPC）机制，成功将短音频训练的模型能力零样本迁移到长音频的流式推理场景，解决了长音频联合任务中棘手的说话人标签排列问题。短板在于，虽然实验全面，但论文未对SPC在极端动态说话人场景（如人数快速增减）下的鲁棒性进行深入探讨和测试。 📌 核心摘要 问题：联合自动语音识别（ASR）与说话人分离（“谁在什么时间说了什么”）在长音频上的流式处理是一个重大挑战，现有端到端模型通常局限于短音频，而处理长音频的级联系统存在错误传播问题。 方法核心：提出一个名为JEDIS-LLM的端到端语音大模型。该模型仅在短音频（≤20秒）上训练，但通过引入“说话人提示缓存（Speaker Prompt Cache, SPC）”及其在线更新机制，实现了在任意长音频上的分块流式推理，无需额外训练。 与已有方法的对比创新：a) 首次实现了仅用短音频训练即可在长音频上进行零样本流式联合ASR与分离；b) 设计了SPC机制，通过缓存和拼接历史说话人音频与文本作为LLM的提示，自然地维持了跨音频块的说话人一致性，无需后处理的全局聚类；c) 在训练时为语音编码器引入了“词级说话人监督”任务，增强了其说话人区分能力。 主要实验结果： 短音频（本地设置）：在AMI和CH109测试集上，JEDIS-LLM在cpWER上显著超越了强基线Sortformer和Meta-Cat。 系统 AMI Test cpWER CH109 Full cpWER Internal Test cpWER Sortformer 26.71 21.45 - Meta-Cat 26.02 26.17 - JEDIS-LLM (Final) 23.13 19.46 18.14 长音频（全局设置）：在CH109和Fisher长音频测试集上，流式JEDIS-LLM（使用SPC更新）全面超越了级联离线系统DiarizationLM。 系统 CH109 Test WDER/cpWER Fisher Test WDER/cpWER DiarizationLM (PaLM 2) 4.25 / 20.22 2.37 / 16.93 JEDIS-LLM (Offline+Clustering) 2.48 / 19.03 2.06 / 15.03 JEDIS-LLM (Streaming, SPC Update) 1.73 / 18.20 2.05 / 15.88 实际意义：该方法为会议记录、对话分析等实际应用提供了一个完全端到端、可流式处理长音频且性能更优的解决方案，避免了传统级联系统的复杂性和错误累积。 主要局限性：SPC的更新机制依赖于说话人向量相似度计算和启发式规则（如句子完整度），可能在说话人特征变化大或语音片段短时不够鲁棒；模型的长音频处理能力受限于固定的缓存大小和更新策略。 🏗️ 模型架构 JEDIS-LLM的整体架构基于Speech-LLM范式，并针对说话人分离任务进行了增强。其完整流程如下： ...

📄 VChangeCodec: An Ultra Low-Complexity Neural Speech Codec with Built-In Voice Changer for Customized Real-Time Communication #语音转换 #语音增强 #端到端 #流式处理 #实时处理 🔥 8.0/10 | 前25% | #语音转换 #语音增强 | #端到端 | #语音转换 #语音增强 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Xusheng Yang (⋆†) (北京大学深圳研究生院，超高清沉浸式媒体技术广东省重点实验室；ADSPLAB，电子与计算机工程学院) 通讯作者：Yuexian Zou (⋆†B) (北京大学深圳研究生院，超高清沉浸式媒体技术广东省重点实验室；ADSPLAB，电子与计算机工程学院) 作者列表： Xusheng Yang (北京大学深圳研究生院，超高清沉浸式媒体技术广东省重点实验室；ADSPLAB，电子与计算机工程学院) Wei Xiao (⋄) (腾讯天籁音频实验室) Bang Yang (‡) (鹏城实验室) Shidong Shang (⋄) (腾讯天籁音频实验室) Yuexian Zou (⋆†B) (北京大学深圳研究生院，超高清沉浸式媒体技术广东省重点实验室；ADSPLAB，电子与计算机工程学院) 💡 毒舌点评 本文提出的“编解码器内建变声器”架构确实是个聪明的集成创新，将语音转换从额外的级联模块变为编解码管道的一部分，从而将端到端延迟砍到了40ms，这对实时通信场景是实质性的提升。不过，论文在“超低复杂度”上做得更极致，但在“音质竞争力”和“变声效果竞争力”上更像是“足够好”而非“令人惊叹”，POLQA分数虽然不错但并未拉开与DAC等模型的差距，语音转换的自然度（N-MOS）也逊色于QuickVC。 ...