不等整句到齐就开口:FlashTTS 如何把自回归与声学解码同时加速
针对对话式语音合成既要流式进文本又要低首包延迟的问题,FlashTTS 用滞后多轨道输入加并行多词元预测与两步 X 预测平均流解码,在 Minimax 子集上把首包延迟降到 325 ms,代价是五路并行时相似度和主观分下降且部分语言可懂度仍落后离线大模型。
针对对话式语音合成既要流式进文本又要低首包延迟的问题,FlashTTS 用滞后多轨道输入加并行多词元预测与两步 X 预测平均流解码,在 Minimax 子集上把首包延迟降到 325 ms,代价是五路并行时相似度和主观分下降且部分语言可懂度仍落后离线大模型。
论文把连续监听下的何时提醒形式化为四态决策,用打断与静默两种解码标记在 Qwen2-Audio-7B 上实现主动辅助,在 ESC-50 上报告 99.6% 打断 F1 与 100% 去重召回,在 Epic-Sounds 零样本下保持 96.7% 起始召回,代价是噪声域静默召回偏低且平均延迟约 3.5 秒。
针对流式语音增强在不同应用中时延预算不同但多数模型只固定一种前视的问题,论文用共享卷积主干加可切换的前视适配器实现七档时延可控,并在相同训练配方下报告单模型超越逐时延独立模型与参数总量大幅下降,但推理运算量并未下降。
针对流式语音到文本翻译中固定等待策略在静音和变速语音下被迫输出或掉队的问题,该文在 Bestow 架构上引入以已听音频和已生成文本为条件的学习型等待策略,在英法和英韩 Fleurs 上用更低延迟保持质量,并在前置 5 秒静音的 SilFleurs 上保持分数不变而固定策略大幅下降。
在相同训练条件下比较声学、韵律、文本七种组合,声学加韵律以 utterance F1 0.93、7.8% 误报、400 ms 中位延迟取得最佳平衡,加文本反而增加抢话且不提升性能。
针对自注意力平方复杂度与语音帧间高冗余的矛盾,该研究用查询保持原分辨率、键和值做平均池化压缩的非对称注意力,并在 Zipformer 中按层设置不同步长,报告在 AISHELL-1 上最高降低 0.2% 字错率、在 LibriSpeech 上降低 0.3% 词错率,代价是干净语音小模型细节可能被平滑以及流式部署仍待验证。
针对连续流关键词检测在 0.5 至 0.2 次误报每小时下交叉熵模型漏检严重退化的问题,论文提出只做离线辅助的目标受限拉紧加间隔排斥正则,在谷歌语音命令第二版上把 0.2 误报每小时下的漏检率从 29.85% 降到 14.80%,而封闭集准确率从 95.82% 微变为 95.68%,且部署端参数量、计算量与前视保持不变。
针对非因果教师特征含未来上下文与因果学生零前视能力冲突的问题,该文用下三角掩码的样本内时间关系蒸馏加离线双向拓扑先验,在 GSC V2 上把因果 1D-CNN 准确率从 95.12% 做到 96.91%,并在 1.0 FA/h 下把连续流误拒率从 8.52% 降到 4.15%,且不增加部署参数与单步延迟。
针对开放词汇关键词检测中易混词难区分且流式对齐与训练推理不一致的问题,MPA-KWS 用 W-CTC 强制对齐统一处理支持音频与查询音频并做音素级多模态对比学习,在 LibriPhrase-Hard 上文本加音频注册达到 AUC 97.30% 与 EER 8.21%,代价是需要预训练声学编码器与多任务权重调参且当前无公开代码可用。
针对智能眼镜佩戴者语音易被旁人声污染的问题,该工作保留指向嘴部的波束通道并补入鼻麦原始通道与旁人声检测嵌入送入流式 RNN-T,在真实录制集上相对噪声训练强基线平均降低 14.4% 词错率、最高达 18.0%,代价是仍依赖噪声增强训练且在特定旁人角度上残留短板。
针对句中停顿易被误判为结束的问题,Next-Turn 用从语音时间戳直接算出的到下一次语音起始时长做细粒度监督,在 1185 句人工标注评测上以 86.7% 的 320 ms 内准确率和 5.0% 早打断率超过声学与语义基线,但小评测集与中文单语料限制了推广结论。
该工作把实时语音匿名拆成年龄与女性化程度两个可控编辑量,用余弦相似度度量隐私、用 DNS-MOS 度量质量并做线性回归与听感验证,发现隐私下降快于质量下降并在约 0.25 标准差附近形成可操作区间,但大改动与联合编辑仍损失自然度且最优方向因性别年龄而异。
论文以同一对开源流式 ASR 与流式说话人日志模型为起点,比较级联、掩码输入、词级 SOT 与日志条件四种架构,报告显示日志条件的 SSA 在多说话人 cpWER 平均最低而词级 SOT 在单说话人上退化明显,代价是需要微调与多实例内存。
该文用共享参数的块限制注意力加动态块卷积统一离线与流式 Transducer,并以全格点对称 KL 一致性正则在低延迟流式上缩小差距,主证据是 L 尺寸统一双模加 MCR 在 0.32s 延迟平均词错率 8.24 而离线保持 6.63,代价是每步需跑离线与流式两次前向并承担额外 KL 计算与延迟定义约束。
论文研究噪声混响和重叠说话下的零前视流式识别,采用在线语音分离前端加只用干净语音训练的流式识别后端的解耦框架,最强证据是在 LibriSpeech 模拟噪声、CHiME-4 和 LibriCSS 上用 oTF-CrossNet 加干净后端超过同等数据量的多条件训练基线,代价是系统好坏高度依赖分离前端的强度。
针对固定区域边界敏感与单维度距离或方位重叠歧义问题,SPOT-TSE 用距离加方位连续空间点查询结合空间查询编码与歧义感知训练做多通道提取,在仿真智能眼镜数据上把 D1 到 D3 的 SDR 提升到 14.95、13.94 和 11.05 dB 并把 WER 降到 0.12、0.14 和 0.22,代价是参数量从 0.52M 增加到 1.46M 但运算量下降 …
针对流式关键词检测中逐帧输出带来的池化状态冗余,论文把卷积主干切成以池化结尾的子模型并按静态调度稀疏执行,在保持识别精度的同时把嵌入计算和缓存都压下来,但分类间隔拉大也带来了可测的延迟代价。
针对流式多说话人下感兴趣区语音提取,Sweep-RSE 用目标中心相位对准加窗内显式扫描锁定目标并用差异特征抑制窗外干扰,报告在 Realistic 集 Q=1 取得 12.88 dB 并在空区实现 96 dB 以上衰减,代价是因果流式相对非因果仍有约 0.84 dB 下降。
针对文本语音联合建模中语音单元远长于文本且原 TASTE 依赖外部离线 ASR 与非因果解码器的问题,TASTE-S 用内置 CTC 识别加全因果分块解码实现流式文本对齐分词,证据是在 LibriSpeech test-clean 与长语音重建上保持相近质量的同时把编码与解码实时率降到远低于实时,主代价是需两阶段联合训练且部分自然度评分受去噪与评测条件影响。
针对流式语音转换中冻结声纹嵌入与帧级声学生成失配的问题,VOSSA 从冻结内容编码器中间层经注意力统计池化提取声纹并与转换目标联合训练,在六个数据集上以相近的 NISQA-MOS 和 WER 换来更高的归一化目标相似度、更小的 F0 误差和更小的元音 F1 分布距离,代价是仍需双路径重建加对比约束联合优化且推理仍保持约 73 ms 延迟。