论文解读

小块也稳、低延迟可播:MeanVC 2 用有限未来看与全局音色令牌改造流式转换

针对流式零样本变声在小块下质量退化与参考音频敏感问题,MeanVC 2 用未来感受分块与通用音色令牌编码器实现 40 毫秒块稳定转换,报告显示端到端首包延迟从 211 毫秒降到 110 毫秒左右,但单步解码的计算量略有增加。

 · 更新于 2026-10-15 · 约 18 分钟 · 8590 字 阅读 →
论文解读

不等停顿的同传:用偏好学习把块间静音换成连续说话

针对同声传译语音到语音翻译中为等上下文而频繁停顿的问题,论文用银牌偏好直接偏好优化在 Hibiki 上降低块间静音比,主证据是长短语音基准上静音比下降而翻译质量和延迟基本保持,代价是短语音上 BLEU 与 COMET 略低于基线。

 · 更新于 2026-10-15 · 约 17 分钟 · 8296 字 阅读 →
论文解读

在线缺未来、离线看全文:用在线预测编码补齐双模自监督的注意力落差

针对双模自监督在流式与非流式下注意力可见范围不一致导致的优化困难,论文用多步未来预测约束在线寄存器并分离层归一化参数,在 LibriSpeech 160 ms 条件下把在线词错误率从 3.65% 降到 3.40% 和从 10.15% 降到 9.65%,代价是增加一个权重为 0.1 的辅助损失和按模式维护的归一化参数。

 · 更新于 2026-10-15 · 约 17 分钟 · 8405 字 阅读 →
论文解读

一直在线的对话大模型记住了谁在说话:全双工语音对话中的说话人泄露与流式匿名化

论文针对端到端全双工语音对话模型常开大语言模型隐状态是否泄露说话人身份这一问题,用 ECAPA-TDNN 探测器按 VoicePrivacy 2024 协议审计 SALM-Duplex 和 Moshi 并提出基于 Stream-Voice-Anon 的波形级与特征级两种流式匿名化,最强证据是 SALM-Duplex 离散基线等错误率从 11.2% 升至 …

 · 更新于 2026-10-15 · 约 19 分钟 · 9444 字 阅读 →
论文解读

边听边说不断线:用韵律边界标记把流式文本语音合成的上下文锁住

针对流式文本输入下缺少前视导致韵律不自然和上下文无界导致长文崩溃,该文用韵律边界标记加有限前视与滑动窗口提示改造 CosyVoice2,最强证据是长文词错误率从 71.0% 降到 4.8%,代价是仍需每块 5 词加 2 词前视的累积等待与流式声码拼接。

 · 更新于 2026-10-15 · 约 17 分钟 · 8244 字 阅读 →
论文解读

流式匿名总把情绪抹平:用同说话人错峰情感对与声学帧级蒸馏纠偏

针对神经音频编解码流式匿名中情感被续写偏置抹平的问题,论文用同说话人中性提示配情感源重构监督并在慢自回归声学隐状态做帧级蒸馏,在 VoicePrivacy 2024 上把情感保留推到流式最优,同时延迟保持 180 ms 且推理不新增模块。

 · 更新于 2026-10-15 · 约 16 分钟 · 7565 字 阅读 →
论文解读

先洗掉风格再重上风格:StyleStream 如何做实时零样本音色口音情感转换

StyleStream 用带文本监督和 45 码紧瓶颈的去风格器抽取内容,再用非自回归扩散变换器重上目标风格,在 3000 对测试上把可懂度和三种风格相似度做到最高,代价是需要 5 秒目标上下文和 600 毫秒分块带来的约 1 秒端到端延迟。

 · 更新于 2026-10-15 · 约 19 分钟 · 9477 字 阅读 →
论文解读

浊音多给比特、清音少给比特:VoCodec 如何用发声驱动量化压到 1.1 kbps

针对均匀量化在清音帧上浪费比特的问题,VoCodec 用全因果编码器并行做基频段能量浊音检测、对浊音帧用残差标量矢量量化而对清音帧只用单级标量量化,在 LibriTTS 16 kHz 下以平均 1.1 kbps 取得可比 1.5 kbps 基线的听感,代价是清音帧客观失真变差且需额外传输 1 比特浊音标志。

 · 更新于 2026-10-15 · 约 20 分钟 · 9732 字 阅读 →
论文解读

单码本同时建模语义与声学:WavSLM 的蒸馏与分块自回归

WavSLM 把 WavLM 第 6 层表示压缩为单码本离散序列,再把 7 至 24 层改造为一次预测 4 个词元的因果语言模型,在仅用语音且无文本预训练条件下取得可比的一致性与生成质量,代价是大词表更难学、大分块损害保真与连贯。

 · 更新于 2026-10-15 · 约 15 分钟 · 7357 字 阅读 →
论文解读

用说话人匿名化解耦换音色:零前视流式转换如何把延迟压到一帧

Zero-VC 针对流式零样本声音转换中音色泄漏与韵律保留难以兼得且基频补偿引入前视延迟的问题,用说话人匿名化做扰动并配全因果编码解码器,在 20 毫秒单帧算法延迟下取得源相似度 0.171、目标相似度 0.521 与 FPC 0.688,代价是可懂度略逊于最优非流式基线且训练仍依赖外部匿名化模块。

 · 更新于 2026-10-15 · 约 17 分钟 · 8053 字 阅读 →
论文解读

先计划再确认:流式多模态 Q-Former 如何在线生成机器人动作

针对未切分音视频流需要低延迟生成可确认机器人动作的问题,该工作把 AVBLIP 的 Q-Former 改为按秒分块加左上下文的流式结构,用三组注意力掩码实现并行训练,在 YouCook2 上以 1 到 3 秒提前量实现在线生成,代价是动作与描述质量相对离线下降不到 10%。

 · 更新于 2026-10-15 · 约 19 分钟 · 9273 字 阅读 →
论文解读

只在跨度完备时生成:预训练文本模型做流式逆规范化的读标写路线

该文解决流式语音识别词流需要即时转写为书面形式的问题,用预训练文本到文本模型加读标写策略把生成限制到完备跨度,在越南语 5M 句数据上流式达到 4.18% 与 0.64% 而接近离线 3.63% 与 0.52%,代价是仍缺未来上下文且长跨度需等待完备。

 · 更新于 2026-10-15 · 约 15 分钟 · 7175 字 阅读 →
论文解读

一个模型吃下三种采样率:用接口对齐与特征校准共享量化器

针对 16/24/48 kHz 需多模型或外部重采样的矛盾,该文用可学习接口转换统一时间网格并用采样率条件仿射校准特征,在 1.5 kbps 下 24 kHz 达 ViSQOL 4.22、48 kHz 达 PESQ 2.750,代价是 24 kHz 因有理数转换多出卷积开销与三阶段训练流程。

 · 更新于 2026-10-15 · 约 18 分钟 · 8883 字 阅读 →
论文解读

坐席改一个实体,下一通电话就少错一个:闭环伴随如何攒出自己的偏置词典

针对客服通话中尾部命名实体易被流式识别错且错误会污染客户关系管理录入的问题,该研究用实时伴随界面收集人工确认修正并由反射子智能体离线更新上下文偏置表与事后替换规则,在英语评测上把命名实体错误率相对降低 17.1% 而代价是偏置表在 3 批内即触及 500 容量上限。

 · 更新于 2026-10-15 · 约 20 分钟 · 9599 字 阅读 →
论文解读

从固定窗口到按窗决策:AdaptDuplex 如何把每次听与说都写成显式词元

AdaptDuplex 针对全双工对话中时机与认知负荷逐窗变化的问题,把窗口时长与动作组合都做成显式词元决策并配三阶段课程训练,在 FDB 与 HumDial-FDBench 上取得更低响应延迟与更高终分,代价是仅覆盖中英、三档窗口与最多四路并发外部推理。

 · 更新于 2026-10-15 · 约 15 分钟 · 7197 字 阅读 →
论文解读

在手机上同时跑三个十亿级模型:Argmax Pro 如何兼顾实时转写、说话人与自定义词表

Argmax Pro 针对离线可用的富功能语音识别问题,选择以 Parakeet v2 做转写、Canary v2 CTC 经 CTC-WS 做偏置、Streaming Sortformer v2 微调做说话人切分并全部部署到手机 NPU 上,论文报告自定义词表可扩至 3000 词而不影响运行时延迟,但未给出词错率、延迟与功耗的定量对照。

 · 更新于 2026-10-15 · 约 17 分钟 · 8401 字 阅读 →
论文解读

体贴的倾听者:只在该应声的停顿处应声

针对韩语流式倾听中声学停顿会误导应声的问题,该研究用停顿概率软加权把决策收拢到停顿附近,再用部分识别文本过滤问句后不该应声的停顿,评估报告语义误发现率下降 53.8%,代价是召回率从 80.40% 降到 71.74%。

 · 更新于 2026-10-15 · 约 17 分钟 · 8120 字 阅读 →
论文解读

把嗯嗯放在对的时刻:用一个可调阈值的轻量头控制全双工模型的倾听反馈

针对全双工对话模型很少显式建模倾听反馈时机的问题,论文在冻结思路下外挂一个从主干隐藏状态预测反馈起始概率并用阈值触发强制解码的两层头,在 7B 与 1B 两个模型上验证了频率可调与人类评分持平,但高频档会抬高抢话率等代价同时代码链接当前不可用。

 · 更新于 2026-10-15 · 约 20 分钟 · 9958 字 阅读 →
论文解读

先懂话再压缩:LitCodec 把 ASR 监督放在量化之前做单码本流式编码

针对流式低码率下波形编码丢语言内容、语义编码又依赖非因果或双分支的问题,LitCodec 在因果编码器量化前加 CTC 的 ASR 监督并用单码本 FSQ 统一输出,在 LibriSpeech 上 800bps 取得流式最优 PESQ 2.56、STOI 0.925 和 WER 2.8%,代价是 UTMOS 自然度仍低于同码率 TS3-Codec。

 · 更新于 2026-10-15 · 约 18 分钟 · 8624 字 阅读 →
论文解读

把查询与键值对调:让跨注意力在流式关键词检测中逐帧可用

针对整段语音才能对齐而流式只能看到局部帧的矛盾,该文把流式语音做查询、注册文本做键值实现逐帧计算,在 LibriPhrase 上难负样本达到等错误率 28.21% 与曲线下面积 79.19%,代价是易负样本略弱于 CTC 对齐基线且依赖两阶段训练。

 · 更新于 2026-10-15 · 约 20 分钟 · 9719 字 阅读 →