论文解读

先定语义再补声音:DelayGSE 用延迟文本与码本加权压住幻觉

DelayGSE 把去噪、去混响和超分放在多码本离散生成框架下,用延迟文本监督约束语义、用重要性加权平衡码本损失,主证据是内部集上词错误率从 0.099 降到 0.063 而 MOS 保持在 4.040 附近,代价是依赖大规模仿真数据与自回归推理。

 · 更新于 2026-11-04 · 约 20 分钟 · 9553 字 阅读 →
论文解读

野外影视学表达:用属性思考令牌把开放指令和音色解耦

针对自然语言细粒度表达难控与参考音频风格泄漏问题,Poly-InstructTTS 用 1000 小时影视多模态指令数据训练无提示音频的 GPT 加流匹配声学模块,在 InstructTTSEval 上取得高指令跟随分,但以词错误率上升与复杂声学条件不稳为代价。

 · 更新于 2026-11-04 · 约 19 分钟 · 9229 字 阅读 →
论文解读

自回归模型的熵最小化为何不能只做一半:策略梯度与词元熵的两项补全

针对自回归测试时自适应中熵最小化实现分裂的问题,论文推导出包含词元级策略梯度损失与词元级熵损失的完整梯度,并在 Whisper 语音识别上以 20 余个噪声口音多语域验证,最强的束搜索变体带来最低词错率,但代价是每步多采样与多步更新的计算开销。

 · 更新于 2026-11-04 · 约 17 分钟 · 8231 字 阅读 →
论文解读

固定块长走不稳难音区:用轨迹直不直来动态截断再生成

针对块流匹配固定块长在难建模语音段速度估计不稳的问题,论文提出免训练的轨迹置信度做逐帧可靠性信号并用截断加再生成动态调块,在 Seed 中英集上把英文词错率降到 1.798% 且自然度提到 3.809/3.973,代价是阈值 0.75 时相对推理耗时变为 1.08 倍。

 · 更新于 2026-11-04 · 约 17 分钟 · 8411 字 阅读 →
论文解读

一个解码器统一三种增强任务:连续条件加离散目标的自回归路线

该研究用连续语音特征作条件、以解码器自回归生成离散语音令牌统一语音恢复、目标说话人提取与语音分离,并用两阶段偏好微调提升感知质量,代价是全 utterance 条件与自回归解码效率限制。

 · 更新于 2026-11-04 · 约 17 分钟 · 8178 字 阅读 →
论文解读

位深越高越难压:Trilobyte 把样本拆成字节做无损压缩

该文研究 16/24 比特全保真音频能否用自回归语言模型加算术编码做无损压缩,提出把每个样本拆成字节的 Trilobyte 使词表恒为 256,最强证据是 8 比特大幅超过 FLAC 而 16 比特平均只超 18%、24 比特落后 9%,代价是序列变长且推理远慢于 FLAC。

 · 更新于 2026-11-04 · 约 17 分钟 · 8366 字 阅读 →
论文解读

超低码率先保说什么:用内容上下文引导重建的 ContextCodec

针对 1000 bps 以下语音编码中声学细节挤占语言内容的问题,ContextCodec 用双分支解耦加音素对齐的上下文引导重建,在 500 bps 仍保持可懂度和质量平衡,代价是需要离线强制对齐监督与两阶段解码注入的复杂度。

 · 更新于 2026-11-04 · 约 17 分钟 · 8346 字 阅读 →
论文解读

不用帧级边界也能做双流合成:CTC 对齐加双词块如何兼顾质量与延迟

针对双流式文本到语音需要准确对齐与低延迟序列组织的问题,论文用基于 CTC 的音素对齐替代 MFA 并提出双词交织,在单说话人流式与多说话人零样本任务上报告了更低词错误率,代价是长度拼接变体首包延迟更高而特征堆叠变体质量略低。

 · 更新于 2026-11-04 · 约 17 分钟 · 8351 字 阅读 →
论文解读

先听已说出的声音,再定下一个字的语气:动态韵律预测补齐说话人相似度

针对大语言模型语音合成只看参考音频和目标文本而忽略已生成目标语音风格的问题,该文提出按音节交替预测韵律标记和语音标记的方法,在三套中文评测上提升了说话人相似度和韵律相关性,但自然度基本持平且大模型对比仍有限。

 · 更新于 2026-11-04 · 约 18 分钟 · 8519 字 阅读 →
论文解读

病因判断写进生成流:构音障碍识别为何先判病因再转写

针对构音障碍语音识别,该文比较四种病因知识用法,发现同码流内先预测病因再转写在 SAP 上达到 7.77% 词错误率,代价是训练仍需临床标签且代码链接当前不可用。

 · 更新于 2026-11-04 · 约 16 分钟 · 7824 字 阅读 →
论文解读

先抓语义再补声音:GenTSE 用两段生成缓解自回归提取的错位

针对多人混合中抽取目标说话人的任务,GenTSE 用语义级与声学级两段解码器语言模型分工建模,并用冻结模型条件训练缩小训练与推理的输入差异、用直接偏好优化提升感知质量,在 Libri2Mix 上感知质量优于同类生成式基线,但可懂度仍不及最强判别式对照且偏好优化带来轻微可懂度和说话人相似度代价。

 · 更新于 2026-11-04 · 约 15 分钟 · 7051 字 阅读 →
论文解读

说话人切换次数一变就掉线:把切换标记从自注意力里藏起来

针对说话人切换次数超出训练范围时多说话人识别会跳过整段话的问题,论文用说话人切换标记掩码加随机文本掩码切断解码器对切换次数的计数依赖,在仅见过至多 2 次切换的训练下把 3 次切换非重叠语音的字错率从 13.5% 降到 5.9%,代价是随机掩码率过大时训练变难且时间戳类标记越多时与上限差距越大。

 · 更新于 2026-11-04 · 约 18 分钟 · 8889 字 阅读 →
论文解读

交叉熵教发音,感知奖励教好听:给语音增强语言模型补上后训练

针对自回归语音增强语言模型只用词元交叉熵训练、与感知评价脱节的问题,该文用组序列策略优化在线直接优化 DNSMOS 加 WER 加 UTMOS 组合奖励,在 DNS2020 和 DNS5 上提升整体质量,而单一 DNSMOS 奖励出现人评低于基线的奖励黑客代价。

 · 更新于 2026-11-04 · 约 24 分钟 · 11751 字 阅读 →
论文解读

听音验文:用合成似然把假设拉回语音信号

针对无参考转录时难以判断识别假设是否忠于语音的问题,论文用现成自回归语音合成模型计算语音 token 在文本假设下的条件似然作为声学差异度,并在多系统合并与 N-best 重排上验证,最强证据是在噪声下相关性增强与最高约 20% 相对错误率下降,代价是依赖外部 TTS 知识且长争议段会退化为整句选择。

 · 更新于 2026-11-04 · 约 20 分钟 · 9899 字 阅读 →
论文解读

把多人混音当作续写来生成:LlaSep 在离散 token 上一次解码出多路语音

针对多人混叠语音要同时恢复每路干净信号并知道谁在何时说话的问题,论文把分离改写为以混合 token 与语义特征为前缀的自回归 token 生成,用 15k 小时合成多语对话做监督微调,在 LibriCSS 与 CallHome 上以可运行基线对比显示更低的日志误差与更高的听感质量,代价是输出为重新生成而非波形原样保留且长序列下误差会累积。

 · 更新于 2026-11-04 · 约 19 分钟 · 9190 字 阅读 →
论文解读

用文字加空间提示直接生成双耳音频:TTBA 为何要交叉排列左右声道

TTBA 针对文本到双耳音频中方向不可控与声道间线索不稳的问题,采用交叉排列离散表征加空间提示编码器与 Transformer 自回归生成,并在 BEWO-1M 上以内容蒸馏稳定语义,多声源条件下语义与空间指标多优于 SpatialSonic,但单静态与单动态子集的部分指标仍有反复。

 · 更新于 2026-11-04 · 约 19 分钟 · 9281 字 阅读 →
论文解读

看不见说话人时也不硬指认:用[None] 标记统一识别哪张脸何时说了什么

针对重叠语音中部分说话人不在画面内的问题,该研究在序列化输出中增加[None] 视频标记以避免强制关联,并在 LRS3 仿真混合数据上用 WER、VWER、VTER 对照验证,其代价是多说话人加离屏时声画关联误差仍明显增大。

 · 更新于 2026-11-04 · 约 18 分钟 · 8757 字 阅读 →
论文解读

单码本同时建模语义与声学:WavSLM 的蒸馏与分块自回归

WavSLM 把 WavLM 第 6 层表示压缩为单码本离散序列,再把 7 至 24 层改造为一次预测 4 个词元的因果语言模型,在仅用语音且无文本预训练条件下取得可比的一致性与生成质量,代价是大词表更难学、大分块损害保真与连贯。

 · 更新于 2026-11-04 · 约 15 分钟 · 7357 字 阅读 →
论文解读

自回归解码不是模型附带品:用递推关系重划语音生成的边界

该文把语音序列生成中的自回归搜索拆成估计、决策、先验更新与终止检验的递推结构,用纳入标准区分投机解码与非自回归方法,但未报告定量解码基准实验与可运行代码。

 · 更新于 2026-11-04 · 约 18 分钟 · 8719 字 阅读 →
论文解读

不用离散语音 token:一个模型同时做识别与流匹配合成

UniVoice 用连续声学表示把自回归识别与流匹配合成放在同一个大模型主干上,在 50K 小时 LibriHeavy 训练下取得可比的识别与零样本克隆效果,代价是双任务共享参数带来自然度和说话人相似度的折中。

 · 更新于 2026-11-04 · 约 17 分钟 · 8262 字 阅读 →