论文解读

病因判断写进生成流:构音障碍识别为何先判病因再转写

针对构音障碍语音识别,该文比较四种病因知识用法,发现同码流内先预测病因再转写在 SAP 上达到 7.77% 词错误率,代价是训练仍需临床标签且代码链接当前不可用。

 · 更新于 2026-10-15 · 约 16 分钟 · 7824 字 阅读 →
论文解读

先抓语义再补声音:GenTSE 用两段生成缓解自回归提取的错位

针对多人混合中抽取目标说话人的任务,GenTSE 用语义级与声学级两段解码器语言模型分工建模,并用冻结模型条件训练缩小训练与推理的输入差异、用直接偏好优化提升感知质量,在 Libri2Mix 上感知质量优于同类生成式基线,但可懂度仍不及最强判别式对照且偏好优化带来轻微可懂度和说话人相似度代价。

 · 更新于 2026-10-15 · 约 15 分钟 · 7051 字 阅读 →
论文解读

说话人切换次数一变就掉线:把切换标记从自注意力里藏起来

针对说话人切换次数超出训练范围时多说话人识别会跳过整段话的问题,论文用说话人切换标记掩码加随机文本掩码切断解码器对切换次数的计数依赖,在仅见过至多 2 次切换的训练下把 3 次切换非重叠语音的字错率从 13.5% 降到 5.9%,代价是随机掩码率过大时训练变难且时间戳类标记越多时与上限差距越大。

 · 更新于 2026-10-15 · 约 18 分钟 · 8889 字 阅读 →
论文解读

交叉熵教发音,感知奖励教好听:给语音增强语言模型补上后训练

针对自回归语音增强语言模型只用词元交叉熵训练、与感知评价脱节的问题,该文用组序列策略优化在线直接优化 DNSMOS 加 WER 加 UTMOS 组合奖励,在 DNS2020 和 DNS5 上提升整体质量,而单一 DNSMOS 奖励出现人评低于基线的奖励黑客代价。

 · 更新于 2026-10-15 · 约 24 分钟 · 11751 字 阅读 →
论文解读

听音验文:用合成似然把假设拉回语音信号

针对无参考转录时难以判断识别假设是否忠于语音的问题,论文用现成自回归语音合成模型计算语音 token 在文本假设下的条件似然作为声学差异度,并在多系统合并与 N-best 重排上验证,最强证据是在噪声下相关性增强与最高约 20% 相对错误率下降,代价是依赖外部 TTS 知识且长争议段会退化为整句选择。

 · 更新于 2026-10-15 · 约 20 分钟 · 9899 字 阅读 →
论文解读

把多人混音当作续写来生成:LlaSep 在离散 token 上一次解码出多路语音

针对多人混叠语音要同时恢复每路干净信号并知道谁在何时说话的问题,论文把分离改写为以混合 token 与语义特征为前缀的自回归 token 生成,用 15k 小时合成多语对话做监督微调,在 LibriCSS 与 CallHome 上以可运行基线对比显示更低的日志误差与更高的听感质量,代价是输出为重新生成而非波形原样保留且长序列下误差会累积。

 · 更新于 2026-10-15 · 约 19 分钟 · 9190 字 阅读 →
论文解读

用文字加空间提示直接生成双耳音频:TTBA 为何要交叉排列左右声道

TTBA 针对文本到双耳音频中方向不可控与声道间线索不稳的问题,采用交叉排列离散表征加空间提示编码器与 Transformer 自回归生成,并在 BEWO-1M 上以内容蒸馏稳定语义,多声源条件下语义与空间指标多优于 SpatialSonic,但单静态与单动态子集的部分指标仍有反复。

 · 更新于 2026-10-15 · 约 19 分钟 · 9281 字 阅读 →
论文解读

看不见说话人时也不硬指认:用[None] 标记统一识别哪张脸何时说了什么

针对重叠语音中部分说话人不在画面内的问题,该研究在序列化输出中增加[None] 视频标记以避免强制关联,并在 LRS3 仿真混合数据上用 WER、VWER、VTER 对照验证,其代价是多说话人加离屏时声画关联误差仍明显增大。

 · 更新于 2026-10-15 · 约 18 分钟 · 8757 字 阅读 →
论文解读

单码本同时建模语义与声学:WavSLM 的蒸馏与分块自回归

WavSLM 把 WavLM 第 6 层表示压缩为单码本离散序列,再把 7 至 24 层改造为一次预测 4 个词元的因果语言模型,在仅用语音且无文本预训练条件下取得可比的一致性与生成质量,代价是大词表更难学、大分块损害保真与连贯。

 · 更新于 2026-10-15 · 约 15 分钟 · 7357 字 阅读 →
论文解读

自回归解码不是模型附带品:用递推关系重划语音生成的边界

该文把语音序列生成中的自回归搜索拆成估计、决策、先验更新与终止检验的递推结构,用纳入标准区分投机解码与非自回归方法,但未报告定量解码基准实验与可运行代码。

 · 更新于 2026-10-15 · 约 18 分钟 · 8719 字 阅读 →
论文解读

不用离散语音 token:一个模型同时做识别与流匹配合成

UniVoice 用连续声学表示把自回归识别与流匹配合成放在同一个大模型主干上,在 50K 小时 LibriHeavy 训练下取得可比的识别与零样本克隆效果,代价是双任务共享参数带来自然度和说话人相似度的折中。

 · 更新于 2026-10-15 · 约 17 分钟 · 8262 字 阅读 →
论文解读

在保住音色的同时拧动口音旋钮:CrossAccent-TTS 如何解耦说话人与口音

针对跨语言合成中口音不可控且易连带改变音色的问题,该文用 Neucodec 离散声学词元加 Qwen2.5 自回归解码器实现合成,以 Perceiver 瓶颈加梯度反转抑制口音残留再用加权语言嵌入连续调控口音强度,在 Indic 多语言 986 小时和 L2-ARCTIC 上显示口音相似度提升而说话人相似度和 UTMOS 基本保持,但主观 MOS 细节与强度 …

 · 更新于 2026-10-15 · 约 22 分钟 · 10790 字 阅读 →
论文解读

一个自回归模型同时吃同步与异步线索:用历史预测补缺失画面

TSE-Omni 用单个自回归大模型统一唇动、手势等同步线索与注册音频、文本等异步线索,以自注册历史在 2 秒干净画面后缺失视觉时保持语义分 0.81,代价是流式与弱模态组合仍有质量与语义折中。

 · 更新于 2026-10-15 · 约 23 分钟 · 11249 字 阅读 →
论文解读

只看两词未来:S5-TTS 如何在有限前视下做逐词流式合成

针对级联大语言模型语音交互中需等整句才能合成的问题,S5-TTS 用编码器解码器语言建模加单调对齐做逐词增量合成,以前视因果掩码和交错多源蒸馏在两词前视下接近全上下文质量,代价是自然度仍需蒸馏恢复且过大前视反而损害可懂度。

 · 更新于 2026-10-15 · 约 16 分钟 · 7659 字 阅读 →
论文解读

同形异读被折叠时:用注音绑定把读音留存在监督目标里

针对日语音形多对多导致正字法监督折叠词位读音的问题,论文把目标细化为 span 绑定的 ruby 序列并用 Qwen3-ASR 加 mora 级 CTC 联合训练,在五项基准上以加权 Kana CER 3.75% 改善读音直读而字形转写未退化,但自发语音与罕见词形仍是主要瓶颈。

 · 更新于 2026-10-15 · 约 20 分钟 · 9862 字 阅读 →
论文解读

先想好怎么说,再开口说:COT-TTS 把对话历史变成可检查的说话计划

COT-TTS 研究给定历史对话音频、固定目标文本和参考音色时如何先显式推理说话方式再合成语音,最强证据是 0.6B/1.7B 端到端模型在时长一致性和人评上接近 34-39B 级联基线,代价是可编辑推理大幅改动时会降低客观音质并引入推理与语音错位风险。

 · 更新于 2026-10-15 · 约 21 分钟 · 10461 字 阅读 →
论文解读

整场会议的自回归日志:事件式输出更稳,跨段身份仍需显式链接

该工作把完整会议说话人日志写成条件于声学输入的自回归结构化词元生成,对比事件式与帧式表示并引入语音活动与重叠等辅助线索,最强可运行证据是事件式 SAD 到 OD 再到 SD 链经 VBx 链接后在 AMI 上达到 24.40% 日志错误率,代价是原始输出跨段身份混乱且重叠区漏检仍然很高。

 · 更新于 2026-10-15 · 约 18 分钟 · 8820 字 阅读 →
论文解读

连续自回归做钢琴渲染:全局作曲、局部演奏与全序列精修如何分工

针对给定提示音色与目标 MIDI 的钢琴渲染任务,论文用 Composer 自回归预测连续隐状态、Performer 做局部流匹配生成 24 kHz 声学特征、Refiner 上采样到 48 kHz,并报告目标 MIDI 跟随提升 2.7 个百分点的证据,代价是音色相似度仍略低于全序列流匹配基线。

 · 更新于 2026-10-15 · 约 18 分钟 · 8939 字 阅读 →
论文解读

缺口比模型阶数还短时,Etter 的双向自回归插值还能解吗

论文复活 Etter 双向自回归插值,用前后向预测残差能量最小导出线性方程组求缺口样本,并给出短缺口高阶模型和因果丢包隐藏两种扩展,在 80 毫秒内音乐缺口上与多数基线相当但弱于逐缺口 Janssen 迭代法且外插简化版更快。

 · 更新于 2026-10-15 · 约 18 分钟 · 8983 字 阅读 →
论文解读

把笑声叹息放进指定位置:连续隐变量、长尾补数据与多指标选样的可控语音

为在指定文本位置可靠生成 16 类非言语发声,该工作用连续隐变量 DiTAR 加专用标签与停顿判别建模,以双语预训练加针对性合成与频率重采样补长尾,再用解码参数搜索与五选一多指标选样提升鲁棒性,最终以双语加权 62.786 获 Track 2 总分第一,代价是额外推理计算与英文控制仍待加强。

 · 更新于 2026-10-15 · 约 20 分钟 · 9653 字 阅读 →