文字上能记住的多轮对话,换成语音还记得住吗
论文用 354 组十语言严格平行对话检验文字转语音的多轮能力迁移,发现文字成绩好的模型语音未必好,而把历史语音换成文字稿能部分恢复受损最大的两个模型的表现,但代价是增加转写处理且不能推广到所有模型。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
论文用 354 组十语言严格平行对话检验文字转语音的多轮能力迁移,发现文字成绩好的模型语音未必好,而把历史语音换成文字稿能部分恢复受损最大的两个模型的表现,但代价是增加转写处理且不能推广到所有模型。
带限语音缺失的高频需要补回但不能乱补,HFSWO 用幅度相位双流生成器加高频保护与加权评分配别管住高频能量出现频率和频谱形态,在英法数据上感知质量最好且参数比 AP-BWE 少约 74.6%,代价是训练更慢且部分波形指标并未全面占优。
本文把冻结 OWSM-CTC 的 50002 维后验作为八语共享接口,对比真实后验、启发式模拟和学习型模拟器,证明文本初始化加九分之一配对语音可达 9.19% 混合词错误率,但模拟与真实后验的差距仍是主要限制。
Q-BWE 要从窄带语音恢复缺失高频,用五量子比特的量子混沌判别器一次建模多特征联合分布,并以 FiLM 条件与升余弦掩膜约束生成器,在 VCTK 与 MLS 上以约一半参数达到可比的过平滑与感知质量,但结论只在原文的单种子与多指标折中条件下成立。
针对成人睡前叙述音频证据混杂且最强对照试验为阴性的问题,论文把确定性规划、四阶段注意力渐弱、结构词表声学三层门限与隔离机制组成多语言生成管线,五故事试点显示响度达标但法语日语印地语实际时长分别偏短约 13%、24%、38%,且不声称任何临床疗效。
EmpDPO 用现成重读检测器先给真实语音打伪标签做监督微调,再用同一检测器从模型采样中挑出好坏偏好对做扩散模型偏好优化,只用 5171 对和 1 万步就在六种语言上让目标词的重读更明显,同时保持自然度和音质。
本文在六种非洲语言上控制每语言数据量,对比三种语音识别模型,发现 Phi-4 整体字符错误率最低、数据饱和点因模型而异、领域数据对不同模型效果不同,而结论只在所测语言、数据来源和单次训练条件下成立。
该论文把多语言识别误差按语音、形态、句法拆开,让大语言模型智能体据此逐轮选择语言配比、语句和词元监督,在 12 种 Common Voice 语言上用相同 1200 小时训练预算取得更低平均错误率,但结论只在 Whisper-medium 加固定微调配置下成立。
论文把语音无法决定的书写差异定义为评测端转写规范化问题,用 1098 组最小对和兼顾一致性与语义保留的 SENA 指标检验方法,并用携带现象说明和改写约定的 TACS 智能体把平均成绩从常规工具的 10% 以下提升到 68.8%,但同音替换和符号类仍然困难。
论文比较同一批学习者英语回答上的声音分类器与文本零样本分类,完整文本下音频总体更准但优势随水平和输入量变化,而两者融合明显更好,但结论只在六种母语、A1 到 C1 的平衡评测条件下成立。
DRAMA-Eval 用结构化剧本同时考指令执行、说话人一致和整场连贯,发现单句做得好不等于整场戏成立,而全局场景信息能明显提升沉浸感。
LeanTTS 把中文发音前端、流匹配声学模型和 Vocos 声码器一起压缩到 18.9M 参数,用参考音频做零样本克隆、用说话人标签做固定音色定制,在 Seed-TTS-Eval 上验证了质量、相似度和 CPU 实时率之间的取舍。
论文研究在不回放源语言数据时只调连接器来加新语言,用源语言校准冻结加更新合并平衡新语言习得与旧语言保持,多目标时联合合并更稳而按序递归更看顺序。
针对只有无标注领域音频时的适应问题,论文把同一批伪标签从有监督微调的目标改为 GRPO 的奖励参照,在银行等对话领域上更抗标签噪声,但直接 GRPO 要求学生已有目标语种的输出支持。
该文用预先声明唤醒度与效价方向的日英冲突基准,定位规划到合成链路的断点,并证明固定合成器时监督与学习式情感控制接口能部分恢复反字面表达,但效果随语言和声学轴而异。
论文针对多语料混合评估抑郁语音时因各库患病率不同而产生的排序捷径,推导只用语料身份和患病率的语料 AUC 诊断式,并在五库 590 人上验证该通道可被语音表征利用且均衡患病率后差异明显缩小。
针对自回归语音识别在教师强制训练下的曝光偏差,论文用最小化字符错误率的组相对策略优化对 Whisper-large-v3 解码器做后训练,在噪声和低资源语言上获得更稳的改进,但单语言最优和跨库泛化仍受限。
HeyGen Voice 要解决用一段日常录音为说话视频配音时保留说话人而让语气和房间声跟随画面走的问题,用图像加两段文字描述加参考音频共同控制的自回归声学模型和五阶段跨场景训练实现,并在 331 个跨场景样本、十语种内容保真、245 例五语种听感对比和 43 人自评视频中验证了两种克隆策略在场景贴合与录音保真之间的取舍。
论文针对全模态大模型在长时多语多说话人视频中说不清谁何时说了什么的问题,构建 297 条六语种平行音视频基准并评测 9 个模型,发现文字转写尚可但时间定位与说话人区分仍是主要瓶颈且视觉不总是有帮助。
Qwen-Audio-3.1-ASR 针对说什么、谁何时说、音频还传达什么三个问题,用音频编码器加指令控制解码统一转写、说话人日志转写与音频理解,并用加权说话人损失、帧对齐时间戳、强化学习与多教师蒸馏改进结构化输出,在多语、方言、说话人日志与音频理解评测上给出条件明确的对比结果。