一次采样同时给出视频、混合声与每条分轨的音频视频模型
SepGen 要解决的是联合音频视频生成只有一条混合声、无法逐声源定位与重渲染的问题,它用受保护的混合声通道加两条分轨通道实现生成与分离两种模式,最强证据是真实录音与跨生成器场景上的分离与听感对比,代价是固定两条分轨与额外的去噪与引导计算。
SepGen 要解决的是联合音频视频生成只有一条混合声、无法逐声源定位与重渲染的问题,它用受保护的混合声通道加两条分轨通道实现生成与分离两种模式,最强证据是真实录音与跨生成器场景上的分离与听感对比,代价是固定两条分轨与额外的去噪与引导计算。
针对无声视频配音需要同时保住可懂度、音色和口型同步的问题,UltraDub 用唇动引导的双路检索学习速度场、再用视觉节拍锚定推理修正,在四个数据集上同步和音色最好,但部分类别字错率仍非最低且推理要多算分支。
该文把已训练好的 Seed-VC v2 只在推理时改造,用随机说话人上下文重构内容条件再投影抑制源说话人方向,在 VoicePrivacy 2026 英语评测上提升隐私并保持可比的字错率与情感效用,但结论只在该协议与所选阈值下成立。
WorldSonus 针对无声世界模型,用 100 ms 因果分块的自回归扩散同时解决实时跟播、中途改提示词和视角对齐立体声问题,在只看过去与当前帧的条件下取得可比双向模型的音质与更强的左右一致性,代价是单块 41.2 ms 计算与对高质量立体声数据的依赖。
该文用声学到发音反演伪标签把声道滤波器锚定在发音运动学上,源用基频能量加流匹配细化,以频谱保真度小幅下降换来可验证的源滤波解耦与发音级口音编辑。
该文把 1926 年前管弦乐历史录音复原写成盲逆问题,用五阶段维纳-哈默斯坦退化函数合成成对数据,训练潜空间条件流匹配模型 SAMECFM,并在无参考指标与 MOS 上报告最优,但生成质量提升伴随保真度代价。
针对伪造语音类型持续新增且原始语音不能集中共享的问题,FedCFM 让每个客户端在嵌入层训练条件流匹配生成器并交换生成器,再用生成回放加知识蒸馏更新分类器,在相同训练数据组合下报告了低于所比较集中式与联邦基线的等错误率,但生成器交换轮带来约 164.1 MB 的单客户端通信开销。
针对一步零样本语音转换中内容编码器耗时约为主流程十倍的问题,MeanVoiceFlow2 用教师 MeanVoiceFlow 做转换蒸馏并联合训练轻量内容编码器与平均速度网络,再以真实数据重建、扩散判别器混合对抗和教师增强条件扩充提升真实感与解耦,在 VCTK 上自然度高于教师且推理约快 9 倍、说话人相似度基本持平。
针对无声谈话视频只能看到近似唇形而无法唯一确定音素的问题,论文用训练期真值文本加注意力融合与条件流匹配生成梅尔谱,并在 LRS2/LRS3 上以同步指标领先为证据,代价是推理仍依赖唇读预测文本的准确率。
针对舞蹈到音乐生成中身体部位与快慢运动混在一起、音乐隐变量局部变化缺乏直接监督的问题,Dyna2Music 用五部位慢快能量加 MotionBERT 特征做条件、用隐动态一致性约束相邻帧变化幅度,在 AIST++ 上 F1 达到 55.76 但最高 F1 对应的权重不是 FADc 最低权重。
针对新皮肤多事件音效补齐问题,论文用全量基础音频加已完成目标前缀与逐事件变换提示做潜在修复,在保持可运行基线对比下报告了重建误差下降与提示有效性,同时保留了对预言提示与时长先验的明确限制。
针对流匹配语音合成多步积分代价高的问题,论文用出发点局部微分恒等式做蒸馏、用一致性代价图做全局步数规划、用四步模型做对齐自蒸馏,最强证据是 Seed-TTS 上一步达到 1.80% 词错率接近 32 步教师的 1.76%,代价是说话人相似度和预测质量仍低于教师。
针对条件流匹配合成中近似子带持续增长而细节子带滞后的问题,论文提出免训练的频率选择性增强,在离散小波域按步调制中间梅尔谱,最强证据是 26 步达到 32 步质量且 FAD 大幅下降,代价是一次性标定低维调度且跨模型需更换函数形式。
论文先用 80 例平行对诊断冻结 TTS 速度场是否存在可用、无代价分段的情感编辑信号,再提出动态速度搬运的 SEmoEdit,在 600 例基准上以替换 TEP 0.691 与擦除 NP 0.704 超越训练式与转向式基线,代价是说话人相似度下降与跨域控制依赖骨干。
针对掩码预测偏向语言内容而重建目标理解偏弱的矛盾,SPEAR-Gen 用任务对齐融合构造离散目标并联合对数梅尔重建与残差流匹配,在保持 SUPERB 语言性能的同时把重合成质量从 PESQ 1.20 提升到 2.94,代价是需要外部标注做目标构造与双解码器联合训练。
DEFINE 用说话人提示定身份、用口音示例定口音并以权重 w 连续调节强度,在见过口音上口音探针准确率从 6.5% 提升到 19.6%,以单遍合成达到级联方案的口音转移并保留更高的说话人相似度,但 held-out 口音仍弱于级联且瓶颈在示例编码器。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
针对连续自回归流匹配语音模型中非言语标签跟随难的问题,NVAlign 用冻结的非言语识别模型概率作可微奖励并经两步梯度代理回传联合更新主干与流头,在三套系统的人评听音集上提升标签准确率,但自然度与可懂度等代价需要用保真惩罚和参考速度正则来约束。
TinyAudio 针对十亿参数文本到音频系统难部署的问题,用 35M 单流 TA-DiT 加 32M 音频对齐文本编码器与 20M 解码器做流匹配生成,在 AudioCaps 上以 2.65 的 FAD 和 0.48 GB 峰值显存实现可比质量,一步版 TinyAudio-MF 则以质量下降为代价换取四核 CPU 实时生成。
论文把流匹配与扩散语音合成中初始高斯噪声与生成梅尔频谱图的空间相关变成水印信号,用固定特殊噪声生成加余弦相似度验算或外挂检测器判别,在强裁剪与变速下比 AudioSeal 更稳,但回声与极端滤波仍是代价与边界。