用虚拟麦克风给扩散分离补上观测约束:VM-ArrayDPS 解读
针对少麦克风、低信噪比下盲语音分离观测约束不足的问题,VM-ArrayDPS 把独立向量分析输出当作虚拟麦克风与物理麦克风一起做多通道一致性引导,在 SMS-WSJ 二人和三人混响分离上一致超过 ArrayDPS,代价是每步要多做虚拟通道的前向卷积预测与梯度计算。
针对少麦克风、低信噪比下盲语音分离观测约束不足的问题,VM-ArrayDPS 把独立向量分析输出当作虚拟麦克风与物理麦克风一起做多通道一致性引导,在 SMS-WSJ 二人和三人混响分离上一致超过 ArrayDPS,代价是每步要多做虚拟通道的前向卷积预测与梯度计算。
针对联合音视频扩散后训练中跨模态作用位置与多奖励冲突随训练漂移的问题,该工作用双向跨注意力预门响应做 token 与层级路由,并用分支内冲突系数对先验权重做残差修正,在 LTX-2 与 LTX-2.3 上以更均衡的多奖励轨迹提升质量、对齐与同步,但统一奖励与跨架构泛化仍未解决。
PLACE 面向文本、视频、可选音频任意组合到双耳波形的生成问题,选择冻结 AudioX 与 SAO 解码器并外挂空间对齐与低秩潜适配器,在 MRSAudio 上小规模微调并用解码音频的 ILD 与 ITD 监督方向,在 FAIR-Play 多数客观指标上优于 ViSAGe 且在 BEWO-1M 上保持部分竞争力,代价是在部分文本到音频指标与分布内主观评分上 …
针对直接图像到语音中图像可多述且与语音单元无单调对应的问题,MGSA 用语义语音单元统一多说话人内容目标、以单调查询对齐器生成位置相关条件再做块级掩码扩散生成,在 Flickr8k-Audio 上达到与单说话人基线可比的字幕指标并支持未见说话人的零样本合成,代价是内容准确性仍是主要局限。
针对离散扩散语音克隆中词正确性与说话人保持未被直接优化的问题,RAWD-TTS 用识别与说话人波形奖励算组内优势并加权前向掩码重建,在 500 条俄语克隆提示上把词错误率从 3.18% 降到 2.42% 并把说话人余弦从 0.733 提到 0.748,代价是单奖励会损伤另一属性且训练奖励上升不等于评测单调变好。
针对免提通话需要因果低延迟联合回声噪声控制的问题,DiffVQE2 用因果卷积加单向 GRU 改造混合扩散框架并辅以有限前视,在 ICASSP 2023 AEC 盲测上以更低算力取得更高的主观 MOS,但客观双讲指标仍有代价。
FlowAct-R2 要解决长时间直播中边播边换参考仍保持身份与连续的问题,用流式多模态参考扩散变换器实现连续视频生成、用离线规划加在线调度的主动交互智能体决定演什么与何时演,在与 Vidu-S1 的人评中取得视频质量 +54.76% 与实时交互 +40.48% 的 GSB 分,代价是原文未公开训练数据、定量协议与延迟成本细节。
论文把文本到音乐拆成 25 Hz 语义规划加扩散声学渲染,用固定接口、三级语料和全链路产物清单重建 Qwen-Music 范式,最强证据是标注审计与量化误差的固定协议测量,代价是自动监督误差、离散信息损失与端到端人声不稳定仍未解决。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
ADDSE 把语音增强转写为以带噪码为条件生成干净神经音频编解码码的条件分布,用吸收式离散扩散和 RQDiT 并行解码,在两套跨语料噪声测试上以非侵入指标取得可比质量,尤其在低信噪比和少采样步数下保持稳定,代价是侵入式指标和相位重建能力明显弱于判别式基线。
该文在视觉条件扩散语音先验的去噪分数匹配损失上并联对称 InfoNCE 对齐损失,在匹配与跨数据集失配测试中提升干扰抑制与重建,代价是对视觉输入依赖更强且对比权重需仔细平衡。
针对扩散语音增强缺语言约束的问题,该工作用冻结 wav2vec 2.0 特征经 FiLM 在 U-Net 瓶颈调制并做指数平滑,在 VoiceBank-DEMAND 上 PESQ 比同宽 StoRM 提升约 0.4,代价是 SI-SDR 略降且 128 通道仍非实时。
CtrlSpeech 针对整句级控制难以修改局部韵律的问题,在 DiTAR 连续声学建模上叠加全局说话人条件与音素对齐的音高、响度和时长信号,零-shot 可懂度和相似度与复现 DiTAR 相当,而显式控制使音高、响度和时长误差大幅下降,代价是纯文本时局部韵律仍不准且依赖基频提取与强制对齐质量。
针对韵律同时承载表达力和身份线索的矛盾,DiffAnon 在语音分词器的语义嵌入上做扩散精修并用无分类器引导连续控制韵律保留度,在同一模型上实现可调的效用隐私权衡,但韵律保留越强则等错误率越低且词错误率与情感召回随之变化。
针对扩散情感语音只推高目标情感而缺少对竞争情感建模的问题,Emo-BPO 用同文本倒序情感对联合学习对齐与对比两个分数分支并在推理以后段增强的对比引导组合它们,在 ESD 与 EmoVoiceDB 上把情感相似度做到 99.23、平均自动情感识别准确率做到 0.87,代价是可懂度仍略逊于自回归大模型基线。
针对视频生成音频中时间对齐、多模态控制与细粒度语义难以兼得的问题,FoleyGenEx 在多模态扩散变换器上加入参考音频注入与多模态动态掩码并配副词增强数据,在 AudioCaps、VGGSound 与 Greatest Hits 上保持同步的同时扩展了文本控制、音频控制与续写能力,代价是更复杂的训练配比与推理条件构造。
针对无声视角视频直接生成一阶 Ambisonics 时内容与几何纠缠的问题,该文用第一阶段生成单声道 W 保语义、第二阶段残差空间化生成 XYZ 保方向的选择,在 YT-AmbiSem 上同时取得最优语义与空间指标,但强空间化仍受能量预算约束且复杂声场景泛化待验证。
针对舞蹈到音乐生成中节奏表示过粗与舞蹈音乐时间长度错位的问题,GACA-DiT 用多尺度时空节奏提取加上下文对齐查询的扩散变换器建模,在 AIST++ 与 TikTok 上取得最高的节拍与质量指标,代价是依赖姿态与预训练编解码器且演示链接当前不可用。
该研究把固定零向量换成每个条件独立可学习的空嵌入并解耦说话人与文本引导,在相同模型与训练条件下提升说话人相似性与稳定性且在大引导权重下更稳,代价是绝对感知质量分数略降且需在推理时手工权衡相似性与自然度。
针对自回归解码慢、非自回归精度差的矛盾,该文用音频条件掩码扩散解码器加两步自我纠正训练与位置偏置采样,在多英语基准上达到 1.8%/3.6% 等词错误率并保持并行加速,代价是仍需多步迭代且未覆盖更广泛语言域。