扩散模型

📄 Hallo-Live: Real-Time Streaming Joint Audio-Video Avatar Generation with Asynchronous Dual-Stream and Human-Centric Preference Distillation #音视频 #扩散模型 #知识蒸馏 #流式处理 #实时处理 🔥 8.5/10 | 前25% | #音视频 | #扩散模型 | #知识蒸馏 #流式处理 | arxiv 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.8 | 置信度 高 👥 作者与机构 第一作者：Chunyu Li（上海创新研究院， 复旦大学） ， Jiaye Li（复旦大学） *并列第一 通讯作者：Siyu Zhu（复旦大学） 作者列表： Chunyu Li（上海创新研究院， 复旦大学） Jiaye Li（复旦大学） Ruiqiao Mei（复旦大学） Haoyuan Xia（复旦大学， 中国科学技术大学） Hao Zhu（南京大学） Jingdong Wang（百度） Siyu Zhu（复旦大学） 💡 毒舌点评 亮点：论文精准瞄准了当前音视频数字人模型“慢”和“蒸馏后变糊”的两大痛点，用“未来扩展注意力”这个巧妙设计让模型“偷看”未来几帧音频来预判唇形，同时用多模态奖励加权的蒸馏方法“择优录取”，最终在H200上跑出了20 FPS、延迟不足1秒的惊人速度，且质量损失可控。短板：尽管速度飞起，但在同步性（Sync-C）和语音识别准确率（WER）等绝对指标上，依然能看到与教师模型Ovi的明显差距，而且论文并未与另一个强劲的实时竞争者OmniForcing进行正面比较，说服力稍打折扣。 ...

📄 Scaling Properties of Continuous Diffusion Spoken Language Models #语音大模型 #预训练 #扩散模型 #多语言 🔥 8.0/10 | 前25% | #语音生成 | #扩散模型 | #语音大模型 #预训练 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Jason Ramapuram（†工作完成于Apple） 通讯作者：Jason Ramapuram (jason@ramapuram.net)；Eeshan Gunesh Dhekane (eeshan@apple.com)；Amitis Shidani (amitis_shidani@apple.com)；Tatiana Likhomanenko (antares@apple.com) （论文未明确指定单一通讯作者，以上四位均列出） 作者列表： Jason Ramapuram† Eeshan Gunesh Dhekane* Amitis Shidani* Dan Busbridge Bogdan Mazoure† Zijin Gu Russ Webb Tatiana Likhomanenko⋆ Navdeep Jaitly†⋆ 所属机构：全部隶属于 Apple。⋆和†符号分别表示核心建议者和工作在Apple完成，但作者单位均标注为Apple。 💡 毒舌点评 本文严谨地证明了连续扩散语音模型同样遵循缩放定律，且在高计算预算下展现出比自回归模型更优的“效率前沿”，为语音生成范式之争提供了坚实的数据支撑。然而，最精妙的16B模型实验仍未能攻克长篇连贯性的终极难题，无情地揭示了当前范式与文本模型之间的能力鸿沟，可能预示着语音原生生成道路的艰辛。 ...

📄 Talker-T2AV: Joint Talking Audio-Video Generation with Autoregressive Diffusion Modeling #语音合成 #音视频 #自回归模型 #扩散模型 #流匹配 ✅ 7.5/10 | 前25% | #语音合成 | #自回归模型 | #音视频 #扩散模型 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Zhen Ye（根据作者列表顺序推断，论文中未明确标注“第一作者”） 通讯作者：未说明（论文中未明确标注通讯作者） 作者列表：Zhen Ye, Xu Tan, Aoxiong Yin, Hongzhan Lin, Guangyan Zhang, Peiwen Sun, Yiming Li, Chi-Min Chan, Wei Ye, Shikun Zhang, Wei Xue（所有作者所属机构均未在论文正文中明确说明，仅提供了个人姓名。机构信息可能在论文PDF的其他部分或补充材料中，但未在所提供的全文文本中提及。） 💡 毒舌点评 亮点： 论文提出的“解耦”设计哲学很聪明——把高层次的跨模态语义对齐（自回归骨干网络负责）和低层次的信号渲染（独立的扩散头负责）分开，不仅逻辑清晰，而且实验证明在同步性和质量上都优于全流程纠缠的Dual-DiT方案，同时用一个模型统一了三种任务。短板： 视频生成质量的天花板明显受限于所选的LIA-X运动自编码器，论文也坦承了这一点；此外，自回归模型在长序列上误差累积的问题可能导致生成超长语音时质量下降，这在实际应用中是个潜在痛点。 📌 核心摘要 要解决什么问题： 现有联合音视频生成模型（如Dual-DiT）在整个去噪过程中通过密集的跨模态注意力耦合音频和视频，将高层语义和底层信号细节混为一体，导致建模效率低下。同时，这些模型通常输出固定长度，无法适应文本长度和说话节奏的变化。 方法核心是什么： 提出Talker-T2AV，一个两阶段的自回归扩散框架。第一阶段（跨模态建模）：将音频和视频编码为时间对齐的潜在序列（25Hz），通过元素级求和融合后，输入到一个共享的自回归语言模型骨干网络中，以补丁级进行自回归生成，捕捉高层跨模态时序结构。第二阶段（模态特定渲染）：使用两个独立的轻量级扩散Transformer头，分别将共享的隐状态解码为音频和视频的潜在补丁。 与已有方法相比新在哪里： ① 架构解耦： 首次将联合生成解耦为“高层语义对齐”与“底层信号渲染”两个明确阶段，避免了不必要的全过程跨模态纠缠。② 灵活性： 通过元素级求和设计，一个模型无需修改即可支持文本到音视频、音频到视频（说话头生成）、视频到音频（配音）三种任务。③ 可变长度输出： 基于自回归范式和停止预测器，支持生成任意长度的输出。 主要实验结果如何： 联合生成 (T2AV)： 在中英文测试集上，与5个Dual-DiT基线（MoVA, Ovi, LTX-2, UniVerse-1, UniAVGen）相比，本文方法在语音可懂度（CER/WER最低）、视频保真度（FVD最佳）和唇音同步（SyncNet C最高， D最低）上均取得最佳或并列最佳结果。 音频驱动 (A2V)： 在中英文测试集上，与5个专用方法（FLOAT, EchoMimic, Sonic, Ditto, AniPortrait）相比，本文方法在视频质量和同步性上综合表现最优（例如，英文Sync-C为5.85，最高）。 视频配音 (V2A)： 在Chem数据集上，与5个专用配音系统相比，本文方法在情感相似度（EMO-SIM）、语音可懂度（WER）和自然度（UTMOS）三项指标上均达到最佳，时长对齐（DD）接近最佳。 消融实验： 验证了“元素级求和”融合方式在同步性和效率上优于“交错”或“延迟”排列。 （详细结果表格见“详细分析”部分） 实际意义是什么： 该工作推动了更自然、同步且灵活的虚拟人交互技术的发展。统一的框架降低了构建和部署多模态生成系统的复杂度，为实时对话、虚拟主播、多模态翻译等应用提供了新的技术路径。 主要局限性是什么： ① 自回归骨干在连续潜在空间上的预测误差会随序列增长而累积，影响长音频生成质量。② 视频的最终保真度受限于所采用的LIA-X运动自编码器的表达能力。③ 论文未提及训练所使用的具体硬件和时长，硬件消耗未知。 🏗️ 模型架构 论文整体架构如图1所示，采用“自回归扩散”的两阶段解耦设计。 ...

📄 UniSonate: A Unified Model for Speech, Music, and Sound Effect Generation with Text Instructions #音频生成 #流匹配 #扩散模型 #统一音频模型 #语音合成 🔥 8.5/10 | 前25% | #音频生成 | #流匹配 | #扩散模型 #统一音频模型 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Chunyu Qiang（天津大学， 快手科技） 通讯作者：Longbiao Wang（天津大学）， Jianwu Dang（天津大学） 作者列表：Chunyu Qiang（天津大学， 快手科技）、Xiaopeng Wang（快手科技）、Kang Yin（快手科技）、Yuzhe Liang（快手科技）、Yuxin Guo（快手科技， 中国科学院自动化研究所）、Teng Ma（快手科技）、Ziyu Zhang（快手科技）、Tianrui Wang（天津大学）、Cheng Gong（天津大学）、Yushen Chen（快手科技）、Ruibo Fu（中国科学院自动化研究所）、Chen Zhang（快手科技）、Longbiao Wang（天津大学）、Jianwu Dang（天津大学） 💡 毒舌点评 亮点：论文真正实现了语音、音乐、音效的“三合一”生成，且通过精巧的“动态token注入”和“课程学习”让这个庞然大物不仅能跑，还在语音和音乐的主流评测中刷出了新SOTA，证明了“团结就是力量”。 短板：在音效生成这个“混沌领域”，这个统一模型还是打不过那些专精于此的专门模型（如GenAU-L），并且论文未开源代码和模型，让其优秀的实验结论暂时停留在了“可看不可摸”的阶段。 ...

📄 Video-Robin: Autoregressive Diffusion Planning for Intent-Grounded Video-to-Music Generation #音乐生成 #扩散模型 #自回归模型 #音视频 #基准测试 ✅ 7.0/10 | 前25% | #音乐生成 | #扩散模型 #自回归模型 | #扩散模型 #自回归模型 | arxiv 学术质量 4.5/7 | 选题价值 1.5/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Vaibhavi Lokegaonkar（University of Maryland College Park, USA） 通讯作者：Vaibhavi Lokegaonkar, Aryan Vijay Bhosale（论文中标注为Corresponding authors，邮箱为{vlokegao,aryanvib}@umd.edu） 作者列表： Vaibhavi Lokegaonkar（University of Maryland College Park, USA） Aryan Vijay Bhosale（University of Maryland College Park, USA） Vishnu Raj（University of Maryland College Park, USA） Gouthaman KV（University of Maryland College Park, USA） Ramani Duraiswami（University of Maryland College Park, USA） Lie Lu（Dolby Laboratories, USA） Sreyan Ghosh（NVIDIA, USA） Dinesh Manocha（University of Maryland College Park, USA） 💡 毒舌点评 亮点：该工作将语音合成领域已验证有效的“自回归规划+扩散细化”混合范式，成功迁移到视频音乐生成任务，并通过引入文本条件控制解决了该领域长期存在的“创作者意图表达”短板，工程实现和实验验证都做得非常扎实。短板：其核心架构思想并非首创（如DiTAR），且评估主要集中在10秒短片段，对于真正考验音乐结构连贯性的长视频配乐场景缺乏验证，使得其“里程碑”成色稍显不足。 ...

📄 CoInteract: Physically-Consistent Human-Object Interaction Video Synthesis via Spatially-Structured Co-Generation #视频生成 #扩散模型 #多模态 #人机交互 ✅ 7.5/10 | 前25% | #视频生成 | #扩散模型 | #多模态 #人机交互 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Xiangyang Luo（清华大学，†阿里巴巴集团实习期间完成） 通讯作者：Xiaozhe Xin（阿里巴巴集团） 作者列表： Xiangyang Luo（清华大学，†阿里巴巴集团） Xiaozhe Xin（阿里巴巴集团，‡通讯作者） Tao Feng（阿里巴巴集团） Xu Guo（阿里巴巴集团） Meiguang Jin（阿里巴巴集团） Junfeng Ma（阿里巴巴集团） 💡 毒舌点评 亮点在于其“训练时注入物理约束，推理时零开销”的双流范式设计非常巧妙，有效平衡了生成质量与效率；但短板是论文对所用数据集的具体构成、清洗标准和规模描述模糊（仅称“12K high-quality clips”），且未公开数据集，这严重限制了工作的可复现性和公平比较的基础。 📌 核心摘要 问题：现有视频扩散模型在生成人机交互（HOI）视频时，常出现手/脸结构崩溃和人机物理穿透等问题，根源在于模型缺乏对3D空间关系和交互结构的理解。 方法核心：提出CoInteract框架，核心是“空间结构化协同生成”范式。在一个共享的DiT骨干中联合训练RGB外观流和辅助的HOI结构流（去除纹理的轮廓图），后者通过非对称注意力机制向RGB流注入几何约束。同时，引入“人感知混合专家”模块，通过空间监督路由将手/脸区域的token分配给专用专家处理。 新意：首次将物理交互先验直接嵌入视频生成骨干网络的训练过程，并通过非对称掩码设计确保推理时无需辅助分支，实现了零额外开销。相比依赖外部预处理或后处理的方法，这是一种更端到端的解决方案。 结果：在多个指标上显著超越现有方法。例如，在VLM-QA（HOI合理性）上达到0.72（最佳），HQ（手部质量）达到0.724（最佳），用户研究在交互合理性上排名第一（平均排名1.79）。消融实验证明每个组件都有效。 意义：推动了高质量、物理一致的HOI视频合成技术发展，对电商直播、虚拟广告等应用有直接价值。 局限性：所用数据集未公开，具体规模和细节不足；模型在极端复杂或罕见交互上的泛化能力未充分验证；训练所需的计算资源（如GPU时长）未说明。 🏗️ 模型架构 CoInteract是一个端到端的视频生成框架，基于Diffusion Transformer（DiT）骨干构建。 ...

📄 Anonymization, Not Elimination: Utility-Preserved Speech Anonymization #语音匿名化 #流匹配 #扩散模型 #模型评估 #音频安全 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Yunchong Xiao*, Yuxiang Zhao*（上海交通大学，计算机科学与技术学院，X-LANCE实验室） 通讯作者：Jiachun Liao（南湖实验室，大数据技术研究中心），Xie Chen（上海交通大学，计算机科学与技术学院，X-LANCE实验室） 其他作者： Ziyang Ma（上海交通大学，计算机科学与技术学院，X-LANCE实验室） Shuai Wang（南京大学，智能科学与技术学院） Kai Yu（上海交通大学，计算机科学与技术学院，X-LANCE实验室） 💡 毒舌点评 这篇论文的亮点在于把“匿名化”和“消除”分得门儿清，用流匹配生成千变万化的新“声纹”，而不是粗暴地抹掉或替换，还煞有介事地设计了从头训练下游模型的评估协议，这比那些拿预训练模型在匿名数据上跑个分就完事的“表面功夫”扎实多了。槽点嘛，内容匿名化部分对“语言风格”这种更隐蔽的PII保护力度似乎还不够，而且这么复杂的两阶段框架，真要部署到实时系统里，估计得把服务器累得够呛。 📌 核心摘要 这篇论文针对语音数据隐私保护中“隐私泄露”与“数据效用损失”的核心矛盾，提出了一个新颖的两阶段框架。首先，为解决语音匿名化（保护“谁在说”）中身份多样性不足和可控性差的问题，提出了基于流匹配的说话人嵌入匿名器（F3-VA），它能生成多样且与原始说话人充分分离的新身份。其次，为解决内容匿名化（保护“说了什么”）中传统删除/替换方法导致的声学不连续问题，提出了基于生成式语音编辑的管道（SECA），能无缝替换个人隐私信息。更重要的是，论文提出了一种更真实的效用评估协议，即通过在匿名化数据上从头训练ASR、TTS和SER模型来评估其作为训练资源的价值，而非仅在预训练模型上测试。实验表明，该框架在VoicePrivacy Challenge基线对比中，在提供更强隐私保护（更高的声学和内容验证等错误率）的同时，显著降低了下游任务性能的损失。 🏗️ 模型架构 本论文提出了一个统一的两阶段语音隐私保护框架，整体流程如下： 第一阶段：语音匿名化（F3-VA） 输入：原始语音波形。 特征提取与解耦： 语义内容：使用预训练的HuBERT-large模型提取语义特征 f_sem，并通过向量量化（VQ）层得到 c_vq，作为信息瓶颈去除残余说话人信息。 韵律特征：使用RMVPE模型提取基频（F0），转换为半音尺度并减去句中位数，得到归一化的音高特征 p_norm。 说话人身份：使用预训练的CAM++模型提取192维的说话人嵌入 s_orig。 c_vq 和 p_norm 共同构成“说话人无关特征”。 语音重建骨干网络：基于扩散Transformer（DiT）的条件流匹配模型。 输入：将高斯噪声 x0 与对齐后的说话人无关特征拼接，并以原始说话人嵌入 s_orig 和时间步 t 为全局条件。 过程：学习一个概率流，将噪声 x0 变换为目标梅尔频谱图 x1。 输出：预测流场，通过MSE损失进行监督。 说话人嵌入匿名器（核心创新）：一个基于流匹配的生成模型，用于生成匿名的说话人嵌入 s_anon。 编码（ODE-1）：将原始说话人嵌入 s_orig 通过逆向流映射回标准高斯分布 z_orig。 混淆：将 z_orig 与一个独立采样的随机噪声 z_rand 进行线性插值，得到 z_anon。插值权重 w 控制原始身份的保留强度。 生成（ODE-2）：将 z_anon 通过正向流映射回说话���嵌入空间，得到匿名的 s_anon。 声学重建（ODE-3）：以 s_anon 和说话人无关特征为条件，运行语音重建骨干网络的ODE，从高斯噪声生成匿名的梅尔频谱图 x_anon。 输出：通过声码器将 x_anon 合成匿名语音波形。 第二阶段：内容匿名化（SECA） ...

📄 Latent Fourier Transform #音乐生成 #扩散模型 #生成模型 #数据集 #音频生成 ✅ 评分：7.5/10 | arxiv 👥 作者与机构 第一作者：Mason L. Wang (MIT CSAIL) 通讯作者：Cheng-Zhi Anna Huang (MIT CSAIL) 其他作者：无 💡 毒舌点评 亮点：这篇论文最妙的地方在于，它没有去折腾音频波形本身，而是聪明地给音乐模型的“脑内活动”（潜在表示）做了一次傅里叶体检，然后像调EQ一样去调节音乐在不同时间尺度上的特征，思路非常清奇且有效。槽点：目前这“脑内手术”需要专门训练一套模型才能做，还不能直接给一个现成的音乐生成模型（如MusicLM）装上这个“傅里叶控制插件”，限制了其即插即用的潜力。 📌 核心摘要 这篇论文旨在解决现有音乐生成模型难以对任意时间尺度上的音乐模式进行精确控制的问题。作者提出了潜在傅里叶变换（LatentFT） 框架，其核心是将离散傅里叶变换应用于由扩散自编码器编码得到的潜在向量序列，从而得到“潜在频谱”。通过在训练过程中对潜在频谱进行随机频率掩码，迫使解码器学会从部分频率信息中重建音乐，使得训练后的模型潜在空间对频率域操作具有鲁棒性。这使得用户可以在推理时，通过指定潜在频率（对应音乐模式的时间尺度）来生成保留特定尺度特征的变体，或将两首乐曲按不同时间尺度进行混合。实验表明，LatentFT在条件生成和混合任务的保真度与质量上均优于多个基线方法。用户研究也证实了其生成质量和混合效果更受青睐。此外，论文还展示了隔离特定潜在频率以“聆听”对应音乐模式，以及分析不同音乐属性（如流派、和声、节奏）在潜在频谱中分布的能力。该工作为生成模型引入了一种直观、连续的频率域控制维度，推动了更可解释、可交互的音乐生成模型的发展。其局限性在于需要端到端训练特定模型，且目前主要应用于音乐领域。 🏗️ 模型架构 LatentFT 是一个端到端的编码器-解码器架构，其完整流程如下： 编码阶段： 输入：音频波形或梅尔频谱图 x₀。 编码器：将 x₀ 映射为一个时间序列的潜在向量 z ∈ R^(C'×T')。论文尝试了三种编码器：帧级MLP、1D U-Net（基于梅尔谱）和基于Descript音频编解码器（DAC）的编码器+1D U-Net。 潜在傅里叶变换：对潜在序列 z 沿时间轴应用离散傅里叶变换（DFT），得到潜在频谱 Z ∈ C^(C'×K)。Z 的频率轴称为潜在频率轴，其上的频率（Hz）对应于潜在序列振荡的速率，即音乐模式的时间尺度。 频率掩码（训练时随机，推理时用户指定）： 采样一个随机阈值 η 和一组频率分箱得分 s（通过相关矩阵 K 生成，使相邻分箱得分相关）。 生成二进制掩码 M，保留得分高于阈值的分箱。 应用掩码：Z_masked = Z ⊙ M。 逆变换：对掩码后的频谱 Z_masked 应用逆DFT，得到频率掩码后的潜在序列 z_masked。 解码/生成阶段： 解码器：一个基于扩散模型的U-Net。其输入是：(a) 频率掩码后的潜在序列 z_masked（作为条件），(b) 带噪的梅尔频谱图 x_τ（训练时为加噪的真实数据，推理时为随机噪声），(c) 噪声水平 τ。 输出：预测的干净梅尔频谱图 x̂₀。最终通过BigVGAN声码器将梅尔谱转换为音频波形。 关键设计理由： 使用扩散自编码器：结合了表示学习（编码器）和强大的生成能力（扩散解码器），且其潜在表示具有语义意义。 在潜在空间而非音频空间做傅里叶变换：音频的频谱对应音色，而潜在序列的频谱对应音乐模式的时间变化（如和弦变化、节奏型）。这使得控制直接作用于音乐结构。 训练时频率掩码：这是核心创新。它迫使解码器学会从不完整的频率信息中连贯地重建音乐，从而使潜在空间对频率域操作（如掩码、混合）变得鲁棒。没有这一步，直接对预训练模型的潜在表示进行频率滤波会导致生成质量严重下降（如消融实验所示）。 相关分组与对数频率缩放：生成连续的掩码区域，更符合用户实际操作习惯，并平衡了1/f频谱中高低频能量不均的问题。 💡 核心创新点 潜在傅里叶变换（Latent Fourier Transform）的概念： ...

📄 Beyond Monologue: Interactive Talking-Listening Avatar Generation with Conversational Audio Context-Aware Kernels #音视频 #扩散模型 #多模态模型 #数据集 #全双工交互 🔥 评分：9.0/10 | arxiv 👥 作者与机构 第一作者：Yuzhe Weng (翁宇哲)，中国科学技术大学 (USTC) 通讯作者：Jun Du (杜俊)，中国科学技术大学 (USTC)，邮箱：jundu@ustc.edu.cn 其他作者： Haotian Wang (王浩天)，中国科学技术大学 (USTC) Xinyi Yu (余欣怿)，中国科学技术大学 (USTC) Xiaoyan Wu (吴晓燕)，科大讯飞 (iFLYTEK) Haoran Xu (徐浩然)，科大讯飞 (iFLYTEK) Shan He (何山)，科大讯飞 (iFLYTEK) 💡 毒舌点评 亮点：用“多尺度高斯核注意力”这个优雅的数学工具，把“看口型”和“懂语境”这两个打架的脑区给整合到一个模型里了，思路清晰又有效。槽点：虽然建模了上半身反应，但离生成真正富有表现力的、带手势的全身交互动作还有距离，算是给未来挖了个大坑。 📌 核心摘要 本文旨在解决从单向“独白”式虚拟人生成迈向自然“全双工”交互式生成的核心挑战。核心问题在于，现有方法要么因严格的帧对齐而反应僵硬，要么因引入全局注意力而破坏唇同步。关键方法是提出一个基于多头高斯核（MHGK）的统一注意力架构，该机制通过为不同的注意力头分配从窄到宽的高斯分布感受野，使模型能同时学习精细的唇形对齐（窄感受野）和长程的对话上下文（宽感受野）。此外，论文构建了双流架构以处理同步的说话与聆听音频，并引入任意位置引导训练策略以提升长视频生成的稳定性。为支撑研究，还构建了大规模、音视频解耦的对话数据集VoxHear（1206小时）。主要发现表明，该方法在唇同步精度、身份保持、视觉质量和用户感知自然度等多个维度上均显著优于现有技术。实际意义在于为构建能理解对话上下文并做出自然反应的下一代交互式数字人提供了坚实的技术框架和数据基础。局限性在于目前主要聚焦于上半身反应，对更复杂全身姿态和手势的生成能力有待探索。 🏗️ 模型架构 本模型是一个基于流匹配（Flow Matching） 和扩散Transformer（DiT） 的端到端视频生成框架，旨在根据一张参考肖像图、一段说话音频和一段聆听音频，生成对应的交互式视频。 整体流程： 输入：参考图像 I_ref，说话音频序列 A_talk，聆听音频序列 A_listen。 音频编码与注入： 使用预训练的Wav2Vec 2.0编码器提取两路音频的多层特征。 设计独立的自适应音频Q-Former（Talking和Listening分支各一个）对音频特征进行压缩和跨模态对齐。每个Q-Former在时间窗口内使用可学习的查询（Queries）通过交叉注意力聚合音频特征。这允许两路音频自适应地融合不同层次的语义信息，并为分类器自由引导（CFG）生成更平滑的无条件嵌入。 编码后的音频特征通过3D时空交叉注意力注入到视频潜在表示中，使用1D旋转位置编码（RoPE） 保持时序对齐。 核心注意力机制 - 多头高斯核（MHGK）： 在计算视频与音频的交叉注意力时，为每个注意力头 h 引入一个高斯时序偏置矩阵 B^(h)。 该矩阵 B^(h)(i, j) = α_h * (1 - exp(-(i-j)^2 / (2σ_h^2))) 作为距离惩罚项加入注意力分数中。其中 σ_h 控制感受野宽度，α_h 控制惩罚强度。 通过为不同头设置不同的 σ_h，模型能动态分配感受野：σ_h → 0 时，退化为严格局部注意力，确保唇同步；σ_h → ∞ 时，偏置趋近于0，变为全局注意力，用于捕捉上下文语义和情感。 视频生成与解码： 模型基于Wan2.2-5B DiT骨干网络，使用其VAE将视频压缩为潜在表示。 训练目标是最小化流匹配损失：L_FM = E[||v_θ(x_t, t, c) - (x_1 - x_0)||^2]，其中 c 包含参考图像和双路音频条件。 推理时，从噪声 x_0 出发，通过求解常微分方程（ODE）逐步去噪得到生成视频 x_1。 训练策略 - 两阶段增量训练： 阶段一（说话优先）：仅使用说话音频适配器，在大规模单人说话数据上训练，让模型先掌握精确的唇同步和自然的说话行为。 阶段二（聆听融合）：引入聆听音频适配器，在VoxHear数据集上微调，使模型学会在保持说话能力的同时，对聆听音频做出自然的交互反应。 💡 核心创新点 多头高斯核（MHGK）注意力机制： ...

📄 Elucidating the SNR-t Bias of Diffusion Probabilistic Models #扩散模型 #生成模型 #模型评估 🔥 评分：8.0/10 | arxiv 👥 作者与机构 第一作者：Meng Yu (兰州大学，AMAP阿里巴巴集团) 通讯作者：Kun Zhan (兰州大学) 其他作者：Lei Sun (AMAP阿里巴巴集团), Jianhao Zeng (AMAP阿里巴巴集团), Xiangxiang Chu (AMAP阿里巴巴集团) 注：论文说明工作是在AMAP阿里巴巴集团实习期间完成的。 💡 毒舌点评 亮点在于，它像一个侦探，揪出了扩散模型里一个藏得很深的“内鬼”——SNR-t偏差，并给出了“犯罪动机”（理论证明）和“抓捕方案”（DCW校正）。槽点是，这个“抓捕方案”虽然有效，但更像是对现有工具（小波变换、差分引导）的精巧组装，而不是发明了全新的武器，理论深度和方法的新颖性相比其提出的问题深度略有逊色。 📌 核心摘要 这篇论文的核心贡献是识别并系统分析了扩散概率模型（DPMs）中一个基础性问题——信噪比-时间步（SNR-t）偏差。该偏差指推理时去噪样本的实际SNR与其所分配时间步t所理论对应的SNR不匹配，这种错位源于训练时的严格耦合在推理时被累积误差打破。作者通过详实的实验（滑动窗口测试、前向与反向过程对比）揭示了网络对SNR不匹配样本的预测规律，并提供了理论证明。为缓解此偏差，论文提出了一种无需训练、即插即用的动态差分校正方法（DCW），它在小波域对不同频率分量进行校正，以对齐反向样本分布与前向扰动分布。实验表明，DCW能显著提升包括IDDPM、ADM、EDM、FLUX等在内的多种DPMs在CIFAR-10、ImageNet等数据集上的生成质量（如FID降低），且计算开销可忽略不计。 🏗️ 模型架构 本文的核心并非提出一个全新的扩散模型架构，而是对现有DPMs（如DDPM、ADM、EDM等）的推理过程进行分析并提出一个即插即用的校正模块。整体流程如下： 输入：标准高斯噪声 x_T。 标准扩散推理过程：使用任意现有的DPM（如ADM）及其采样器（如DDIM），进行T步迭代去噪。在每一步t，网络 ε_θ(·, t) 根据当前样本 x_t 和时间步t预测噪声，并据此计算去噪样本 x_{t-1} 和重建样本 x_θ^0(x_t, t)。 SNR-t偏差分析：论文发现，由于误差累积，反向过程得到的样本 x̂_t 的实际SNR低于其时间步t对应的理论SNR（Key Finding 2），这导致网络预测出现系统性偏差（Key Finding 1：低SNR输入导致噪声预测高估）。 DCW校正模块（核心贡献）：在每一步去噪后，不直接使用 x_{t-1} 作为下一步输入，而是对其进行校正。 a. 差分校正信号生成：计算当前步的去噪结果 x̂_{t-1} 与重建样本 x_θ^0(x̂_t, t) 之间的差值信号 d = x̂_{t-1} - x_θ^0(x̂_t, t)。理论分析（Eq. 16）表明，该差值信号包含了指向理想扰动样本 x_{t-1} 的梯度信息。 b. 小波域分解：为对齐DPM“先低频后高频”的去噪特性并减少噪声干扰，将 x̂_{t-1} 和 x_θ^0(x̂_t, t) 通过离散小波变换（DWT）分解为四个子带：低频（ll）和三个高频（lh, hl, hh）。 c. 分频率校正：对每个子带 f 分别应用差分校正：x̃_{t-1}^f = x̂_{t-1}^f + λ_t^f * (x̂_{t-1}^f - x_θ^0_f(x̂_t, t))。其中 λ_t^f 是动态权重。 d. 动态权重策略：权重 λ_t^f 根据时间步和频率分量动态调整。利用反向过程方差 σ_t 作为去噪进度指示器。低频权重 λ_t^l = λ_l * σ_t（早期去噪阶段权重高），高频权重 λ_t^h = (1 - λ_h) * σ_t（后期去噪阶段权重高）。 e. 重构：将校正后的各子带通过逆离散小波变换（iDWT）合并，得到校正后的样本 x̃_{t-1}，作为下一步迭代的输入。 输出：经过T步（包含DCW校正）后，得到最终生成的干净样本 x_0。 关键设计理由： ...