音视频生成

📄 OmniNFT: Modality-wise Omni Diffusion Reinforcement for Joint Audio-Video Generation #音视频生成 #强化学习 #流匹配 #多模态模型 ✅ 6.9/10 | 前25% | #音视频生成 | #强化学习 #流匹配 | #强化学习 #流匹配 | arxiv 学术质量 5.5/8 | 影响力 1.5/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 通讯作者：Feng Zhao（中国科学技术大学） 项目负责人：Lin Song（京东探索研究院） 作者列表：Guohui Zhang（中国科学技术大学）、Xiaoxiao Ma（中国科学技术大学）、Jie Huang（中国科学技术大学）、Hang Xu（中国科学技术大学）、Hu Yu（中国科学技术大学）、Siming Fu（京东探索研究院）、Yuming Li（北京大学）、Zeyue Xue（京东探索研究院）、Lin Song（京东探索研究院）、Haoyang Huang（京东探索研究院）、Nan Duan（京东探索研究院）、Feng Zhao（中国科学技术大学） 💡 毒舌点评 亮点：论文对联合音视频生成中应用强化学习（RL）时出现的“优化不匹配”问题（优势值不一致、梯度不平衡、信用分配均匀）进行了系统且令人信服的分析，提出的三个针对性解决方案（模态路由、梯度手术、区域重加权）逻辑自洽且有实验验证。 短板：本质上是将多个启发式技术组合到现有的流匹配扩散模型RL微调框架（DiffusionNFT）上，虽然有效，但创新性更偏向于工程优化和问题诊断，缺乏一个统一的理论视角或更根本的算法突破，使其听起来更像是一个“针对特定问题的实用补丁合集”。 📌 核心摘要 要解决什么问题：在使用强化学习（RL）对联合音视频生成模型进行后训练时，直接应用vanilla RL（如GRPO）会导致性能不佳。论文深入分析并指出了三大核心障碍：(i) 多目标优势值不一致（视频和音频的质量评价不总是相关）；(ii) 多模态梯度不平衡（视频分支梯度会干扰音频分支的浅层生成）；(iii) 均匀信用分配（忽略了音视频同步等关键区域的重要性差异）。 方法核心是什么：提出了OmniNFT框架，通过三个协同设计来解决上述问题：(1) 模态级优势路由：分别为视频质量、音频质量和音视频同步计算独立的优势值，并路由到对应的模型分支；(2) 层级梯度手术：在音频分支的浅层Transformer块中，有选择地切断（detach）来自视频分支的梯度，以保护其模态内生成功能；(3) 区域级损失重加权：利用音频分支中V2A交叉注意力图作为关键区域的代理，对损失进行空间上的重新加权，以强化重要区域的优化。 与已有方法相比新在哪里：据作者所知，这是首次系统性地探索将RL应用于联合音视频生成任务，并诊断了其特有的优化不匹配问题。相比于之前单模态（文本到图像/视频）的RL微调方法，OmniNFT的三个组件是专门针对多模态联合生成中的跨模态交互、梯度流和精细对齐问题而设计的。 主要实验结果如何：在JavisBench和VBench上，以LTX-2（19B参数）为骨干模型进行验证。 主实验（表1）：与基础LTX-2相比，OmniNFT在视觉质量（VQ: 2.038 -> 3.326, +63.2%）、音频质量（AQ: 5.197 -> 5.715, +10.0%）和音视频同步（DeSync: 0.569 -> 0.269, -52.7%）上均取得显著提升，整体表现优于同规模的LTX-2+GDPO基线。 消融实验（表3）：逐步添加三个组件，每个组件都带来了性能增益，特别是梯度手术显著提升了音频质量（AQ: 5.523 -> 5.917），区域重加权进一步优化了同步和一致性。 实际意义是什么：该方法为提升联合音视频生成模型的实用性能（高保真、强对齐、细同步）提供了一套有效的后训练方案，可能推动音视频生成技术在内容创作等领域的实际应用。 主要局限性是什么：方法依赖于预训练的双流扩散模型骨干（如LTX-2）和特定的多奖励模型；实验主要在单一骨干和两个基准上进行，泛化性有待进一步验证；部分设计（如层级分离阈值L、重加权系数λ）仍为经验性选择。 🔗 开源详情 代码：论文中未提及代码链接（论文仅提供了项目主页 https://zghhui.github.io/OmniNFT/，未提供代码仓库的GitHub等链接）。 模型权重：论文中未提及（论文提到使用LTX-2作为骨干网络进行实验，但未提供其预训练权重的具体下载链接；论文中提到的奖励模型如VideoAlign、HPSv3、Audiobox Aesthetics、CLAP等也未提供权重链接）。 数据集：论文中未提及（论文在实验中使用了JavisBench和VBench进行评估，但未提供这两个数据集的具体获取链接或开源协议）。 Demo：论文中未提及。 复现材料：论文中未提及（论文提供了一些默认超参数设置，如层边界 L=10，分离比率 αs=0.1，区域重加权强度 λ=1.50，采样组大小 G=8，但未提供完整的训练配置文件、检查点或详细附录）。 论文中引用的开源项目：论文中提及了以下开源项目或工具，但未在文中提供其具体链接。 LTX-Video (文中称 LTX-2)：用于联合音视频生成的骨干模型。 Wan：用于视频生成的项目。 DiffusionNFT：本文方法所基于的微调范式。 UniVerse-1：一种联合音视频生成方法。 JavisBench：用于评估联合音视频生成的基准测试集。 VBench：用于评估视频生成质量的基准测试集。 VideoAlign：用于视频质量评估的奖励模型。 HPSv3：用于视频质量评估的奖励模型。 Audiobox Aesthetics：用于音频质量评估的奖励模型。 CLAP：用于音视频-文本对齐评估的模型。 ImageBind (IB)：用于跨模态对齐评估的模型。 CLIP：用于文本-视频对齐评估的模型。 🏗️ 方法概述和架构 OmniNFT是一个针对联合音视频生成任务的模态感知在线扩散强化学习微调框架。它在预训练的双流扩散模型（如LTX-2）基础上进行优化，整体流程遵循标准的RL微调范式：采样生成、奖励评估、优势计算、策略优化。 ...

📄 JavisDiT++: Unified Modeling and Optimization for Joint Audio-Video Generation #音视频生成 #流匹配 #扩散模型 #多模态模型 ✅ 7.5/10 | 前25% | #音视频生成 | #流匹配 | #扩散模型 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu, Yanhao Zheng, Kai Wang（共同第一作者） Kai Liu：浙江大学，与HiThink Research有关 Yanhao Zheng：未明确说明机构 Kai Wang：多伦多大学 通讯作者：Hao Fei（新加坡国立大学） 作者列表： Kai Liu (浙江大学, HiThink Research) Yanhao Zheng (未说明具体机构) Kai Wang (多伦多大学) Shengqiong Wu (新加坡国立大学) Rongjunchen Zhang (HiThink Research) Jiebo Luo (罗切斯特大学) Dimitrios Hatzinakos (多伦多大学) Ziwei Liu (南洋理工大学) Hao Fei (新加坡国立大学，通讯作者) Tat-Seng Chua (新加坡国立大学) 💡 毒舌点评 论文的最大亮点在于提出了一个简洁且高效的统一框架（MS-MoE + TA-RoPE），显著缩小了开源联合音视频生成模型与商业模型Veo3之间的差距。然而，所有实验仅在标准学术基准（JavisBench）上进行，缺乏对真实世界长尾场景、复杂语义或大规模生成能力的验证，其声称的“里程碑”意义有待更广泛的应用场景检验。 ...

📄 Mutual Forcing: Dual-Mode Self-Evolution for Fast Autoregressive Audio-Video Character Generation #音视频生成 #多模态模型 #扩散模型 #流匹配 #知识蒸馏 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #音视频生成 #多模态模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Yupeng Zhou (南开大学VCIP、通义实验室) 通讯作者：Qibin Hou (南开大学VCIP) 作者列表：Yupeng Zhou¹², Lianghua Huang², Zhifan Wu², Jiabao Wang¹, Yupeng Shi², Biao Jiang²³, Daquan Zhou³, Yu Liu², Ming-Ming Cheng¹, Qibin Hou¹†。¹南开大学计算机科学学院VCIP，²通义实验室，³北京大学。 💡 毒舌点评 该论文提出的“双模式自演化”框架在理论上非常���雅，通过权重共享和相互促进的训练目标，优雅地解决了流式生成中教师模型依赖和训练-推理不匹配的两大痛点，实现了“无师自通”的性能提升。然而，论文在“训练细节”这一关键复现环节上显得不够坦诚，只字未提具体的GPU型号、数量及总训练时长，这对于一个14B参数的大模型而言是严重的缺失，让人怀疑其训练成本的现实可行性。 🔗 开源详情 代码：论文提供了项目主页链接：https://mutualforcing.github.io，但未明确说明代码是否已开源。 模型权重：未提及是否公开预训练模型权重。 数据集：训练使用的具体数据集名称已列出，但未提及这些数据集是否公开或如何获取。 Demo：论文未提及提供在线演示。 复现材料：论文附录包含实现细节（A）、伪代码（B）、损失计算详细推导（D），提供了较好的复现基础。但训练硬件信息缺失是重大遗憾。 论文中引用的开源项目：Wan2.2 VAE, Stable Audio 2.0 VAE, Whisper, SenseVoice, VBench, CLAP, AudioBox-Aesthetics, Emilia, Panda70M等。 📌 核心摘要 解决问题：本文旨在解决大规模自回归音视频联合生成中的两个核心挑战：一是如何有效优化耦合的音视频生成目标，避免训练不稳定和收敛慢；二是如何在严格的延迟约束下实现高质量的流式生成，缓解因自回归误差累积导致的质量退化。 方法核心：提出“Mutual Forcing”框架。首先采用两阶段训练（分别预训练音频、视频分支后联合微调）来稳定优化。核心创新是构建一个权重共享的“双模式”模型：多步模式（高质量）和少步模式（快速）。训练时，两种模式相互促进：多步模式使用少步模式生成的“自推测”历史作为上下文进行训练，以保证训练-推理一致性；少步模式则通过从多步模式进行混合自蒸馏（结合ShortCut和DMD损失）来提升性能。两者参数共享，形成自我演化的闭环。 与已有方法相比新在哪里：与依赖额外双向教师模型（如Self-Forcing）或需要多阶段蒸馏（如CausVid）的方法不同，Mutual Forcing无需外部教师，直接从原生因果模型出发，通过双模式自演化实现少步生成。这使其支持更灵活的训练序列长度，减少了训练开销，并能从真实数据中持续学习提升。 主要实验结果：在音视频同步、音频质量和视频质量等多项指标上，Mutual Forcing使用仅4或8步（NFE）生成时，在多个关键指标上匹配甚至超越了需要50或100步的强基线（如Universe-1, Ovi）。具体数值见下表。在25秒长视频生成实验中，Mutual Forcing的质量指标随时间保持稳定，而基线模型则显著退化。速度对比显示，其在单GPU上可实现30 FPS（192x336）到3.5 FPS（704x1280）的吞吐，远快于基线。 方法 NFE AR LSE-C↑ WER↓ FD↓ KL↓ CE↑ CU↑ PC↓ PQ↑ MS↑ AS↑ ID↑ Universe-1 100 ✗ 6.01 0.26 0.48 0.45 3.61 3.64 1.80 4.06 0.38 0.41 0.85 OVI 100 ✗ 6.19 0.17 0.77 0.27 5.21 5.69 1.67 5.61 0.55 0.42 0.88 Mutual Forcing 4 ✓ 5.26 0.23 0.28 0.16 5.66 6.29 1.64 6.44 0.59 0.45 0.84 Mutual Forcing 8 ✓ 6.35 0.11 0.38 0.21 5.77 6.51 1.61 6.83 0.37 0.47 0.88 表1：与音视频生成基线的定量比较（数据来自论文Table 1） 实际意义：该工作推动了实时交互式音视频内容生成的应用，例如虚拟人直播、游戏NPC对话、视频会议增强等。其高效的流式生成能力降低了服务成本，使得大规模部署成为可能。 主要局限性：论文坦承了两个局限：（1）训练数据覆盖有限，难以处理多说话人交互或第一人称视角等需要大量配对数据的场景；（2）在高分辨率下实现实时生成仍具挑战，未来需在上下文压缩和更极致蒸馏上进行探索。 🏗️ 模型架构 图2：Mutual Forcing框架流程图。展示了双模式权重共享模型如何在训练时通过自演化策略相互促进。 图1：不同训练范式对比。Mutual Forcing从因果模型出发，通过双模式设计实现自蒸馏和一致性训练。 ...