MUNI: Multimodal Unified Latent Diffusion for Coherent Any-to-Any Generation
📄 MUNI: Multimodal Unified Latent Diffusion for Coherent Any-to-Any Generation #语音生成 #音频生成 #多模态模型 #扩散模型 #流匹配 #变分推断 #变分自编码器 6.9/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0.1/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 6.9/10 | 前50% | #语音生成 | #变分推断 | #音频生成 #多模态模型 | arxiv 👥 作者与机构 作者:Kyeongmin Yeo, Yunhong Min, Minhyuk Sung 机构:KAIST 💡 毒舌点评 本文立意不错,试图从变分推断第一性原理出发解决多模态生成中的“一致性”痛点。理论分析部分逻辑清晰,提出了三个潜在空间准则并设计了相应的路由目标,这种“讲道理”的方式值得肯定。实验也表明其在无条件联合生成的一致性指标上有显著提升。然而,论文的核心创新点在于理论分析和目标设计,而实现这些目标的架构(编码器、解码器、先验)本身并无革命性变化。此外,理论证明依赖于多个理想化假设,其现实适用性存疑。最遗憾的是,缺少了对自身关键设计选择(如路由策略、不同聚合规则)的消融实验,使得理论分析与实际性能提升之间的因果链条不够坚固。在影响力方面,对于本领域的读者而言,这项工作的直接可借鉴性有限,更像一个针对视觉主导的多模态生成的“特解”。 📌 核心摘要 MUNI是一个面向任意多模态生成(any-to-any generation)的统一框架。它扩展了联合训练的单模态潜在扩散模型到多模态场景,核心在于两点:1)架构上,引入模态特定的编码器、表达力强的解码器和一个共享的流匹配先验;2)目标上,设计了一个路由训练目标,该目标通过非混合聚合、目标解耦的自重建以及仅在留一子集上训练先验等策略,使共享潜在变量同时满足一致性充分、预测充分和最小性这三个准则。实验在合成和真实图像-文本-音频数据上进行,结果表明MUNI在条件生成任务上不弱于强基线,而在更难的无条件联合生成任务上,其生成的模态间一致性显著优于现有方法。 ...