音频生成

📄 HFSQVAE: Hierarchical Vector Quantization with Residuals for Frequency-Specific Embedding #向量量化 #音频生成 #音频分类 #图像重建 #信号处理 ✅ 7.0/10 | 前25% | #音频生成 | #向量量化 | #音频分类 #图像重建 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Min Woo Kim（首尔大学电气与计算机工程系，INMC实验室） 通讯作者：未说明 作者列表：Min Woo Kim（首尔大学电气与计算机工程系，INMC实验室）、Seonji Park（首尔大学电气与计算机工程系，INMC实验室）、Nam Ik Cho（首尔大学电气与计算机工程系，INMC实验室） 💡 毒舌点评 亮点：将“频谱偏差”从模型缺陷转化为可利用的先验知识，用“分而治之”的思路设计分层码本，并用乘积量化高效编码高频残差，逻辑清晰且工程实现合理。 短板：作为一篇发表在ICASSP 2026的论文，未提供任何代码或模型权重，对于一个方法论文来说，这严重削弱了其可复现性和社区影响力；此外，对比的基线方法（VQVAE, SQVAE等）已非当前SOTA，说服力有待加强。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用公开的ImageNet和UrbanSound8K数据集，但论文未说明具体获取或预处理方式。 Demo：未提及。 复现材料：未提供训练细节（如优化器、学习率、batch size）、配置文件、检查点或附录补充说明。 论文中引用的开源项目：论文引用了多个开源工作（如VQVAE、RQVAE），但未明确说明其实现是否基于这些项目。 总结：论文中未提及开源计划，复现难度较高。 📌 核心摘要 这篇论文旨在解决卷积神经网络在向量量化变分自编码器中固有的“频谱偏差”问题，即模型倾向于优先编码低频信息而忽略高频细节。 核心方法是提出HFSQVAE，一个包含两个层次化码本的架构：第一个码本（C_L）利用网络的天然频谱偏差来编码低频成分；第二个码本（C_H）则通过乘积量化技术，专注于编码输入图像减去第一个码本重建结果后得到的高频残差信息。 与已有方法相比，其新意在于：1) 将频率分离作为显式设计目标；2) 在图像空间而非潜在空间处理残差；3) 引入乘积量化以高效扩展高频码本容量；4) 提出交替训练策略以稳定优化。 实验结果表明，HFSQVAE在ImageNet（图像）和UrbanSound8K（音频频谱）数据集上，以更少的码本参数量，取得了优于VQVAE、SQVAE、CVQVAE、RQVAE等基线的重建精度。例如，在ImageNet上PSNR达到29.703（基线最优为27.719），LPIPS降至0.139（基线最优为0.221）。 实际意义在于为图像和音频的离散表示学习提供了一种更高效、更保真的编码方案，可能有助于下游的生成或分析任务。 主要局限性包括：未在更复杂的生成任务（如图像生成）中验证；未与最新的基于扩散模型的生成方法进行比较；且未开源任何实现细节。 ...

📄 Hierarchical Discrete Flow Matching For Multi-Codebook Codec-Based Text-To-Speech #语音合成 #流匹配 #零样本 #音频生成 ✅ 7.5/10 | 前25% | #语音合成 | #流匹配 | #零样本 #音频生成 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 中 👥 作者与机构 第一作者：未说明（论文中列出了多位作者，未明确指出第一作者） 通讯作者：未说明（论文中未明确指出） 作者列表：Joun Yeop Lee（三星研究院，三星电子）、Heejin Choi（三星研究院，三星电子）、Min-Kyung Kim（三星研究院，三星电子）、Ji-Hyun Lee（三星研究院，三星电子）、Hoon-Young Cho（三星研究院，三星电子） 💡 毒舌点评 该论文巧妙地将RVQ编解码器的“由粗到细”先验知识，内化为流匹配模型的训练课程与推理调度，逻辑清晰且实验增益显著，这是其最亮眼的工程创新。然而，论文对训练细节的“黑箱化”处理（如模型具体大小、完整超参数列表、训练时长）和仅有演示页面而无代码公开的现状，让其学术严谨性和社区复现性大打折扣。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开模型权重。 数据集：使用了LibriTTS和Emilia数据集，但未说明是否提供自定义处理版本。LibriTTS是公开数据集，Emilia数据集信息未说明。 Demo：提供了在线演示页面：https://srtts.github.io/hierarchical-dfm 复现材料：论文中给出了部分训练细节（如数据集、迭代步数、GPU型号），但缺失关键超参数（模型维度、完整优化器配置）和训练时长，复现材料不充分。 论文中引用的开源项目：依赖的开源项目/模型包括F5-TTS、HiFi-Codec、Whisper-large-v3、WavLM-large、UTMOS。 整体开源情况：论文中未提及全面的开源计划。 📌 核心摘要 要解决什么问题：现有将离散流匹配（DFM）应用于基于残差向量量化（RVQ）的文本到语音（TTS）时，通常将所有码本视为同等，忽略了浅层码本（捕获粗结构）与深层码本（细化细节）之间的层次依赖关系，导致性能受限。 方法核心是什么：提出分层离散流匹配（H-DFM）。核心包括两方面：训练阶段，采用随机粗细模式课程学习——粗模式下遮蔽细码本噪声样本，仅更新粗码本头；细模式下用真实粗码本条件化，仅更新细码本头。推理阶段，采用粗偏向的两阶段调度——先用大部分步骤（Bc步）稳定粗码本（全局结构），再用少量步骤（Bf步）细化细码本。 与已有方法相比新在哪里：首次系统性地将RVQ的层次结构显式对齐到DFM的训练与推理过程中。相比直接应用DFM（F5-DFM），H-DFM通过架构（多头）和策略（课程学习、偏向调度）强制模型学习码本间的依赖关系，而非独立预测。 主要实验结果如何： 在零样本TTS评估中（NFE=32，粗细比例1/16），H-DFM相比基线显著提升。 关键客观指标对比： 模型 WER (%) ↓ SECS ↑ UTMOS ↑ F5-TTS (连续FM基线) 4.559 0.605 3.853 F5-DFM (朴素离散FM) 4.434 0.564 4.013 F5-H-DFM (本文方法) 3.036 0.609 4.205 H-DFM在可懂度（WER）和说话人相似度（SECS）上均取得最优，并在自然度（UTMOS）上也有较大提升。 消融实验表明，粗细推理比例（rcf=1/16）优于更平衡的比例（1/8, 1/2），验证了粗偏向策略的有效性。 实际意义是什么：为基于RVQ的高质量、非自回归TTS提供了一种更高效的解码方案。通过尊重编解码器的设计原理，可以在固定计算预算下获得更好的合成质量，对追求低延迟和高质量语音合成的工业应用有直接价值。 主要局限性：方法依赖于特定编解码器（HiFi-Codec）的固定层次结构和预先定义的粗细划分；训练与推理调度中的超参数（如pc=0.7， rcf=1/16）需要手动调整；论文未详细公开所有训练细节和模型参数，限制了可复现性。 🏗️ 模型架构 H-DFM的模型架构基于F5-TTS的扩散Transformer（DiT）主干网络进行修改。 ...

ICASSP 2026 - 音频生成 共 39 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 SwitchCodec: Adaptive Residual-Expert Sparse Quantization fo 8.5分 前25% 🥈 Synthcloner: Synthesizer-Style Audio Transfer via Factorized 8.5分 前25% 🥉 MAG: Multi-Modal Aligned Autoregressive Co-Speech Gesture Ge 8.0分 前25% 4. Training-Free Multimodal Guidance for Video to Audio Generat 8.0分 前25% 5. Audience-Aware Co-speech Gesture Generation in Public Speaki 8.0分 前50% 6. Matching Reverberant Speech Through Learned Acoustic Embeddi 8.0分 前25% 7. Assessing The Perceptual Impact of Low-Altitude Aircraft Noi 8.0分 前25% 8. Parametric Neural Amp Modeling with Active Learning 8.0分 前25% 9. AUV: Teaching Audio Universal Vector Quantization with Singl 8.0分 前25% 10. EuleroDec: A Complex-Valued RVQ-VAE for Efficient and Robust 8.0分 前25% 11. Improving Interpretability in Generative Multitimbral DDSP F 7.5分 前25% 12. Cardiobridge-DM: Bridging Cross-Cohort Heart Sound Synthesis 7.5分 前25% 13. Disentangling Physiology from Fidelity: Latent-Guided Diffus 7.5分 前25% 14. GMS-CAVP: Improving Audio-Video Correspondence with Multi-Sc 7.5分 前25% 15. KSDIFF: Keyframe-Augmented Speech-Aware Dual-Path Diffusion 7.5分 前25% 16. Sunac: Source-Aware Unified Neural Audio Codec 7.5分 前50% 17. S-PRESSO: Ultra Low Bitrate Sound Effect Compression with Di 7.5分 前25% 18. PICOAUDIO2: Temporal Controllable Text-to-Audio Generation w 7.5分 前25% 19. FoleyBench: A Benchmark for Video-to-Audio Models 7.5分 前25% 20. Multimodal Room Impulse Response Generation Through Latent R 7.5分 前25% 21. Mix2Morph: Learning Sound Morphing from Noisy Mixes 7.5分 前25% 22. Generative Audio Extension and Morphing 7.5分 前25% 23. FlashFoley: Fast Interactive Sketch2audio Generation 7.5分 前25% 24. Mitigating Data Replication in Text-to-Audio Generative Diff 7.5分 前25% 25. Learning Linearity in Audio Consistency Autoencoders via Imp 7.5分 前25% 26. Spring Reverb Emulation with Hybrid Gated Convolutional Netw 7.5分 前25% 27. StereoFoley: Object-Aware Stereo Audio Generation from Video 7.5分 前25% 28. AudioGen-Omni: A Unified Multimodal Diffusion Transformer fo 7.5分 前25% 29. Meanflow-Accelerated Multimodal Video-to-Audio Synthesis Via 7.5分 前25% 30. TAG: Structured Temporal Audio Generation via LLM-Guided Man 7.5分 前25% 31. HFSQVAE: Hierarchical Vector Quantization with Residuals for 7.0分 前25% 32. Sounds that Shape: Audio-Driven 3D Mesh Generation with Attr 7.0分 前25% 33. ReCoM: Realistic Co-Speech Motion Generation with Recurrent 7.0分 前25% 34. Arbitrarily Settable Frame Rate Neural Speech Codec with Con 7.0分 前25% 35. A Speech-Driven Paradigm for Physics-Informed Modeling of Co 7.0分 前50% 36. FxSearcher: Gradient-Free Text-Driven Audio Transformation 7.0分 前50% 37. FODGE : High-Fidelity Dance Generation via Full-Body Optimiz 6.5分 前50% 38. Feedback-Driven Retrieval-Augmented Audio Generation with La 6.5分 前25% 39. Taming Audio VAEs via Target-KL Regularization 6.5分 前25% 📋 论文详情 🥇 SwitchCodec: Adaptive Residual-Expert Sparse Quantization for High-Fidelity Neural Audio Coding 🔥 8.5/10 | 前25% | #音频生成 | #模型评估 | #向量量化 #混合专家 ...

📄 Improving Interpretability in Generative Multitimbral DDSP Frameworks via Semantically-Disentangled Musical Attributes #音频生成 #音乐生成 #信号处理 #解耦表示 ✅ 7.5/10 | 前25% | #音频生成 | #信号处理 | #音乐生成 #解耦表示 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Francesco Ardan Dal Rì（特伦托大学信息工程与计算机科学系） 通讯作者：未说明 作者列表：Francesco Ardan Dal Rì（特伦托大学信息工程与计算机科学系）、Nicola Conci（特伦托大学信息工程与计算机科学系） 💡 毒舌点评 这篇论文巧妙地将语义解耦的VAE与改进的DDSP结合，解决了多乐器生成中“控制黑箱”的痛点，实验也证明了其灵活生成能力。不过，它只在TinySOL这样的小型数据集上验证，且避开了与更强大的扩散式音频生成模型的正面比较，说服力打了折扣。 🔗 开源详情 代码：论文明确提供了代码仓库链接：https://github.com/return-nihil/MT-GEN_DDSP/ 模型权重：论文中未提及是否公开预训练模型权重。 数据集：使用的是公开数据集TinySOL，论文中未提供其获取方式链接，但注明“a publicly available dataset”。 Demo：论文中未提及在线演示。 复现材料：论文详细给出了训练超参数（学习率、批量大小、轮数、优化器）、数据增强方法、模型架构细节和评估指标，为复现提供了充分信息。 论文中引用的开源项目：论文引用了多个开源框架和工具，如DDSP[6]、FLAMO[8]、MIDI-DDSP[16]、SnakeGAN[19]、FAD指标[21]等，表明其工作建立在开源生态之上。 📌 核心摘要 要解决什么问题：传统DDSP（可微分数字信号处理）架构依赖帧级潜在编码，在多乐器纯生成设置中缺乏全局语义可解释性，且音色与力度等音乐属性相互纠缠，难以实现独立、可控的生成。 方法核心是什么：提出一个由Triple-VAE编码器和改进DDSP解码器组成的框架。Triple-VAE从频谱图中提取语义解耦的全局音色（t）和力度（d）嵌入（各8维）。DDSP解码器以这些全局嵌入、归一化包络曲线和音高轮廓为输入，使用双层GRU来学习复杂的时序依赖，最终通过谐波+噪声（HpN）模块合成波形。 与已有方法相比新在哪里：首次在多乐器DDSP框架中引入通过监督学习强制解耦的全局音色与力度表示，替代了传统的帧级z编码。同时，用归一化包络曲线替代原始响度曲线作为控制信号，并使用双层GRU而非单层RNN来更好地从全局表示中建模时序细节。 主要实验结果如何：在TinySOL数据集上，框架在多种乐器数量配置下均表现出色。 Triple-VAE的属性分类准确率（C Acc.）接近1.0，而“移除器”准确率（R Acc.）较低，证明解耦有效。 DDSP重建的感知质量（MR-STFT）稳定在1.133-1.209，与基线相当。 生成质量（FAD）优于基线，其中PANN-FAD（时序相关）随乐器数增加显著下降至0.019×10⁻⁴，表明包络建模能力增强。 相较于基线（无解耦VAE+传统DDSP），本框架在FAD指标上提升显著（如VGG-FAD: 2.256 vs 4.556 @ t=2）。 关键数据见下表： 配置 Triple-VAE MSE (×10⁻³)↓ C Acc.↑ (t/p/d) R Acc.↓ (t/p/d) DDSP MR-STFT↓ DDSP MSE (×10⁻³)↓ DDSP FAD VGG↓ DDSP FAD PANN (×10⁻⁴)↓ t=2 5.664 ± 3.970 1.00 / 1.00 / 1.00 0.74 / 0.21 / 0.44 1.208 ± 0.056 4.168 ± 0.974 2.256 0.500 t=4 5.488 ± 3.698 1.00 / 1.00 / 0.99 0.50 / 0.19 / 0.52 1.209 ± 0.077 6.263 ± 1.873 2.448 0.132 t=8 5.556 ± 3.797 1.00 / 1.00 / 0.99 0.37 / 0.13 / 0.54 1.153 ± 0.075 10.310 ± 4.550 2.618 0.019 t=14 5.733 ± 4.808 0.99 / 1.00 / 0.99 0.29 / 0.14 / 0.54 1.133 ± 0.078 13.622 ± 6.220 2.743 0.019 基线 (t=2) 5.574 ± 4.879 1.00 / 0.99 / 0.99 // // // 1.292 ± 0.072 4.728 ± 1.662 4.556 1.688 实际意义是什么：该框架使得从仅16维的紧凑、语义明确的潜在空间中生成高质量、可控的多乐器音频成为可能，为实时声音设计、音乐制作和创意音频合成提供了新的工具。 主要局限性：实验仅在小型数据集（TinySOL）上进行，且乐器种类有限。框架性能随乐器数量增加在波形级（MSE）和频谱级（VGG-FAD）上有所下降。未来需验证其在更大规模、更多样数据集及复杂非谐波声音上的泛化能力。 🏗️ 模型架构 本文提出一个端到端的“Triple-VAE编码器 + DDSP解码器”框架，用于多乐器声学声音的可控生成。整体流程如下：输入音频首先被转换为频谱图和归一化的包络（RMS）、音高（YIN）轮廓。频谱图被送入Triple-VAE编码器，输出解耦的全局潜在表示；包络和音高轮廓与全局潜在表示拼接后，作为DDSP解码器的输入，最终合成音频波形。 ...

📄 KSDIFF: Keyframe-Augmented Speech-Aware Dual-Path Diffusion for Facial Animation #音频生成 #扩散模型 #跨模态 #关键帧检测 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #跨模态 #关键帧检测 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Tianle Lyu†, Junchuan Zhao†（论文中标注†表示同等贡献） 通讯作者：Ye Wang⋆（新加坡国立大学计算学院， wangye@comp.nus.edu.sg） 作者列表：Tianle Lyu（新加坡国立大学计算学院）、Junchuan Zhao（新加坡国立大学计算学院）、Ye Wang（新加坡国立大学计算学院） 💡 毒舌点评 亮点在于将语音特征显式解耦为表情和头部姿势两个独立路径进行建模，这一设计思路抓住了面部动作驱动的核心差异，实验也证实了其有效性；但短板在于对“关键帧”的选择和建模仍依赖于启发式规则（基于真值帧间变化的阈值），其自回归预测模块的鲁棒性和泛化边界未得到充分探讨。 🔗 开源详情 代码：论文提供了项目主页链接（https://kincin.github.io/KSDiff/），但论文中未明确提及代码仓库链接。 模型权重：未提及公开的模型权重。 数据集：训练所用HDTF和VoxCeleb是公开数据集，但论文未说明其具体预处理后的版本获取方式。 Demo：未提及。 复现材料：论文提供了较为详细的训练超参数（学习率、batch size、迭代次数、优化器等）、网络结构参数（维度、层数、头数）和硬件配置（4×RTX A5000，16小时）。但未提供代码、配置文件或检查点。 论文中引用的开源项目：明确引用了Wav2Vec（语音特征提取）、DECA（3D面部模型）、Whisper（文本转录）、DiffSpeaker（生成框架基础）、MR-STFT损失等开源工作或工具。 📌 核心摘要 问题：现有音频驱动面部动画方法通常将语音特征视为一个整体，忽略了其对表情（高频变化）和头部姿势（低频变化）的差异化驱动作用，同时未能有效建模运动中的关键动态帧。 方法：提出KSDiff框架，核心包括：(1) 双路径语音编码器（DPSE），利用多尺度扩张卷积和Prosody信息，将语音特征解耦为表情相关和头部姿势相关两个分支；(2) 关键帧建立学习（KEL）模块，通过自回归Transformer预测运动最剧烈的帧；(3) 基于DiffSpeaker的双路径扩散生成器，分别合成表情和头部姿势系数。 创新：主要创新在于明确提出并实现了语音特征的“解耦”处理，以及引入了数据驱动的、具有物理意义的关键帧预测模块，将两者协同融入扩散生成流程。 实验：在HDTF和VoxCeleb数据集上，KSDiff在多项指标上优于或媲美SOTA方法。例如，在HDTF测试集上，其LVE（唇部顶点误差）降至4.835×10⁻⁵ mm，LSE-C（同步置信度）提升至0.708，头部姿势Diversity（多样性）达0.318，Beat Align（节奏对齐）达0.354（表1）。消融研究（表3）证明，移除语音特征分离、双路径扩散、关键帧或韵律模块均会导致性能下降。 意义：该工作推动了音频驱动面部动画向更精细化、物理一致性的方向发展，为虚拟人生成提供了更逼真的运动控制方案。 局限性：关键帧提取依赖于真值运动序列的后处理，其在线预测性能上限受限；对极端或非常规的面部表情与头部运动组合的生成能力未做深入探讨。 🏗️ 模型架构 KSDiff的整体架构如图2所示。系统接收原始音频 a1:N 和转录文本 x1:L 作为输入。 ...

📄 Learning Linearity in Audio Consistency Autoencoders via Implicit Regularization #音频生成 #音乐生成 #扩散模型 #数据增强 #模型评估 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #音乐生成 #数据增强 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Bernardo Torres（LTCI, Telecom Paris, Institut Polytechnique de Paris） 通讯作者：未说明 作者列表：Bernardo Torres（LTCI, Telecom Paris, Institut Polytechnique de Paris），Manuel Moussallam（Deezer Research），Gabriel Meseguer-Brocal（Deezer Research） 💡 毒舌点评 亮点：方法异常优雅——仅通过训练时对潜向量和音频波形施加精心设计的数据增强（增益缩放和人工混合），就“教”会了一个复杂的扩散自编码器学习线性，而不增加任何额外的损失项或架构改动。短板：该方法严重依赖于所选择的 Music2Latent CAE 架构，其通用性未得到验证；且论文中展示的“音源分离”仅为基于潜空间算术的Oracle实验，距离实际、复杂的分离应用仍有很大差距，更像一个原理验证（proof-of-concept）。 🔗 开源详情 代码：提供代码仓库链接：www.github.com/bernardo-torres/linear-autoencoders。 模型权重：提供了公开的模型权重（论文中提及“Code and model weights are available online”）。 数据集：使用了多个公开数据集（MTG-Jamendo, MoisesDB等）的混合，未提及新的专属数据集。 Demo：提供了在线音频示例和项目页面（https://bernardo-torres.github.io/projects/linear-cae）。 复现材料：训练细节（超参数、调度、数据增强细节）在论文3.3节和相关脚注中描述得非常充分。 依赖的开源项目：依赖于Music2Latent [4]架构，并可能使用了kadtk库进行KAD评估。 📌 核心摘要 要解决什么问题：现代音频自编码器（AE）能实现高压缩和高质量重建，但其编码得到的潜在空间通常是非线性的、纠缠的，导致无法进行直观的代数操作（如在潜空间直接混合或缩放音频）。 方法核心是什么：提出一种基于数据增强的隐式正则化方法，在不改变自编码器（本文为一致性自编码器CAE）架构和损失函数的前提下，诱导其学习线性（齐次性和可加性）。具体技巧包括：(1) 隐式齐次性：训练时对潜向量施加随机增益a，并要求解码器从带增益a的音频中重建，迫使模型学习增益的线性映射；(2) 隐式可加性：通过构造人工混合音频，并用其对应源潜向量的平均值作为条件进行训练，鼓励加法性质。 与已有方法相比新在哪里：与需要修改架构或引入额外损失项的方法不同，本工作证明仅通过训练时的数据增强就能有效诱导出近似的线性潜空间。这使得自编码器在保持原有高压缩比（64倍）和单步重建能力的同时，获得了可操作性。 主要实验结果如何：在MusicCaps和MUSDB18-HQ数据集上的实验表明，所提出的Lin-CAE模型： 重建质量：与基线CAE（M2L）相当，在MSS上（1.01 vs 0.98）和SNR上（3.19 vs 3.09）略有提升。 同质性（齐次性）：远优于所有基线。解码器同质性MSS降解从基线的约2.3倍（0.98→2.27）减少至1.36倍（1.01→1.37）。 可加性与源分离：在潜空间算术任务中表现突出。解码器可加性MSS从基线的5.0以上降至0.99。在Oracle音源分离（减去伴奏潜向量）任务中，Lin-CAE的SI-SDR和MSS在所有乐器上均显著优于基线，例如人声分离SI-SDR为-1.18 dB（基线M2L为-12.56 dB）。 实际意义是什么：提供了一种简单有效的技术，用于构建结构化、可操作的音频潜空间。这使得在压缩域内进行高效的音频混合、编辑和分离成为可能，为音频生成和处理提供了更直观的接口。 主要局限性是什么：方法与特定的CAE架构耦合紧密，泛化性未知；所验证的源分离任务为理想化的Oracle设置（已知需要分离的源），未处理真实场景下的盲分离；线性是近似的，其程度可能随任务复杂度增加而面临挑战。 🏗️ 模型架构 本文提出的Lin-CAE架构基于已有的Music2Latent (M2L)一致性自编码器(CAE)，并未修改其基础结构，仅在训练流程上进行了增补。整体架构是一个条件扩散模型，用于音频压缩与重建。 ...

📄 MAG: Multi-Modal Aligned Autoregressive Co-Speech Gesture Generation Without Vector Quantization #音频生成 #多模态模型 #扩散模型 #对比学习 🔥 8.0/10 | 前25% | #音频生成 | #多模态模型 #扩散模型 | #多模态模型 #扩散模型 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Binjie Liu（中国传媒大学信息与通信工程学院，中国移动研究院） 通讯作者：Sanyi Zhang（中国传媒大学数据科学与媒体智能学院，媒体音频视频教育部重点实验室）†，Long Ye（中国传媒大学数据科学与媒体智能学院，媒体融合与传播国家重点实验室）† （注：论文中标注†为通讯作者） 作者列表：Binjie Liu（中国传媒大学，中国移动研究院）、Lina Liu（中国移动研究院）、Sanyi Zhang（中国传媒大学，媒体音频视频教育部重点实验室）、Songen Gu（复旦大学）、Yihao Zhi（香港中文大学（深圳））、Tianyi Zhu（中国移动研究院）、Lei Yang（中国移动研究院）、Long Ye（中国传媒大学，媒体融合与传播国家重点实验室） 💡 毒舌点评 亮点在于其核心思想——在连续运动嵌入空间进行自回归建模，而非离散化——非常优雅且直击痛点，消融实验也清晰地证明了该设计的必要性。短板在于，虽然声称“无需向量量化”，但并未提供与使用VQ的自回归模型在生成效率、模型规模上的定量对比，其“更优”很大程度上局限于生成质量指标，对于实际应用中的效率考量论述不足。 🔗 开源详情 代码：论文中未提及代码链接或开源计划。 模型权重：未提及。 数据集：使用的是公开数据集BEATv2和SHOW。 Demo：未提及。 复现材料：未提供详细的训练配置、超参数、检查点或附录说明。 论文中引用的开源项目：引用了WavCaps [8]、HuBERT [12]、fastText [13]、MAR [14]等作为基础组件或灵感来源。 📌 核心摘要 问题：现有的语音驱动全身手势生成方法大多依赖基于向量量化（VQ）的自回归模型，这会导致运动信息的离散化损失，降低生成手势的真实感和连续性。 方法核心：提出MAG框架，包含两个阶段：1）多模态对齐变分自编码器（MTA-VAE），利用预训练的WavCaps文本和音频特征，通过对比学习将运动、文本和音频对齐到一个连续的潜在空间；2）多模态掩码自回归手势生成模型（MMAG），在连续运动嵌入空间上应用扩散过程，避免离散化，并通过混合粒度音频-文本融合块提供条件。 新在哪里：这是首个在共语音手势生成领域实现“无向量量化”的自回归框架。创新点在于：在连续空间进行自回归扩散建模以保持运动连续性；利用对比学习实现运动、文本、音频三模态的语义和韵律对齐；设计HGAT模块融合不同粒度的音频（MFCC， HuBERT）和文本（fastText）特征。 实验结果：在BEATv2和SHOW两个基准数据集上，MAG在FGD（弗雷歇手势距离）、BC（节拍一致性）和Diversity（多样性）指标上均达到最优（SOTA）。例如，在BEATv2上，MAG（MTA-VAE）的FGD为4.565×10⁻¹，显著低于基线EMAGE的5.512×10⁻¹。用户研究也显示MAG生成的手势在真实感、多样性和同步性上最受偏好。 实际意义：为构建更自然、生动、与语音高度同步的虚拟人角色提供了新的技术范式，可应用于元宇宙、人机交互、游戏等领域。 主要局限性：论文未提供模型参数量、训练时间、推理速度等效率信息，而连续空间扩散模型通常计算成本较高。此外，对比学习高度依赖预训练的WavCaps模型，其特征质量直接影响上限。 🏗️ 模型架构 MAG是一个两阶段的框架，其整体架构如图2所示。 ...

📄 Matching Reverberant Speech Through Learned Acoustic Embeddings #音频生成 #信号处理 #空间音频 #实时处理 🔥 8.0/10 | 前25% | #音频生成 | #信号处理 | #空间音频 #实时处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Philipp Götz（International Audio Laboratories Erlangen†，Germany） 通讯作者：未说明 作者列表：Philipp Götz（International Audio Laboratories Erlangen†，Germany）、Gloria Dal Santo（Acoustics Lab, Dpt. of Information and Communications Engineering, Aalto University，Finland）、Sebastian J. Schlecht（Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)，Germany）、Vesa Välimäki（Acoustics Lab, Dpt. of Information and Communications Engineering, Aalto University，Finland）、Emanuël A. P. Habets（International Audio Laboratories Erlangen†，Germany） †International Audio Laboratories Erlangen是Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)和Fraunhofer IIS的联合机构。 💡 毒舌点评 亮点在于将混响参数盲估计任务巧妙重构为“信号匹配”问题，并利用一个改进的、可微分的FDN结构（尤其是可学习的正交反馈矩阵）显著提升了合成混响在声学参数（如T30）上的准确性。然而，论文的短板在于其对混响早期反射模式的建模能力有限，且当前评估主要局限于语音信号，对音乐等激励源下的泛化能力以及噪声鲁棒性未做充分验证。 ...

📄 Meanflow-Accelerated Multimodal Video-to-Audio Synthesis Via One-Step Generation #音频生成 #流匹配 #音视频 #实时处理 ✅ 7.5/10 | 前25% | #音频生成 | #流匹配 | #音视频 #实时处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Xiaoran Yang（武汉大学电子信息学院） 通讯作者：Gongping Huang（武汉大学电子信息学院） 作者列表：Xiaoran Yang（武汉大学电子信息学院）、Jianxuan Yang（小米MiLM Plus，武汉）、Xinyue Guo（小米MiLM Plus，武汉）、Haoyu Wang（西南财经大学计算机与人工智能学院）、Ningning Pan（西南财经大学计算机与人工智能学院）、Gongping Huang（武汉大学电子信息学院） 💡 毒舌点评 这篇论文的核心亮点是将MeanFlow的一步生成能力成功“移植”到多模态VTA合成任务上，实现了推理速度的数量级提升，这在实际应用中极具吸引力。然而，其短板也相当明显：核心创新组件（MeanFlow和CFG-scaled）均非作者首次提出，论文更偏向于一项有价值的工程集成与任务适配，且消融实验仅探讨了CFG强度和训练配对比例，对于MeanFlow框架如何具体适配多模态条件融合的机制剖析不够深入。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：训练和评估所用数据集（VGGSound， Kling-Audio-Eval， AudioCaps， WavCaps）均为公开数据集，但论文未说明是否提供其处理后的版本。 Demo：未提及。 复现材料：论文提供了详细的训练配置（优化器、学习率、batch size、训练步数）、超参数设置（模型层数、采样率、时间步采样分布）、硬件环境（8x H800 GPU）和评估指标说明，为复现提供了较好的基础。 引用的开源项目/模型：CLIP、Synchformer、VAE（具体模型未说明）、MMAudio、MeanFlow、CFG-Zero。 总结：论文中未提及开源计划。 📌 核心摘要 要解决什么问题：现有的基于流匹配的视频到音频（VTA）合成方法依赖多步迭代采样，导致推理速度慢，难以满足实时应用需求。同时，一步生成场景下应用分类器引导（CFG）容易因缺乏迭代修正而产生过冲和失真。 方法核心是什么：提出MeanFlow加速的多模态联合训练框架（MF-MJT）。核心是在多模态联合训练的骨干网络（基于MMAudio）上，采用MeanFlow公式建模平均速度场，从而支持原生一步生成。为稳定CFG，引入标量缩放机制（CFG-scaled），动态调整无条件预测的权重。 ...

📄 Mitigating Data Replication in Text-to-Audio Generative Diffusion Models Through Anti-Memorization Guidance #音频生成 #扩散模型 #音频安全 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #音频安全 学术质量 7.5/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Francisco Messina（米兰理工大学，电子、信息与生物工程系） 通讯作者：未说明 作者列表：Francisco Messina（米兰理工大学，电子、信息与生物工程系）、Francesca Ronchini（米兰理工大学，电子、信息与生物工程系）、Luca Comanducci（米兰理工大学，电子、信息与生物工程系）、Paolo Bestagini（米兰理工大学，电子、信息与生物工程系）、Fabio Antonacci（米兰理工大学，电子、信息与生物工程系） 💡 毒舌点评 这篇论文的亮点在于其明确的现实关切和扎实的工程实现：首次系统性地将反记忆化指导框架引入音频生成领域，并通过详尽的消融实验证明了其有效性，为解决AIGC的版权困境提供了即插即用的思路。然而，其短板也十分明显：核心方法（AMG）并非原创，只是适配和应用，且实验仅限于单一模型（Stable Audio Open）和相对基础的指标，缺乏与更前沿的音频生成系统（如AudioLDM 2、MusicLM）的对比，说服力打了折扣。 🔗 开源详情 代码：提供代码仓库链接：https://polimi-ispl.github.io/anti-memorization-tta/ 模型权重：使用了开源的Stable Audio Open模型，论文中明确提到“Stable Audio Open [17], which provides publicly available checkpoints”。 数据集：评估使用了Stable Audio Open 1.0数据集中的6000个音轨，该数据集是公开的（来源Freesound和FMA）。论文未提供单独的数据集下载链接，但指向了原始来源。 Demo：论文中未提及在线演示。 复现材料：提供了评估所用的60个样本的选择方法（基于聚类）、所有实验的超参数设置（s0, c1, c2, c3, λt调度等）。由于是推理时方法，无需训练细节。 论文中引用的开源项目：Stable Audio Open [17], CLAPlaion [21], MERT [26], Freesound [22], FMA [23]。 📌 核心摘要 要解决什么问题：文本到音频扩散模型在推理时可能无意中生成与训练数据高度相似甚至完全复制的音频片段，引发数据记忆化问题，对版权和知识产权构成威胁。 方法核心是什么：采用反记忆化指导（AMG）框架，在推理时的去噪过程中监测生成内容与训练集的相似度。当相似度超过阈值时，通过三种策略引导生成过程远离记忆化样本：减少过于具体的提示词影响（Despecification Guidance）、将重复的提示词作为负面条件（Caption Deduplication Guidance）、以及主动在嵌入空间中远离最近邻（Dissimilarity Guidance）。 与已有方法相比新在哪里：这是首次将AMG框架应用于音频生成模型的缓解数据记忆化研究。与需要重训练或修改提示词的方法相比，AMG是一种纯推理时的后处理方案，无需重新训练模型，具有即插即用的优势。 主要实验结果如何： 定量结果（消融实验，见Table 1）：与无缓解策略的基线（Mean Similarity CLAP: 0.69）相比，完整AMG方法（Full AMG）将平均相似度显著降低至0.40（CLAPlaion）和0.89（MERT）。其中，差异性指导（gsim）单独作用效果最强。 定性结果：图1（频谱图）显示，经AMG生成的音频在时频结构上与原训练音频明显不同。图2（结构相似性矩阵）表明，应用AMG后，生成音频与训练音频的逐帧高相似度区域从对角线偏移。图3（t-SNE可视化）显示，应用AMG的生成样本在嵌入空间中与原始训练数据分布分离，更加分散。 音频质量与提示遵循度：消融实验显示，在降低相似度的同时，提示遵循度（CLAPScore）从基线的0.32下降至Full AMG的0.14，存在权衡。但值得注意的是，FAD（Fréchet Audio Distance）指标反而从基线的4.27（CLAPlaion）改善至2.57，表明生成音频的多样性可能增加，更接近整体数据分布。 实际意义是什么：为构建更负责任、更合规的文本到音频生成系统提供了一种有效的、无需重训练的推理时工具，有助于缓解生成式AI的版权风险。 主要局限性是什么：方法的核心组件并非原创；实验仅在单一的开源模型和数据集上进行，泛化性有待验证；在降低记忆化的同时，可能会牺牲一部分提示遵循度；框架的计算开销（需要计算相似度和梯度）尚未详细讨论。 🏗️ 模型架构 论文研究的对象是潜在扩散模型（Latent Diffusion Model, LDM），其架构分为两个部分：编码器-解码器对和扩散模型本身。本文的贡献不在于设计新架构，而是提出一种适用于现有架构的推理时干预框架。 ...