音频生成

📄 WaveNet-Style Guitar Amplifier Model Pruning for Real-Time iOS Deployment 标签：#音频生成 #模型压缩 #高效推理 #音频理解 #Transformer 8.0/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.5/1.5 🔥 8.0/10 | 前25% | 文档类型：系统技术报告 | 评分置信度：高 | #音频生成 | #模型压缩 | #高效推理 #音频理解 | arxiv 👥 作者与机构 第一作者：Ryota Sato（未说明） 通讯作者：未说明 作者列表：Ryota Sato（未说明）、Eli Silverstein（未说明） 💡 毒舌点评 论文在工程落地和系统验证上做得扎实，成功将一个公认的计算密集型音频模型（WaveNet）通过剪枝和定制推理引擎部署到消费级移动设备上，并提供了与物理设备的实时A/B对比演示，这对应用导向的音频研究具有直接参考价值。然而，其对剪枝后模型音频质量的评估过于依赖ESR数值和“非正式听音”，缺乏形式化的感知评估（如MUSHRA测试）或与更多基线模型（如LSTM）的对比，削弱了结论的说服力。 📌 核心摘要 本文旨在解决WaveNet风格的神经网络因计算量过大而难以在iPhone等移动设备上进行实时音频处理（如吉他放大器模拟）的问题。核心方法是采用迭代幅度剪枝（Iterative Magnitude Pruning）将模型权重稀疏化至90%，并配合一个专门设计的、仅处理非零权重的自定义C++稀疏推理引擎。与现有方法相比，本文首次系统地将剪枝技术应用于WaveNet风格的音频放大器模型，并针对iOS平台实现了完整的、仅依赖CPU的实时推理流水线。实验结果表明，在90%稀疏度下，模型的ESR（误差信号比）低于\(3.4\times 10^{-4}\)，主观听感无显著下降；在iPhone 16 Pro上，256样本块大小的实时因子（RTF）约为0.6，证明了实时可行性。实际意义在于为在移动端部署高质量、低延迟的神经音频效果器提供了一个可行的工程范例。主要局限性包括缺乏形式化的感知质量评估、设备兼容性测试范围有限（仅两款iPhone），以及未与其他模型压缩技术（如量化、知识蒸馏）或轻量级架构（如LSTM）进行对比。 ...

📄 Structural Bottlenecks on Frequency Representation in End-to-End Audio Models 标签：#音频生成 #变分自编码器 #理论分析 #可解释性 #音频理解 7.6/10 | 创新 1.3/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.9/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.1/1.5 ✅ 7.6/10 | 前25% | 文档类型：方法研究 | 评分置信度：高 | #音频生成 | #变分自编码器 | #理论分析 #可解释性 | arxiv 👥 作者与机构 第一作者：Nicole Cosme-Clifford（耶鲁大学） 通讯作者：Nicole Cosme-Clifford（耶鲁大学） 作者列表：Nicole Cosme-Clifford（耶鲁大学） 💡 毒舌点评 本文对当前端到端音频编码器的“性能好不等于表示好”这一矛盾给出了清晰且深刻的理论解剖，提出的注入性与可分离性双瓶颈框架具有很好的启发性。然而，其提出的GLRF解药虽然精巧（闭式解、即插即用），却主要在一个高度受控的“合成信号+简单音高替换”的实验室场景下展示疗效，这使得其宣称的“改善可解释性和可控性”的实际临床价值大打折扣。这就像用手术刀精准地切除了一只小白鼠的特定神经元，却宣称找到了治愈人类脑部疾病的通用疗法——原理上没错，但距离真正的通用解决方案，中间隔着无数真实世界复杂性的鸿沟。 📌 核心摘要 本论文深入分析了端到端音频模型（如EnCodec, DAC, Stable Audio）在频率表示上的结构性瓶颈。作者提出，尽管这些模型在压缩和生成任务上表现优异，但其步进卷积编码器架构本身阻碍了对音高、音色等人类可解释特征的独立访问。研究识别出两个由架构决定的瓶颈：1) 注入性失败：由下采样导致的混叠使得不同频率成分坍缩为不可区分的等价类；2) 可分离性失败：由感受野限制的频率分辨率使得相邻成分无法被独立操作。通过理论分析，作者推导了坍缩率的预测公式，并在三个模型和643个信号配置上验证了预测与观察的高度相关性（r≈0.99）。为解决可分离性问题，论文提出了“Gabor潜在重构”（GLRF），一种轻量级后处理方法，无需重训练编码器，通过学习一个线性映射将潜在表示转换到频率局部化的Gabor基。实验表明，GLRF将滤波器带宽从理论分辨率限制的10-35倍降低到1.5-3倍，同时保持了高重建保真度，并在合成的可控性测试中显著提升了频率属性控制能力。该工作揭示了当前音频编码器的表示缺陷，并为改善模型的可解释性和可控性提供了理论框架和初步实践。 ...

📄 Precise Video-to-Audio Generation with Cross-Modal Alignment in Latent Space #流匹配 #音频生成 7.4/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 1.2/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.4/10 | 前50% | #音视频生成 | #流匹配 | #音频生成 | arxiv 👥 作者与机构 第一作者：Thanh V. T. Tran（FPT Software AI Center, Vietnam） 通讯作者：未提及 作者列表：Thanh V. T. Tran（FPT Software AI Center, Vietnam）、Ngoc-Son Nguyen（FPT Software AI Center, Vietnam）、Luong Tran（FPT Software AI Center, Vietnam）、Long-Khanh Pham（FPT Software AI Center, Vietnam）、Paarth Neekhara（NVIDIA Corporation, USA）、Shehzeen Hussain（NVIDIA Corporation, USA）、Van Nguyen（FPT Software AI Center, Vietnam） 💡 毒舌点评 Flowley 用一个设计巧妙的渐进软掩码交叉注意力（PSCA），将音视频对齐悄无声息地嵌入了流匹配的去噪过程，实现了零额外参数的精准同步，这一点值得肯定。但这项工作的规模优势叙事略显取巧：在200K的VGGSound上打败更大模型固然吸睛，但零样本测试立刻暴露了语义理解的天花板（IB-Score仅为Movie Gen的六成），说明所谓的SOTA高度依赖训练分布。SoundCap看似锦上添花，实则是将大型AV-LLM的算力和错误风险转移到了数据预处理阶段，且其产出成为黑箱，开源承诺缺失让这一"即插即用"模块的复现与验证沦为空谈。整篇工作工程味道略重，架构创新本质上是对成熟模块的精心重组，对领域长远理论突破的推动有限。 ...

📄 Unified Audio Intelligence Without Regressing on Text Intelligence #音频理解 #语音识别 #语音翻译 #语音合成 #音频生成 #多模态模型 #强化学习 6.8/10 | 创新 1/2 | 严谨 0.8/1.5 | 实验 0.5/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1/1.5 | 复现 0.2/0.5 | 工程 1.3/1.5 ✅ 6.8/10 | 前50% | #音频交互 | #多模态模型 | #音频理解 #语音识别 | arxiv 👥 作者与机构 论文摘要中未提供作者列表，无法确定具体作者与所属机构。 💡 毒舌点评 亮点在于将统一音频智能锚定在 30B MoE 文本 LLM 上，并明确提出“不退化文本智能”这一核心目标。但摘要几乎全篇堆砌任务名称与数据规模，却未给出任何可验证的定量对比数字，这使得 SOTA 宣称显得空洞。这种“全功能宣传册”式的摘要削弱了技术报告的严谨感。 📌 核心摘要 本文提出 Audex，一个基于 30B MoE 文本 LLM（Nemotron-Cascade-2-30B-A3B）的统一音频-文本大语言模型。采用单一 Transformer 解码器统一处理音频与文本：音频输入经编码器提取特征，通过投影映射到文本嵌入空间；量化的离散音频输出 token 与文本 token 混合，一同送入自回归解码生成。训练包括三阶段：（1）在 curated 的音频-文本数据集（157.4B 音频 token + 320.5B 文本 token）上进行多阶段监督训练；（2）纯文本 Cascade RL，用于强化文本对齐与推理能力，防止文本退化；（3）多域 on-policy 蒸馏，稳定多模态表现。论文宣称模型在音频理解、语音识别/翻译、TTS、音频生成与语音到语音生成等任务上达到 SOTA，同时文本推理、对齐、知识、长上下文与智能体能力仅有微弱甚至零退化。模型权重已释放。 ...

📄 AG-REPA: Causal Layer Selection for Representation Alignment in Audio Flow Matching #语音合成 #音频生成 #可解释性 7.6/10 | 创新 1.5/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.8/1 | 影响 0.9/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.6/10 | 前25% | #语音合成 | #知识蒸馏 | #音频生成 #可解释性 | arxiv 👥 作者与机构 第一作者：Pengfei Zhang（香港科技大学（广州）信息枢纽人工智能学域） 通讯作者：Li Liu（香港科技大学（广州）信息枢纽人工智能学域） 作者列表：Pengfei Zhang、Tianxin Xie、Minghao Yang、Li Liu（均来自香港科技大学（广州）信息枢纽人工智能学域） 💡 毒舌点评 这篇论文最大的亮点是发现并实证了“存储-贡献分离”（SCD）现象，然后巧妙地用一个因果归因工具（FoG-A）来指导层选择，把REPA从“凭经验瞎猜”升级成了“看谁真干活”。动机清晰，intuition很有说服力。但话说回来，实验规模偏小（总步数仅500k，两个数据集），跨架构验证虽然做了但深度不够——只给了几个FAD/WER/MOS数字，缺少更系统的分析（如动态、消融等），无法确定增益是否只是某种隐式正则化的结果。虽然FoG-A排名看起来稳定，但在更长/更大规模训练下的行为完全是未知数。此外，从Jacobian链式传播直接跳到一个强烈的“蝴蝶效应”论断有些牵强，没有严谨讨论梯度衰减或中间层Jacobian性质对结论的影响。方法整体仍停留在原型验证阶段。 📌 核心摘要 问题定义：在token-conditioned音频流匹配（Flow Matching）模型中，现有的表示对齐（REPA）策略通常凭经验固定中间层（如第8层）进行监督，忽略了“存储语义最丰富的层”与“对生成速度场v_θ贡献最大的层”可能不一致，导致训练效率低下。 方法核心：提出归因引导的REPA（AG-REPA）。首先，利用前向门控消融（FoG-A）作为因果探针，量化DiT每一层对最终预测速度场的因果贡献；然后，自动选出贡献最大的Top-K层，并按贡献大小进行加权对齐，从而将对齐目标从“语义储层”转向“因果驱动层”。 与已有工作的不同：不同于固定层REPA或基于梯度范数的选择，AG-REPA首次将因果干预度量引入音频流匹配的表示对齐，明确区分“表示存储”与“函数贡献”，并据此设计了一种全新的层选择与损失加权策略。 主要实验结果（Config B, 500k步）：在LibriSpeech和AudioSet的统一音频生成任务上，AG-REPA相比于固定中层REPA（Layer 4, 8, 12），语音FAD从1.45降至1.29，音效FAD从2.88降至2.56，语音MOS从3.92升至4.12。跨架构（Voicebox, CosyVoice, F5-TTS）实验也取得一致改进，例如在F5-TTS上FAD从1.45降至1.15。关键消融显示，对齐FoG-A选出的“因果驱动层”相比对齐LASP选出的“表示丰富层”，FAD改善幅度提升约3.4倍，且收敛加速约3.3倍。 实际意义与普适性：为扩散/流匹配模型的训练加速提供了一种轻量、可移植的归因引导范式。其诊断工具集（BiT-C, LASP, FoG-A）不仅服务于AG-REPA，也为理解其他生成架构的内部行为提供了可操作的工具。 主要局限性：实验在有限训练规模（500k步）下进行；FoG-A排名虽短程稳定，但在更长训练或模型显著漂移后是否依然有效未知；方法依赖双教师蒸馏，增加了部署依赖；未在更泛化的音频/视觉任务上进行验证。 🔗 开源详情 代码：https://github.com/zpforlove/AG-REPA 模型权重：未提供。 数据集：LibriSpeech 与 AudioSet，论文未直接提供下载链接，但LibriSpeech可通过https://www.openslr.org/12 获取，AudioSet通过https://research.google.com/audioset/ 获取。 Demo：未提供。 复现材料：论文附录提供了部分架构和诊断协议细节，但未提供完整的训练配置文件、预训练检查点或独立复现脚本。 论文中引用的相关开源项目： Whisper (large‑v3): https://github.com/openai/whisper BEATs: https://github.com/microsoft/unilm/tree/master/beats RepCodec: 引用自 Huang et al. (2024) Vocos: https://github.com/gemelo‑ai/vocos Qwen3‑0.6B‑Base: https://huggingface.co/Qwen/Qwen3‑0.6B CosyVoice: https://github.com/FunAudioLLM/CosyVoice F5‑TTS: https://github.com/swivid/F5‑TTS Matcha‑TTS: https://github.com/shivammehta25/Matcha‑TTS DINOv2: https://github.com/facebookresearch/dinov2 🏗️ 方法概述和架构 整个工作围绕一个两阶段的统一音频生成流水线展开：第一阶段是自回归大语言模型（LLM）预测离散声学token；第二阶段是基于DiT的流匹配模型将这些token生成为连续mel谱，再经由神经声码器合成波形。本文的核心贡献并不在该流水线设计，而在于第二阶段DiT训练过程中的表示对齐策略。作者引入了一套“先诊断、后干预”的机制，包含三个互补的探测工具和一个归因引导的训练算法。 ...

📄 AudioChat: Unified Audio Storytelling, Editing, and Understanding with Transfusion Forcing #多模态模型 #音频生成 #音频理解 #语音合成 #说话人日志 5.8/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 0.7/1.5 | 清晰 0.6/1 | 影响 0.9/1.5 | 开源 0.1/1.5 | 复现 0.2/0.5 | 工程 1.1/1.5 📝 5.8/10 | 前50% | #音频生成 | #扩散模型 | #多模态模型 #音频理解 | arxiv 👥 作者与机构 第一作者：William Chen（Adobe Research, Carnegie Mellon University） 通讯作者：William Chen williamchen@cmu.edu, Prem Seetharaman pseeth@adobe.com 作者列表：William Chen（Adobe Research, Carnegie Mellon University）、Prem Seetharaman（Adobe Research）、Rithesh Kumar（Adobe Research, OpenAI）、Oriol Nieto（Adobe Research）、Shinji Watanabe（Carnegie Mellon University）、Justin Salamon（Adobe Research）、Zeyu Jin（Adobe Research） 💡 毒舌点评 这是一篇工程味很重的工作，为统一处理复杂多源音频场景提供了一个端到端的解决方案，pipeline设计完整。但核心创新很有限，本质是将视觉领域的Transfusion和Diffusion Forcing技术结合后迁移到音频，并强依赖于一个用专有模型合成的数据集。评测高度内循环，在域外真实音频上的泛化性存疑，且模型不公开，更像是Adobe内部技术实力的展示而非推动社区开放研究的产物。 ...

📄 Hearing Without Noticing? Attention-Aware Stealthy Black-Box Adversarial Audio Attacks #语音识别 #音频生成 7.6/10 | 创新 1.4/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.7/1 | 影响 0.8/1.5 | 开源 1.2/1.5 | 复现 0.4/0.5 | 工程 1/1.5 ✅ 7.6/10 | 前25% | #语音识别 | #音频生成 | arxiv 👥 作者与机构 第一作者：Tianyi Xu（中国科学院信息工程研究所，中国科学院大学网络空间安全学院） 通讯作者：Yue Zhao（中国科学院信息工程研究所），Kai Chen（中国科学院信息工程研究所） 作者列表：Tianyi Xu、Cheng’an Wei、Yue Zhao、Kai Chen（均来自中国科学院信息工程研究所 / 中国科学院大学网络空间安全学院） 💡 毒舌点评 本文巧妙利用“听觉不留意”的心理声学现象，将其建模为可优化的注意力稀释损失，在对抗音频隐蔽性上迈出了关键一步。200人用户研究中55.6%的不可察觉率远超前人，攻击成本仅0.43美元，成果说服力强。然而，方法深度依赖人工精选的42首音乐载体库和经典MPEG-1掩蔽模型，对长命令和稀疏音乐的泛化能力明显不足；防御实验仅测试了两种基础信号处理手段，面对现实世界中可能存在的说话人验证、音频取证等主动防御系统时，其攻击效力仍存疑，这削弱了其宣称的现实威胁等级。 📌 核心摘要 论文要解决的问题：在真实物理世界中对商用黑盒自动语音识别（ASR）系统发起隐蔽对抗攻击。现有方法仅关注压缩扰动幅度，忽视了人类选择性注意力机制，导致生成的对抗音频仍易被察觉（如Occam仅10.78%用户认为正常，Kenku有46%用户能识别嵌入的指令）。 方法核心是提出HWN（Hearing Without Noticing）框架，包含两个关键设计：基于心理声学掩蔽效应的注意力兼容载体选择算法（从候选音乐库中选出最能掩蔽目标命令的音乐片段）和基于结构-残差分解的注意力稀释损失函数（抑制频谱中易捕获注意力的突变成分）。 与已有方法相比，HWN的新颖之处在于显式建模“注意力”而非仅最小化信噪比，通过载体选择与频谱纹理平滑双重机制提升感知隐蔽性，将攻击从“小声”推向“不被注意”的层次。 ...

📄 STAR-VAE: Structured Topology-Aware Regularization for Audio Reconstruction and Generation #音频生成 7.9/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 1.2/1.5 | 开源 0.5/1.5 | 复现 0.4/0.5 | 工程 1.1/1.5 ✅ 7.9/10 | 前25% | #音频生成 | #变分自编码器 | arxiv 👥 作者与机构 第一作者：Huadai Liu（香港科技大学、阿里巴巴通义 Fun Team） 通讯作者：Wei Xue（香港科技大学） 作者列表：Huadai Liu（香港科技大学、阿里巴巴通义 Fun Team）、Wen Wang（阿里巴巴通义 Fun Team）、Kaicheng Luo（阿里巴巴通义 Fun Team）、Qian Chen（阿里巴巴通义 Fun Team）、Xiangang Li（阿里巴巴通义 Fun Team）、Wei Xue（香港科技大学） 💡 毒舌点评 这篇论文将音频 VAE 中一个被长期默认的实践——各通道均等 KL 惩罚——上升到"三元悖论"的理论高度，并用一个幂律增长的通道方向约束场（Gamma-Growth）优雅地重构了潜在空间拓扑。洞察清晰、动机扎实，实验也相当全面。然而，方法核心高度依赖对 γ=2.0 这一具体取值的经验消融，缺乏信息论或谱分析层面的严格理论支撑来解释"为何是幂律而非其他函数族"，更缺少对该参数的数据驱动自适应机制；且论文将 STAR 包装为"适用于任何 VAE 架构"的通用正则化器，但在纯 CNN 上的收益幅度远小于结合 Mamba 的跃升，通用性声明的力度可能需要更审慎的限定。此外，无开源代码和模型权重，在当前顶会生态中属于较大减分项。 ...

📄 Two-dimensional quantization for geometry-aware audio coding #语音编码 #语音合成 #音频生成 7.6/10 | 创新 1.2/2 | 严谨 1.1/1.5 | 实验 1.3/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.4/0.5 | 工程 0.6/1.5 ✅ 7.6/10 | 前25% | #语音编码 | #语音合成 | #音频生成 | arxiv 👥 作者与机构 第一作者/通讯作者：Tal Shuster (School of Electrical and Computer Engineering, Ben-Gurion University of the Negev, Be’er Sheva, Israel) 作者：Eliya Nachmani (School of Electrical and Computer Engineering, Ben-Gurion University of the Negev, Be’er Sheva, Israel) 注：原文脚注中通讯作者仅为 Tal Shuster，与已有分析不同。 💡 毒舌点评 这篇论文用一个巧妙的几何直觉——将独立标量量化扩展到二维结构化网格——解决了神经音频编解码中效率和利用率的两难问题。实验覆盖度不错，尤其是在低码率下能用一个量化器挑战一堆级联 RVQ 的基线，很有杀伤力。但论文对为什么是二维、为什么菱形网格更好的分析偏经验主义，缺乏从率失真理论或音频特征统计特性角度的深刻解释；此外，仅在与 FSQ 和 WavTokenizer 的对比中严格控制了训练数据和配置变量，与其他 SOTA 模型对比时使用了异构的训练数据和配置，削弱了部分 SOTA 声明的直接可比性。 ...

📄 Predicting Timbre Traits for Interpretable Assessment of Musical Sound Synthesizers #音频生成 #音乐信息检索 6.1/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 0.7/1.5 | 清晰 1/1 | 影响 0.6/1.5 | 开源 0.6/1.5 | 复现 0.5/0.5 | 工程 0.6/1.5 ✅ 6.1/10 | 前50% | #音频生成 | #音乐信息检索 | arxiv 👥 作者与机构 作者：Théo Chasle Cauchy (Nantes Université, LS2N, 法国), Modan Tailleur (Nantes Université, LS2N, 法国), Lindsey Reymore (Arizona State University, School of Music, Dance and Theatre, 美国), Fanny Roche (Arturia, 法国), Mathieu Lagrange (Nantes Université, LS2N, 法国)。 ...