Deep Neural Compression for RIR-Characterized Acoustic Environments with Structure-Aware Constraints

📄 压住房间的尾音:375bps 里留住混响的衰减骨架 英文题目:Deep Neural Compression for RIR-Characterized Acoustic Environments with Structure-Aware Constraints 一句话:针对通用神经编码器压缩房间脉冲响应时丢失衰减结构的问题,该工作在 EnCodec 单码本框架上加入能量衰减与混响语音两级约束,在 375bps 下把 T60 误差降到 1.14 秒、ViSQOL 做到 4.11,代价是仅在单房间验证且无开源。 标签:#音频编码 | #对抗训练 | #空间音频 | #模型压缩 评分:6.6/10 | 创新 1.4/2 | 技术严谨 1.2/1.5 | 实验充分 1.1/1.5 | 清晰度 0.8/1 | 影响力 0.8/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 1/1.5 👥 作者与机构 Chen-Yuan Ning:机构信息未在 arXiv HTML 中可靠披露 Yang Ai:机构信息未在 arXiv HTML 中可靠披露 Hui-Peng Du:机构信息未在 arXiv HTML 中可靠披露 Xiao-Hang Jiang:机构信息未在 arXiv HTML 中可靠披露 Zhen-Hua Ling:机构信息未在 arXiv HTML 中可靠披露 💬 毒舌点评 把房间脉冲响应当成特殊音频来压的思路切中了通用神经编解码器水土不服的痛点,能量衰减曲线与混响语音联合约束的设计颇为对症。遗憾在于验证只困在单一房间的 Motus 数据上,基线又弱又少,低码率极限的反常波动也缺乏解释,离顶会要求的普适性证据还有距离。 ...

2026-09-04 · 更新于 2026-09-04 · 5 min · 967 words

Geometric Iterative Retrieval for Neural Audio Codec Resynthesis

📄 Geometric Iterative Retrieval for Neural Audio Codec Resynthesis 标签:#音频编码 #生成模型 #高效推理 #模型评估 7.6/10 | 创新 1.6/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.6/10 | 前25% | 文档类型:方法研究 | 评分置信度:中 | #音频编码 | #生成模型 | #高效推理 #模型评估 | arxiv 👥 作者与机构 第一作者:Leo Schmidt-Traub(机构未说明) 通讯作者:未说明 作者列表:Leo Schmidt-Traub、Frédéric Berdoz、Luca A. Lanzendörfer、Roger Wattenhofer(机构信息未在当前正文中完整说明) 💡 毒舌点评 几何迭代检索的想法有新意,但证据链的每个环节都偏窄:全部实验限于 44.1kHz 的单一编解码器,输入用真值首层 token 回避了上游生成错误的叠加效应。最尴尬的是 K=9 在所有客观指标上都差于 K=3、人评却更好——这暴露了现有指标无法指导部署选型,而论文对此只有承认。人评规模(19 名听者、9 个片段)也不足以支撑感知结论,且每篇八次顺序检索的开销让相对传统重合成的效率优势变得模糊。 ...

2026-08-20 · 更新于 2026-09-04 · 5 min · 906 words

AudioTQ: A Data-Oblivious 6-Bit CPU Audio Codec via Randomized Hadamard Rotation and Lloyd-Max Quantization

📄 AudioTQ: A Data-Oblivious 6-Bit CPU Audio Codec via Randomized Hadamard Rotation and Lloyd-Max Quantization 标签:#音频编码 #模型压缩 #理论分析 #实时处理 3.5/10 | 创新 1/2 | 严谨 0.6/1.5 | 实验 0.3/1.5 | 清晰 0.7/1 | 影响 0.3/1.5 | 开源 0/1.5 | 复现 0.1/0.5 | 工程 0.5/1.5 📝 3.5/10 | 后50% | 文档类型:系统技术报告 | 评分置信度:高 | #音频编码 | #模型压缩 | #理论分析 #实时处理 | arxiv 👥 作者与机构 第一作者:Sahil Gangurde(未说明具体机构;论文给出个人网站 https://lostmartian.in 及邮箱 sahilgangurde08@gmail.com) 通讯作者:未说明 作者列表:Sahil Gangurde(独立作者,未挂靠任何学术或工业机构) 💡 毒舌点评 这篇论文的野心是"把 LLM 权重量化的随机 Hadamard 旋转搬到音频 codec 上",选题本身有一定跨域趣味,失败模式分析(Hadamard 基对齐导致 SQNR 塌缩到 1.31 dB)也确实暴露了作者对方法边界的思考。但这些亮点掩盖不了评估的严重不足:全文只测了两个音频 track、零个真实 codec 基线、零主观听感数据,却敢在标题里写 “6-Bit CPU Audio Codec”。更糟的是,“QJL / Joint Least-Squares” 的名字听上去像在求解最小二乘问题,实际上只是残差符号加回块级 MAE,名副其实的"名字通胀"。压缩率的计算基准是 float32 原始块而非实际 PCM 存储,等于用 4 字节/样本做分母来放大压缩收益。全文没有一行可复现代码或可获取测试音频,这在 2026 年的顶会投稿中基本等于自我放弃。 ...

2026-08-18 · 更新于 2026-09-04 · 5 min · 1061 words

ParaJSCC: A Parameterized Framework for Reusable Multimodal Joint Source-Channel Coding

📄 ParaJSCC: A Parameterized Framework for Reusable Multimodal Joint Source-Channel Coding 标签:#音频编码 #多模态模型 #音视频 #鲁棒性 #高效推理 6.6/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.7/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 6.6/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #音频编码 | #多模态模型 | #音视频 #鲁棒性 | arxiv 👥 作者与机构 第一作者:Kemi Chen(福州大学) 通讯作者:Tiesong Zhao(福州大学) 作者列表:Kemi Chen(福州大学)、Mingkai Chen(南京邮电大学)、Youjia Chen(福州大学)、Qian Liu(大连理工大学)、Wei Gao(北京大学)、Tiesong Zhao(福州大学) 💡 毒舌点评 论文把重复访问的多模态资产服务从按请求编码中抽象出来,问题定义有应用价值,shared-private 渐进参数包、请求感知传输和 break-even 分析是清晰的亮点,实验结果也覆盖图像、音频、触觉三类信号。但作为顶会投稿,核心组件基本是已有范式(INR 实例优化、FiLM、渐进表示、JSCC)的组合式重构;两个数据集规模小,缺少方差/统计检验,没有直接对比最接近的 Implicit-JSCC 类方法,触觉基线多为分离式编码加 16-QAM,音频侧也缺少表面交互音频专用 JSCC 基线,公平性和泛化性支撑不足。此外完全未开源,量化、固定映射和网络细节不透明,使“统一可复用服务框架”的结论偏强。 ...

2026-08-18 · 更新于 2026-09-04 · 4 min · 669 words

KVAE: Family of Tokenizers for Multimodal Generative Models

📄 KVAE: Family of Tokenizers for Multimodal Generative Models 标签:#多模态模型 #变分自编码器 #音频编码 #音频理解 #Transformer 8.1/10 | 创新 1.3/2 | 严谨 1.3/1.5 | 实验 1/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.1/0.5 | 工程 1.3/1.5 🔥 8.1/10 | 前25% | 文档类型:模型报告 | 评分置信度:中 | #音频编码 | #变分自编码器 | #多模态模型 #音频理解 | arxiv 👥 作者与机构 第一作者:Andrey Shutkin(Kandinsky Lab) 通讯作者:未说明 作者列表:Andrey Shutkin、Denis Parkhomenko、Ivan Kirillov、Kirill Chernyshev、Kirill Malakhov、Ilia Vasiliev、Ilia Trushkin、Valeriya Kobenko、David Chikovani、Alexander Ivanov、Azat Saginbaev、Egor Silvestrov、Ivan Mikheev、Konstantin Zakharov,均署名 Kandinsky Lab 💡 毒舌点评 把 tokenizer 当作影响扩散生成的第一公民来做,跨图像、视频、音频统一评估 diffusability,并用 tokenizer-swap 和主观评测证明“重建好不等于生成好”,这是很实用的工程视角。但最关键的音频对齐目标、感知损失具体配置和大量精确超参数被推到“后续 publication”,导致读者很难独立复现。更值得注意的是,客观指标上并非处处 SOTA:音乐域 FAD/CLAP 仍落后于 MMAudio,语音域 SI-SDR 仍落后于 MovieGen DACVAE;最终“全面超越”的结论主要靠 side-by-side 主观胜率撑住,而主观评测又没有给出标注者数量、一致性和置信区间。 ...

2026-08-07 · 更新于 2026-09-04 · 5 min · 887 words

Investigating Codec-Internal Latent Audio Watermarking for Neural Codec Robustness

📄 Investigating Codec-Internal Latent Audio Watermarking for Neural Codec Robustness 标签:#音频水印 #音频编码 #鲁棒性 #音频理解 #Transformer 6.4/10 | 创新 1.6/2 | 严谨 1.1/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 ✅ 6.4/10 | 前50% | 文档类型:系统技术报告 | 评分置信度:高 | #音频水印 | #音频编码 | #鲁棒性 #音频理解 | arxiv 👥 作者与机构 第一作者:Zi Hu(University of Warwick, UK) 通讯作者:Ming Li(Zhejiang University-UIUC Institute, China;University of Illinois Urbana-Champaign, USA)、Carsten Maple(University of Warwick, UK) 作者列表:Zi Hu(University of Warwick, UK)、Houmin Sun(University of Warwick, UK)、Linxi Li(未说明)、Yechen Wang(未说明)、Liwei Jin(未说明)、Carsten Maple(University of Warwick, UK)、Ming Li(Zhejiang University-UIUC Institute, China;University of Illinois Urbana-Champaign, USA) 💡 毒舌点评 本文精准切中了神经编解码器时代音频水印的核心痛点,提出将嵌入点从波形表面移至连续潜空间内部,提供了有价值的探索方向,实验设计和权衡分析扎实。然而,论文的结论过于保守,仅停留在对一种特定嵌入路径的“调查”和“表征”,未能提出一个在通用性上超越AudioSeal的强基线。其核心声明“潜空间嵌入能减少与编解码器变换的失配”缺乏与强基线的直接主实验对比来验证。此外,论文完全回避了将水印嵌入离散码本(RVQ)这一更贴近真实编解码器核心的难题,使得其研究的实际应用价值打了折扣。 ...

2026-07-24 · 更新于 2026-09-04 · 3 min · 440 words

HARP: Harmonic-Aware Residual Partitioning for Neural Audio Codecs

📄 HARP: Harmonic-Aware Residual Partitioning for Neural Audio Codecs 标签:#音频编码 #音频质量评估 #对抗训练 #高效推理 #音频理解 9.6/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1/1 | 影响 1.2/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 🔥 9.6/10 | 前10% | 文档类型:方法研究 | 评分置信度:高 | #音频编码 | #对抗训练 | #音频质量评估 #高效推理 | arxiv 👥 作者与机构 第一作者:Qiaoyu Yang(Georgia Institute of Technology, Atlanta, United States) 通讯作者:未说明 作者列表:Qiaoyu Yang(Georgia Institute of Technology, Atlanta, United States)、Lixing He(The Chinese University of Hong Kong, Hong Kong, China)、Binyue Deng(Tencent Music Entertainment, Shenzhen, China)、Weifeng Zhao(未说明) 💡 毒舌点评 论文提出了一个优雅而高效的“训练时改造,推理时无痕”方案,将频率感知注入通用的RVQ架构,解决了频谱纠缠和截断质量不可预测的实际痛点,工程价值很高。然而,其分组策略和高斯权重初始化仍带有启发式色彩(例如,训练后Group 0和1的中心均收敛到~228 Hz,未实现预设的频带划分),且实验基线相对单薄(主要与DAC和BSCodec对比),缺乏与近期其他非架构修改方法(如MUFFIN、SNAC)的直接比较,使得其优越性的说服力略有折扣。 ...

2026-07-21 · 更新于 2026-09-04 · 3 min · 597 words

Data-driven Video Codec with Implicit Neural Representations

📄 Data-driven Video Codec with Implicit Neural Representations 标签:#音频编码 #知识蒸馏 #音频理解 #Transformer #模型评估 5.3/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.3/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.5/1.5 📝 5.3/10 | 后50% | 文档类型:系统技术报告 | 评分置信度:高 | #音频编码 | #知识蒸馏 | #音频理解 #Transformer | arxiv 👥 作者与机构 第一作者:Nishan Khanal(Thapathali Campus, Institute of Engineering, Tribhuvan University) 通讯作者:未说明 作者列表:Nishan Khanal(Thapathali Campus, Institute of Engineering, Tribhuvan University)、Saugat Neupane(Thapathali Campus, Institute of Engineering, Tribhuvan University)、Abhinav Chalise(Thapathali Campus, Institute of Engineering, Tribhuvan University)、Nimesh Gopal Pradhan(Thapathali Campus, Institute of Engineering, Tribhuvan University)、Dinesh Baniya Kshatri(Thapathali Campus, Institute of Engineering, Tribhuvan University) 💡 毒舌点评 本文的核心声明是构建一个"数据驱动的视频编解码器",但实验结果堪称灾难性的自我否定。作者用一个庞大的、过拟合的SIREN网络去拟合几个总大小仅几MiB的短视频,得到一个固定大小的模型(~9 MiB),压缩后仍有2.33 MiB,对大多数测试视频的压缩比远低于1(即模型比原始文件还大)。视频重建质量(28.72 dB PSNR)远低于H.264/HEVC在极低码率(如CRF 51)下的质量,使其所谓的"压缩"在实用性上毫无意义。论文本质上是一个关于INR表示能力的概念验证,而非一个实用的编解码方案,其实验设计和结论的推广价值极度有限。 ...

2026-07-20 · 更新于 2026-09-04 · 3 min · 502 words

Neural Morphing: Sequence-Optimized Token-Level Morphing in Neural Audio Codecs

📄 Neural Morphing: Sequence-Optimized Token-Level Morphing in Neural Audio Codecs 标签:#音频编码 #预训练 #实时处理 #音频理解 #Transformer 6.4/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.3/1.5 ✅ 6.4/10 | 前50% | 文档类型:系统技术报告 | 评分置信度:高 | #音频编码 | #预训练 | #实时处理 #音频理解 | arxiv 👥 作者与机构 第一作者:Emmanouil Karystinaios 通讯作者:未说明 作者列表:Emmanouil Karystinaios(论文致谢中提到受欧洲研究委员会 (ERC) 资助,编号101019375) 💡 毒舌点评 这篇论文将神经编解码器的token操作包装成一个实用的音频效果插件,工程实现相当完整,尤其是对RVQ分组和序列优化的设计有巧思,训练免费是其最大卖点。但核心验证几乎全部局限在打击乐素材上,缺乏对谐波、语音等复杂信号的泛化分析,且完全没有主观评估,使得其宣称的“声音设计师的调色板”显得证据不足,更像一个精心制作的概念验证Demo。论文的定位介于方法论文和系统报告之间,但证据标准更偏向后者,而实验设计又缺乏压力测试、失败案例分析和与现有工作(即使是传统方法)的直接对比。 📌 核心摘要 要解决什么问题:传统音频morphing或mosaicing方法要么在波形或频谱域操作,效果受限,要么需要训练专门的生成模型。本文提出一种利用预训练神经音频编解码器的离散token表示,在token域进行控制、可重复、可自动化的声音混合(morphing)效果,面向DAW工作流。 方法核心是什么:方法名为Neural Morphing,是一个训练免费的pipeline。它将源音频和palette音频编码为RVQ token序列,将token分组为“grain”,在codec诱导的描述符空间中为每个源grain寻找palette候选,通过带连续性约束的序列优化(如束搜索)选择最优palette路径,最后使用一种将RVQ码本分为“粗-中-细”三组的策略进行token替换,并解码得到混合音频。 与已有方法相比新在哪里:不同于传统频谱morphing或波形mosaicing,该方法在神经编解码器的离散token域操作;不同于需要训练的生成模型,它是免训练的;其创新点在于引入了RVQ组转移策略和连续性约束的序列匹配来提升可控性和连贯性。它声称是“token-domain palette-based morphing with mosaicing-like sequence selection”,是跨领域方法的集成创新。 主要实验结果: 论文主要在WaivOps Lo-Fi Drums素材和Freesound palette上进行验证。 Table 1: DAC ablation Method FAD SC LSD Jit (k) EnvC RTF Beam RVQ 1.134 1.307 27.04 11.52 0.986 0.217 Beam full 0.172 1.397 27.09 11.52 0.999 0.236 Greedy full 0.172 1.397 27.09 24.66 0.999 0.223 Greedy RVQ 0.961 1.310 26.93 24.66 0.987 0.232 Table 2: Deployment diagnostics Path-continuity comparison: Selector Jit (k) File sw. Adj. Seq ms Greedy 24.66 78.1% 14.9% 2.5 Smooth 13.47 40.9% 50.3% 145 Beam 11.52 35.2% 57.3% 1737 Viterbi 6.46 19.4% 76.2% 12830 Realtime-proxy parity (chunk size vs metrics): Chunk SC LSD EnvCorr :— :—: :—: :—: 8192 0.355 10.60 0.983 16384 0.317 9.28 0.986 32768 0.291 8.68 0.988 结果解读:束搜索(Beam)比贪婪搜索(Greedy)显著降低了palette索引抖动(Jit),证明了序列优化的效果。RVQ分组转移改变了频谱和包络指标,提供了可控的结构/细节混合。系统在测试条件下满足实时性要求(RTF<1)。论文指出,这些数字是“sanity checks for the demo claims”,而非感知偏好分数。 实际意义:提供了一种新颖的、训练免费的、可集成到DAW中的声音设计工具,允许声音设计师使用一组素材(palette)作为“音色画笔”来塑造源音频的节奏,具有创新的工程价值和实用潜力。但其应用范围当前局限于打击乐素材。 主要局限性:缺乏感知评估(用户研究),验证局限于打击乐素材,对谐波和人声等复杂信号的有效性未知,可复现性有限(未公开代码和模型),缺乏与现有方法(包括传统方法)的直接对比,多个超参数(θ, τ, ρ, λ)缺乏敏感性分析和调优指南。 🔗 开源详情 代码:论文中未提及代码链接。文中描述了一个基于JUCE的独立/VST3/AU插件和一个用于消融和指标提取的Python参考路径,但未提供任何公开的代码仓库地址。 模型权重:论文中未提及。论文使用了DAC (Descript Audio Codec) 作为神经音频编解码器,但未提供其模型权重的具体下载链接或托管地址。 数据集: Freesound数据集:论文中用于构建调色板(palette)的247个音频片段,许可为Creative Commons。获取链接为 Freesound 网站:https://freesound.org (论文中引用为 [1])。 WaivOps Lo-Fi Drums 数据集:论文中用作源/参考材料。论文中未提供直接链接,仅通过参考文献 [3] 引用。 Demo:论文中未提及。 复现材料: 编解码器设置:使用DAC在44.1 kHz下,包含9个RVQ码本。 关键参数:token grain大小 G=7,hop H=2;用于检索的候选数量 K=96;RVQ组权重参数 ρ=0.30;beam search等算法的具体实现细节(如公式4)。 评估设置:使用了确定性的音频清单(manifest)进行评估,并报告了多种客观指标(如SC, LSD, EnvCorr, FAD等)。论文提供了详细的消融实验设置和结果(表1、表2),可用于复现核心比较实验。 论文中引用的开源项目: Freesound:一个协作式音频样本数据库。链接:https://freesound.org (论文参考文献[1])。 WaivOps Lo-Fi Drums:一个Lo-Fi鼓音频数据集。论文中未提供直接链接(论文参考文献[3])。 Descript Audio Codec (DAC):一个神经音频编解码器。论文中作为核心编解码器使用。相关链接通常为:https://github.com/descriptinc/descript-audio-codec (注意:此链接是基于公开已知信息补充,论文正文中未直接提供此GitHub链接)。 JUCE:一个用于音频应用开发的C++框架。论文中用于构建插件。链接:https://juce.com (论文正文中提及名称,但未提供链接,此链接为该项目的官方网站)。 🏗️ 方法概述和架构 本文提出的Neural Morphing是一个多阶段的音频处理pipeline,旨在将源音频的节奏结构与调色板(palette)音频的音色特征相结合,生成混合音频。整个流程在预训练神经音频编解码器(本文使用DAC)的离散token域进行,避免了重新训练生成模型。 ...

2026-07-15 · 更新于 2026-09-04 · 3 min · 585 words

PolarBM: Complex-valued Boltzmann Machine for Modeling Audio Signals in Polar and Log-polar Coordinates

📄 PolarBM: Complex-valued Boltzmann Machine for Modeling Audio Signals in Polar and Log-polar Coordinates 标签:#语音增强 #自监督学习 #音频编码 #理论分析 #音频理解 5.8/10 | 创新 1.3/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.5/1.5 📝 5.8/10 | 前50% | 文档类型:方法研究 | 评分置信度:高 | #语音增强 | #自监督学习 | #音频编码 #理论分析 | arxiv 👥 作者与机构 第一作者:Toru Nakashika(东京电气通信大学信息与工程研究生院) 通讯作者:未说明(根据论文格式推测可能为第一作者) 作者列表:Toru Nakashika(东京电气通信大学信息与工程研究生院)、Kohei Yatabe(东京农工大学电气工程与计算机科学系) 💡 毒舌点评 本文在数学上相当优雅,将玻尔兹曼机自然地扩展到复数极坐标表示,并推导出新颖的PW-NCCG分布,语音重建实验结果也令人惊讶地接近原始语音。然而,作为一篇2026年的论文,其核心模型仍是浅层的概率图模型,在深度学习范式主导的今天,其竞争力与可扩展性存疑,且完全不开源的做法使其价值大打折扣。 ...

2026-07-15 · 更新于 2026-09-04 · 3 min · 502 words