IVQ: Structured and Lightweight Vector Quantization via Binary Hierarchical Composition Inspired by
📄 IVQ: Structured and Lightweight Vector Quantization via Binary Hierarchical Composition Inspired by \(\textit{IChing}\) #音频编码 #音乐生成 #多模态模型 #模型压缩 8.2/10 | 创新 1.8/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 1/1.5 | 开源 1.2/1.5 | 复现 0.4/0.5 | 工程 0.9/1.5 🔥 8.2/10 | 前25% | #音频编码 | #模型压缩 | #音乐生成 #多模态模型 | arxiv 👥 作者与机构 第一作者:Heda Zuo(浙江大学计算机科学与技术学院) 通讯作者:Weitao You(浙江大学计算机科学与技术学院) 作者列表:Heda Zuo(浙江大学计算机科学与技术学院)、Junxian Wu(浙江大学计算机科学与技术学院)、Fengjie Lu(浙江大学计算机科学与技术学院)、Pei Chen(浙江大学计算机科学与技术学院)、Lingyun Sun(浙江大学计算机科学与技术学院)、Weitao You(浙江大学计算机科学与技术学院) 💡 毒舌点评 这篇论文的野心在于用东方哲学包装一个本质上属于残差积量化(Residual-Product VQ)的技术方案,并试图将《易经》的符号系统强制映射为一种结构先验。但难能可贵的是,这种包装并非纯粹的概念点缀,而是真正催生了极简码本(4×2个基向量)与几何对称约束的有效结合,从根本上解决了码本坍缩,并实现了100%的利用率。在“大力出奇迹”的Scaling Law时代,这种追求结构优雅和极致轻量化的反向探索具有启发性。但哲学隐喻增加了不必要的阅读障碍,且实验规模与当前主流大模型相差甚远,使其实用性仍存疑。 ...