AMRD: Adaptive Multi-Teacher Relational Distillation for Lightweight Speech Emotion Recognition
📄 AMRD: Adaptive Multi-Teacher Relational Distillation for Lightweight Speech Emotion Recognition 标签:#语音情感识别 #知识蒸馏 #自监督学习 #模型压缩 #音频理解 5.6/10 | 创新 1.2/2 | 严谨 0.8/1.5 | 实验 0.8/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.9/1.5 📝 5.6/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #语音情感识别 | #知识蒸馏 | #自监督学习 #模型压缩 | arxiv 👥 作者与机构 第一作者:Yuqi Li(未说明) 通讯作者:Yi-Cheng Lin(未说明)、Yingli Tian(未说明) 作者列表: Yuqi Li(未说明) Yi-Cheng Lin(未说明) Xianglong Wang(未说明) Kuo Yang(未说明) Xiaoqin Feng(未说明) Yixuan Wang(未说明) Huiran Duan(未说明) Yingli Tian(未说明) 💡 毒舌点评 本文提出了一个设计巧妙的多教师知识蒸馏框架,利用SVM动态评估教师质量和关系矩阵蒸馏来挖掘结构化知识,这一组合在SER压缩任务上带来了清晰且一致的提升。然而,实验仅限于两个教师模型,在M=2的设定下讨论“多教师”未免格局略小,且文中未包含任何现有多教师蒸馏方法的直接对比,让所宣称的优势显得说服力不足。此外,代码和模型完全未开源,使得声称的“轻量级”和“实用性”暂时停留在纸面。 ...