Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters?
📄 Do We Really Need Multimodal Emotion Language Models Larger Than 1B Parameters? 标签:#语音情感识别 #知识蒸馏 #多模态模型 #高效推理 #模型压缩 7.4/10 | 创新 1/2 | 严谨 1.5/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 1/1.5 | 复现 0.1/0.5 | 工程 1.2/1.5 ✅ 7.4/10 | 前50% | 文档类型:方法研究 | 评分置信度:高 | #语音情感识别 | #知识蒸馏 | #多模态模型 #高效推理 | arxiv 👥 作者与机构 第一作者:Kaiwen Zheng (University of Glasgow) 通讯作者:论文中未标注通讯作者。 作者列表:Kaiwen Zheng (University of Glasgow), Junchen Fu (University of Glasgow), Wenhao Deng (University of Glasgow), Hu Han (Institute of Computing Technology, Chinese Academy of Sciences), Joemon M. Jose (University of Glasgow), Xuri Ge (School of Artificial Intelligence, Shandong University) 💡 毒舌点评 本文精准地切中了多模态大模型在资源受限场景部署的痛点,提出了一个完整的“知识蒸馏+强化学习”工程方案。实验结果表明,通过SWD-H隐藏状态对齐和M-GRPO多奖励精炼,0.6B的学生模型在平均性能上确实能匹配甚至超越8B教师。但这份工程上的成功掩盖了其科学创新的有限性:核心方法SWD-H本质上是对现有最优传输(OT)方法在短序列场景下的应用适配,而M-GRPO的奖励函数设计高度依赖人工经验和权重调整。论文的真正贡献在于证明了精心设计的工程流水线足以实现高效部署,而非提出了全新的学习范式。此外,教师模型在特定任务数据集上专门训练,使得“小模型超越大模型”的结论普适性大打折扣。 ...