X^3-OPD: Distilling Reasoning into Large Audio-Language Models via On-Policy Alignment
📄 X^3-OPD: Distilling Reasoning into Large Audio-Language Models via On-Policy Alignment 标签:#音频理解 #知识蒸馏 #多模态模型 #强化学习 #Transformer 7.1/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.9/1 | 影响 1.1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.1/10 | 前50% | 文档类型:方法研究 | 评分置信度:中 | #音频理解 | #知识蒸馏 | #多模态模型 #强化学习 | arxiv 👥 作者与机构 第一作者:Dongjie Fu (Tencent Hunyuan, Zhejiang University) 通讯作者:Tao Jin (Zhejiang University) 作者列表:Dongjie Fu (Tencent Hunyuan, Zhejiang University), Di Cao (Tencent Hunyuan), Xize Cheng (Zhejiang University), Zihan Zhang (Zhejiang University), Wenxu Jia (Zhejiang University), Yifu Chen (Zhejiang University), Shengpeng Ji (Tencent Hunyuan, Zhejiang University), Yu Zhang (Zhejiang University), Tao Jin (Zhejiang University) 💡 毒舌点评 本文提出了一个系统的跨模态在线策略蒸馏框架,其三层级对称数据设计和将推理轨迹锚定于学生自身声学感知的尝试确有创新,但核心贡献高度依赖一个强大的闭源文本教师模型(Qwen3-235B-A22B-Thinking)。尽管在推理密集的BIG Bench Audio上提升显著,但在纯感知任务(如MMAU-Music、MMSU-Phonology)上提升有限甚至出现退化,暴露了文本教师在引导非语义声学推理方面的固有局限。此外,整个框架未开源,严重限制了其可复现性和社区影响力。 ...