Teaching the Teachers: Boosting Unsupervised Domain Adaptation In Speech Recognition By Ensemble Update
📄 Teaching the Teachers: Boosting Unsupervised Domain Adaptation In Speech Recognition By Ensemble Update #语音识别 #领域适应 #知识蒸馏 #半监督学习 #教师-学生模型 ✅ 7.0/10 | 前25% | #语音识别 | #领域适应 | #知识蒸馏 #半监督学习 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Rehan Ahmad(谢菲尔德大学) 通讯作者:未说明 作者列表: Rehan Ahmad¹² (¹University of Sheffield, UK; ²Emotech Ltd.) Muhammad Umar Farooq² (²Emotech Ltd.) Qihang Feng¹ (¹University of Sheffield, UK) Thomas Hain¹ (¹University of Sheffield, UK) 💡 毒舌点评 亮点:该工作直击多教师-学生训练范式中“教师模型更新滞后”这一痛点,提出了一个轻量(EMA更新)、高效(同时训练)且有效的同步更新机制,在多个基准上取得了显著WER提升,证明了其方法的实用性。 短板:创新本质是对现有“教师-学生”和“集成学习”方法的精巧组合与工程优化,缺乏理论上的深度突破。此外,所有实验均围绕英语语音识别展开,方法在其他语言或更复杂的声学环境下的有效性尚未可知,存在一定的泛化性质疑。 ...