DOMA: Leveraging Diffusion Language Models with Adaptive Prior for Intent Classification and Slot Filling
📄 DOMA: Leveraging Diffusion Language Models with Adaptive Prior for Intent Classification and Slot Filling #语音对话系统 #意图识别 #槽填充 #扩散模型 #鲁棒性 🔥 8.5/10 | 前25% | #语音对话系统 | #扩散模型 | #意图识别 #槽填充 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Siqi Yang(电子科技大学) 通讯作者:Fan Zhou(电子科技大学;智能数字媒体技术四川省重点实验室;喀什电子与信息产业研究院) 作者列表:Siqi Yang(电子科技大学),Yue Lei(电子科技大学),Wenxin Tai(电子科技大学),Jin Wu(电子科技大学),Jia Chen(电子科技大学),Ting Zhong(电子科技大学),Fan Zhou*(电子科技大学;智能数字媒体技术四川省重点实验室;喀什电子与信息产业研究院) 💡 毒舌点评 这篇论文巧妙地将扩散语言模型(DLM)的并行生成能力用于纠正ASR转录错误,并通过一个轻量级的自适应先验模块来解决DLM可能“改对为错”的痛点,想法很实用。不过,整个框架的性能瓶颈和复杂度高度依赖于所使用的DLM(如LLaDA),自适应先验模块本身也可能引入新的错误(例如错误地掩码了本应保留的token),论文对此的边界讨论不足。 🔗 开源详情 代码:论文提供了代码仓库链接:https://github.com/ICDM-UESTC/DOMA。 模型权重:论文未提及DOMA中的自适应先验(AP)模块权重是否开源。所使用的DLM(LLaDA-8B-Instruct)为第三方开源模型。 数据集:论文使用的是公开的基准数据集(SLURP, ATIS, SNIPS),未提及对数据集的修改或私有部分。 Demo:论文中未提及在线演示。 复现材料:论文提供了关键的超参数设置(假设数N=5, 门控阈值p=0.5, 生成长度64, 扩散步数32)、优化器学习率(1e-5)、训练轮数(10 epochs)以及骨干模型(RoBERTa-base),但未提供更详细的训练配置(如batch size)、检查点、完整训练日志或附录中的额外设置。 论文中引用的开源项目:论文明确提到使用了开源的LLaDA模型([14] Nie et al., ICLR 2025 Workshop),以及作为下游骨干的RoBERTa [20]。ASR使用了Whisper Large-v3。 📌 核心摘要 本文针对自动语音识别(ASR)错误会传播并损害下游口语理解(SLU)任务(如意图分类和槽填充)性能的问题,提出了一个模型无关的框架DOMA。DOMA的核心是使用扩散语言模型(DLM)对ASR转录文本进行细化,并引入了一个自适应先验(AP)机制来引导DLM的生成过程。具体来说,DOMA首先使用DLM生成多个候选细化假设,然后利用一个轻量级的、可训练的AP模块(包含自注意力和门控机制)来识别并保留原始ASR转录中可能正确的token,从而构建一个部分掩码的初始序列,而非从完全掩码开始生成。这有助于减少DLM的过度纠正,同时减少所需的扩散步数,提升推理效率。在SLURP、ATIS和SNIPS三个基准数据集上的实验表明,DOMA在多种基线模型(如RoBERTa, SpokenCSE)上一致提升了ICSF性能,相对提升最高达3.2%(例如,DOMA+SpokenCSE在SLURP上的IC准确率从85.51%提升至88.26%)。同时,与自回归LLM细化方法相比,DOMA将推理延迟降低了34.8%(RTF从0.66降至0.43)。该框架的意义在于为提升SLU系统对ASR错误的鲁棒性提供了一种高效、通用的后处理方案。主要局限性在于其效果依赖于强大的预训练DLM(如LLaDA-8B),且AP模块的训练需要额外数据和计算资源。 ...