对齐

📄 TASU: Text-only Alignment for Speech Understanding #语音识别 #语音大模型 #对齐 #预训练 #零样本 ✅ 7.0/10 | 前25% | #语音识别 | #对齐 | #语音大模型 #预训练 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Jing Peng（上海交通大学X-LANCE实验室，MoE人工智能重点实验室，江苏省语言计算重点实验室） 通讯作者：Kai Yu†（上海交通大学X-LANCE实验室，MoE人工智能重点实验室，江苏省语言计算重点实验室） 作者列表：Jing Peng（上海交通大学X-LANCE实验室等）、Yi Yang（上海交通大学X-LANCE实验室等）、Xu Li（思必驰科技股份有限公司）、Yu Xi（上海交通大学X-LANCE实验室等）、Quanwei Tang（苏州大学计算机科学与技术学院NLP实验室，思必驰科技股份有限公司）、Yangui Fang（华中科技大学电子信息与通信学院，思必驰科技股份有限公司）、Junjie Li（上海交通大学X-LANCE实验室等）、Kai Yu（上海交通大学X-LANCE实验室等） 💡 毒舌点评 亮点：论文巧妙地通过CTC后验模拟（CPS）将“文本-文本”对齐伪装成“语音-文本”对齐，思路新颖且实验验证了其在零样本ASR和多任务理解上的可行性，为解决语音大模型数据依赖问题提供了低成本路径。短板：尽管在MMSU上超越了几个知名模型，但其绝对准确率（40.48%）与顶尖多模态模型（如Qwen2.5-Omni的60.57%）相比仍有不小差距，表明纯文本对齐范式在捕获复杂语音语义信息上可能存在天花板。 🔗 开源详情 代码：提供代码仓库链接：https://github.com/PigeonDan1/ps-slm.git 模型权重：未提及公开模型权重。 数据集：使用了公开数据集（LibriSpeech， SlideSpeech， CommonVoice4， CoVoST2， SLURP），但未说明论文专用数据集是否公开。 Demo：未提及。 复现材料：论文详细描述了模型架构、训练数据（名称）、关键训练超参数（学习率、CPS参数等）、评估基准和设置，提供了较好的复现基础。 论文中引用的开源项目/模型：依赖SenseVoice-Small作为语音编码器，Qwen2.5-1.5B作为LLM主干，Wenet作为评估工具。 📌 核心摘要 这篇论文旨在解决当前语音大语言模型（Speech LLMs）对齐训练依赖大规模音文配对数据、计算成本高且泛化能力有限的问题。为此，作者提出了TASU（Text-only Alignment for Speech Understanding），一种新颖的、仅使用文本数据进行跨模态对齐的范式。其核心方法包括两个部分：标签同步解码（LSD）和CTC后验模拟（CPS）。LSD用于在推理时对语音编码器输出的CTC后验进行压缩和去冗余，而CPS则在训练时将文本转录转化为模拟的“伪CTC后验”，从而仅用文本数据训练一个可训练的投影器（Projector），同时保持大语言模型（LLM）主干网络冻结。主要实验结果显示，在纯文本训练下，TASU实现了具有竞争力的零样本语音识别（在LibriSpeech上WER与使用配对数据的基线SLAM差距小于1.5%），并可作为课程学习的预训练阶段提升域泛化能力；在语音理解多任务测试中，TASU在MMSU基准上的准确率（40.32%）超越了SLAM-LLM（36.70%）、SALMONN-13B（25.84%）和GLM-4-Voice（35.51%）等模型。其实际意义在于大幅降低了语音大模型对齐阶段的数据门槛和训练成本。主要局限性在于，与当前最先进的、使用海量数据预训练的多模态模型相比，其绝对性能仍有差距，且CPS生成的伪后验与真实语音后验的分布差异有待进一步缩小。 ...