英文题目：X-AuT: Progressive Audio-Encoder Compression for Speech LLMs with Cross-Scale Distillation
标签：#语音识别 | #模型剪枝 | #知识蒸馏 | #高效推理
评分：8.1/10 | 创新 1.5/2 | 技术严谨 1.2/1.5 | 实验充分 1/1.5 | 清晰度 0.8/1 | 影响力 1.1/1.5 | 开源 1/1.5 | 可复现 0.3/0.5 | 工程/实践 1.2/1.5
👥 作者与机构
- Haojun Zhang：XPeng Inc.
- Yi Zou：XPeng Inc.
- Min Chen：XPeng Inc.
- Qize Yu：XPeng Inc.
- Lianrui Fan：XPeng Inc.
- Xini Ding：XPeng Inc.
- Hao Li：XPeng Inc.
- Shuchang Zhou：XPeng Inc.
- Xianming Liu：XPeng Inc.
- Shiyu Huang：XPeng Inc.
📌 核心摘要
输入为语音波形，输出为中英文转写文本，实际难点在于直接删除音频编码器整层会扰动送入解码器的桥接嵌入并诱发删除与提前结束符错误。方法首先以转写一致性过滤构建最高一致层训练池，为后续恢复提供干净监督并重加权目标域来源。接着在每跳剪枝前用短预算行为探针在匹配初始化与数据下比较候选层组合的可恢复性，其选中组合直接决定下一步的学生初始化。随后对选中学生依次做表示对齐、跨尺度蒸馏与低秩微调，冻结解码器主干而适配注意力低秩适配器与绑定输出嵌入，并进入下一跳渐进剪枝。在十个公开中英文基准构成的评测套件下，16层模型相对18层基线的宏平均错误率从5.61%降至5.27%。与已有整层删除方法相比，关键差异是用恢复后行为而非静态重要性分数选层，并同时对齐隐藏状态与教师强制及学生策略下的词分布，具有缓解多层非加性交互的实际意义。该结论适用边界受限于Qwen3-ASR单模型族、两跳固定候选与最高一致层数据，跨架构与更广层组合尚未验证。14层模型在车载加速器上编码器延迟降低21.4%而端到端延迟仅降低4.7%，推理开销受自回归解码主导且单次测量未保留运行方差。
🔗 开源与复现资源
复现相关资源：https://xpeng-ai.github.io/x-aut → https://xpeng-ai.github.io/x-aut/ — 链接可访问（HTTP 200）
代码相关资源：https://github.com/XPENG-AI/X-AuT — 链接可访问（HTTP 200）
模型相关资源：https://huggingface.co/XPENG-AI/X-AuT — 暂时无法访问
模型相关资源：https://huggingface.co/Qwen/Qwen3-ASR-0 — 暂时无法访问
模型相关资源：https://huggingface.co/Qwen/Qwen3-ASR-1 — 暂时无法访问
可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
输入是什么，目标是什么，本文要保留什么信息？
本文解读的对象是语音大语言模型中音频编码器的深度压缩。输入是一段波形，目标是输出对应的中英文转录文本，评价使用字错率与词错率。系统由三部分组成：处理全部音频帧的音频编码器，把声学特征映射到语言模型嵌入空间的桥接模块，以及自回归生成文本的因果解码器。压缩的动机是编码器必须处理每 1 帧，其深度直接影响首包延迟与车载移动端成本。
本解读的目标读者是刚进入语音与音频方向的研究生。需要保留的信息包括删了哪些层，用什么数据与预算选择层组合，每阶段损失与冻结更新规则，10 个公开评测集上的误差与参数量，对照实验的条件是否匹配，以及单次运行的局限。输出是 1 篇可核对、可复述方法的中文技术解读，不做营销式判断，教学举例会明确标注为例子。
复述时先沿一个样本走完全程：波形进入 18 层音频变换器，经桥接变成音频嵌入，插入到词嵌入序列的音频占位处，解码器逐词预测转录。剪枝后嵌入分布偏移，可能触发过早的结束符与大段删除错误，恢复训练就是要把表示与词分布重新拉回可用状态。后续章节按学习依赖展开，先讲相关路线，再讲全景、组件、训练、实验条件、结果与反证，最后讲复现与收束。
已有压缩路线在压哪里，为何还要做行为探针？
相关工作按压缩位置可分为 4 类。第一类压缩解码器，例如蒸馏解码器但保留编码器。第二类在块内做低秩分解或结构化稀疏，减少矩阵计算但保留层数。第三类在训练中引入可变深度容忍或超网，1 次训练取出多种深度。第 4 类直接删除完整编码器层，得到规整的部署结构，但会改变下游模块消费的表示。
本文属于第 4 类，但起点是已预训练好的音频塔，而非从零训练小编码器再对齐。作者指出两个未完全解决的问题：在固定恢复预算下哪些层组合可恢复，以及恢复时如何同时处理隐状态失配与学生自身解码历史引入的误差。这两个问题相互耦合，因为删除一层会改变后续块的输入，桥接又必须维持预训练时学到的解码器接口。
因此静态重要性分数不够，本文用短预算行为探针直接比较候选。与在其他编码器上剪层再用适配器恢复的工作相比，本文增加了逐跳探针、跨尺度隐状态与词分布监督、计划性学生策略上下文。类别差异不应直接当成同条件胜负，对照只在本文同一预算与同一学生起点下成立。理解这一点才能正确定位探针的教学价值。
删层为什么会引发删除错误，优化目标如何形式化？
直观例子帮助理解，明确标为例子：一段 10 秒座舱指令音频本来应解码为二十多个字，剪层后桥接输出的音频嵌入整体偏移，解码器在第 3 个词后就认为声学证据不足而输出结束符，后续内容全部丢失，字错率中删除项骤增。原文将这种现象称为过早结束符问题，并用最小生成词数与回退机制做工程防护，但声明未直接测量嵌入均值方差与因果链，因此这只是动机假设而非机制证明。
形式上，设编码器共有多层，保留有序子集，目标是在层数等于目标深度且小于原深度的约束下最小化聚合文本错误率。被优化的参数包括剪后编码器、桥接与可训练的输出投影，解码器主干保持冻结，解码器注意力上的适配器参数可训练。恢复先对齐中间层与桥接表示，再在标准答案前缀与学生生成前缀下适配词分布。
该目标强调可恢复子集而非单层冗余。孤立看冗余的层在另一层被删后可能变得重要，因为残差流出现新的断点。后续层筛选实验正是为验证这种非加性交互而设计，单层分数相加无法预测双层组合的恢复难度。
全景如何从数据走到两个工作点？
全流程可分为 5 步。第一步用转录一致性过滤构建最高一致档训练池。第二步用匹配短预算探针选择可恢复层组合。第三步分 2 跳把音频塔从 18 层减到 16 层再到 14 层。第四步每跳都经过 3 阶段恢复。
第五步在 10 个公开中英文评测集上聚合字错率与词错率，报告两个工作点。第一跳删除原始层 1 与 18，第二跳在已恢复的 16 层基础上评估单层与固定层对候选。
恢复时学生是剪枝后的小模型，教师是具有 24 层音频塔的大模型，教师参数冻结且推理时丢弃。最终 16 层与 14 层分别对应不同的精度效率折中。前者追求宏平均误差更低，后者追求更大的结构减量。阶段划分与数据口径在训练与实验条件两节给出，数值结果见结果节表格。
看图路径： 1. 沿顶部一至五编号确认从转录一致性到评测的完整信息流；2. 对比第三面板中 18 层到 16 层再到 14 层的层数标注与删除对象；3. 确认第四面板阶段 0 瓶颈投影与阶段 1 两种上下文分支的画法；4. 找到解码器主干冻结而注意力 LoRA 可训练的锁形图标位置
论文图 2。原论文 Figure 2:：“Overview of X-AuT. Transcript-consistency filtering constructs the class 1 training pool, matched short-budget probes select recoverable layer combinations, and two pruning hops…”。
上图把数据、选层、剪枝、恢复与评测连成闭环，完整对应本次实际收到的总览图像素内容。左侧转录一致性面板显示源文本与两份假设的比较流程，中间行为探针面板强调层交互非可加，右侧渐进剪枝面板标出 2 跳删除对象，下方 3 阶段恢复面板区分表示对齐、跨尺度蒸馏与微调。该图只说明信息流与阶段划分，不作为精度证明。虚线与锁形图标强调解码器主干冻结而注意力适配器可训练，这是全文反复出现的更新规则。
层组合、表示对齐与跨尺度投影如何分工？
先讲组件分工。音频编码器提供分层声学抽象，桥接维持解码器接口，解码器主干提供语言生成能力。剪层同时破坏前两者与第三者的匹配，因此阶段 0 同时约束中间层、桥接、词分布与标准答案交叉熵。教师与学生宽度不同，教师隐状态更宽，需经两层感知机瓶颈投影到学生空间，瓶颈维度较小。层匹配把教师层均匀分成与学生层数相同的有序组，学生每层对齐到对应组内最后一个教师层。
音频编码器 × 桥接模块： 音频编码器负责把波形逐帧变换为分层声学隐表示，桥接模块负责把该表示映射到语言模型词嵌入空间，二者搭配是因为解码器只消费桥接后的条件嵌入，剪层造成的偏移必须经过桥接重新对齐才能恢复预训练学到的解码接口。
表示损失同时计算均方误差与余弦距离，词分布蒸馏使用温度缩放的相对散度并在标准答案前缀下计算。剪后编码器与桥接全量可训练，解码器侧只有低秩注意力适配器与共享权重的输出嵌入可训练，且使用独立的解码器侧学习率。这种分工把大改动限制在声学侧，把语言侧改动限制在小旁路。
优化目标的形式化定义如下，该式只给出剪枝子集与参数的约束关系，不包含蒸馏细节。
\[\min_{\mathcal{I},\theta^{\prime},\phi^{\prime},\omega^{\prime}}\operatorname{TER}(E_{\theta^{\prime},\mathcal{I}},B_{\phi^{\prime}},D_{\psi},H_{\omega^{\prime}})\quad\text{s.t.}\quad|\mathcal{I}|=M行为探针 × 渐进剪枝： 行为探针是在相同初始化、数据与短恢复预算下实测候选删层组合的恢复后误差，渐进剪枝是分 18 到 16 再到 14 两跳删除，搭配理由是单层重要性不可加，探针直接度量组合可恢复性后再决定下一跳删除对象。
上段说明探针与渐进剪枝的组合意义：探针提供组合级可恢复性度量，渐进提供中间恢复起点，二者共同降低 1 次删除多层带来的表示断裂风险。
三阶段恢复每步算什么，谁冻结谁更新？
阶段 0 占蒸馏轮次的前 5%，联合优化四项损失，包含层对齐、桥接对齐、词分布蒸馏与标准答案交叉熵。阶段 1 关闭中间层损失，保留桥接对齐、教师强制词蒸馏与标准答案交叉熵。在阶段 1 经过五分之一后，每 5 个优化步中约一步被调度为学生策略监督：学生贪心生成前缀，师生在同一自生成上下文上比较分布，比较范围取各自前列词表的并集，标准答案交叉熵仍作为锚点。实现上无置信度重加权。
教师强制蒸馏 × 学生策略蒸馏： 教师强制蒸馏在标准答案前缀下比较师生词分布，计算高效但与推理时依赖自身历史不一致，学生策略蒸馏让学生在自生成前缀上接受教师监督，二者搭配是为了同时稳定词分布并纠正自回归暴露偏差，标准答案交叉熵继续作为锚点。
阶段 0 的四项加权求和是恢复的起点，其权重与温度在附录有完整配置，阶段 0 温度较高，阶段 1 温度较低。
\[\mathcal{L}_{\mathrm{S0}}=\lambda_{\mathrm{layer}}\mathcal{L}_{\mathrm{layer}}+\lambda_{\mathrm{bridge}}\mathcal{L}_{\mathrm{bridge}}+\lambda_{\mathrm{logit}}\mathcal{L}_{\mathrm{logit}}+\lambda_{\mathrm{ce}}\mathcal{L}_{\mathrm{ce}}.\]阶段 1 的教师强制分支去掉层损失，只保留桥接、词分布与交叉熵三项。
\[\mathcal{L}_{\mathrm{off}}=\lambda_{\mathrm{bridge}}\mathcal{L}_{\mathrm{bridge}}+\lambda_{\mathrm{logit}}\mathcal{L}_{\mathrm{logit}}+\lambda_{\mathrm{ce}}\mathcal{L}_{\mathrm{ce}}.\]阶段 2 从阶段 1 最优检查点初始化，只用标准答案交叉熵微调一轮，所有可训练参数学习率更低，共享的输出嵌入在此阶段冻结。
\[\mathcal{L}_{\mathrm{S2}}=\mathcal{L}_{\mathrm{ce}}(\mathbf{y}^{\mathrm{gold}},\hat{\mathbf{y}}).\]回放防护包括最小新词数为 3、时长感知的最大长度上限、拒绝预算耗尽过长或重复的生成。若一批中至少 1/2 被拒绝，该微步回退到教师强制目标，因此调度比例只是目标值，实际学生策略比例可能更低。优化使用自适应优化器，音频塔与解码器侧在蒸馏阶段用不同学习率。
冻结解码器主干 × 注意力 LoRA 适配器： 冻结解码器主干指 Qwen3 解码器原始变换器权重不更新以保留预训练语言能力，注意力 LoRA 适配器指挂在查询键值输出投影上的低秩可训练旁路，二者搭配使恢复只调整少量解码侧参数而不破坏主干，共享输出嵌入按阶段规则训练或冻结。
下图显示 16 层恢复的选择集误差轨迹，上半为阶段 0 加阶段 1 蒸馏，下半为阶段 2 微调。纵轴是聚合误差，横轴是训练步数，阶段过渡在数千步附近。曲线只描述恢复过程，不代表单个损失项的贡献，因为阶段切换同时改变损失与优化器状态。
看图路径： 1. 看上图左侧橙色阶段 0 到浅蓝阶段 1 过渡附近的下降斜率；2. 区分上图细线单次评估波动与粗线平滑趋势的关系；3. 看下图虚线阶段 1 最优水平与微调曲线何时稳定低于该线
论文图 4。原论文 Figure 4:：“Selection-suite TER during 16-layer recovery.”。
上图可见早期快速下降、中期波动与后期缓慢优化，以及阶段 2 从阶段 1 最优水平继续下探。阅读时应区分细线单次评估噪声与粗线平滑趋势，不能把末步结果推广为全程最优，也不要从下降斜率反推某个超参数的因果作用。像素不能精确辨别的步数以正文数字为准，轨迹数值与硬件加速数字在收束节用表格汇总。
数据、选层集与评测集如何划分，参数量如何计数？
源池混合公开与自有中英文语料，过滤前超过 280,000 小时，音频截断到 40 秒。每条语料先转成统一清单，保留标识、音频引用、源文本、语言与划分标签、时长与采样信息。文本规范化包括统一码规范、宽窄字符、繁简转换、不可见字符与数字分隔符清理。无推理结果、无有效音频引用或无监督信号的记录被排除。质量估计用大模型与另一全模态模型离线生成两份假设，与源文本计算三方两两编辑率，中文用字错率，英文用词错率。
报告的蒸馏全程使用最高一致档，阶段 2 保持同一阈值但提高座舱与部分目标域语料权重，降低弱匹配网络语音权重。第一跳与第二跳每轮加权目标记录数在 29 万量级，这些是实际加载器索引而非源池时长。数据管线支持九档一致性，但报告运行只用最高档，阶段 2 仅改变源权重，未做跨档混合对照。
转录一致性分级 × 源重加权： 转录一致性分级用源文本与两个外部识别假设的三方最大编辑率划分九档以筛选高一致样本，源重加权是在保持最高一致档不变下改变不同语料占比以偏向座舱等目标域，二者组合分离了置信过滤与阶段性采样。
行为探针与检查点选择使用固定的五子集开发集，含普通话、英文、会议与自有座舱查询子集，频繁评估时每集至多 25 条，取 5 个归一化误差的宏平均选点。最终结果在 10 个公开集上单独评估，宏平均对评测集等权而非按语句数加权，自有选择子集不进入主结果表。参数计数来自检查点张量，音频塔总量与每块参数量有明确记录，16 层与 14 层对应不同减量。训练使用多卡与大批量，种子固定，单次运行无重复种子与置信区间，加粗只表示行内观测最优。
两跳压缩各付出什么代价，增益集中在哪里？
比较问题是：在相同 10 个公开集与相同宏平均口径下，16 层与 14 层相对 18 层基线各改变多少，增益与损失分布是否均匀。公平条件是同一学生起点、同一教师与同一 3 阶段配方，指标方向是误差越低越好。参数量按检查点张量计数，误差按公开集字错率词错率等权平均，定量细节以结果节连续原句为准。
| 对比维度 | 指标口径 | 基线表述 | 16 层表述 | 14 层表述 |
|---|---|---|---|---|
| 宏平均误差 | 十集等权平均 | 5.61% | 5.27% | 5.75% |
| 音频塔参数 | 检查点张量计数 | 186.376M | 167.085M | 147.794M |
| 相对参数变化 | 相对基线 | 基线 | 中间压缩 | 20.7% |
| 操作点含义 | 精度效率折中 | 基线 | 精度优先点 | 效率优先点 |
上表综合摘要与正文连续句中的宏平均与参数量，数值写法与原文连续句保持一致。16 层在宏平均上低于基线，提升集中在普通话与英文的众包语音及会议集，最大退化在演讲集。14 层相对基线仅高少量，中文众包集仍有改善，干净朗读集基本持平，最大退化在英文小语种集。相对 16 层，多数集变化较小，差距主要来自英文众包与会议集。未胜出项是 14 层在多数英文朗读与演讲集上的小幅退化，这是更大结构压缩的具体代价。
雷达图把每轴的精度保持率画成相对基线的轮廓展示，本次实际收到的像素包含黄色 16 层轮廓与绿色 14 层轮廓。虚线为 100 基准，外扩代表保持更好，黄色为 16 层轮廓，绿色为 14 层轮廓。该图提供跨集可视参考，定量比较仍以表格中的字错率词错率与宏平均为准。
看图路径： 1. 先找到灰色虚线基线轮廓并确认其代表的 100 基准位置；2. 比较黄色 16 层轮廓与绿色 14 层轮廓在十个轴上的内外关系；3. 观察顶部英文与中文普通话轴的外扩幅度与会议轴的差异
论文图 1。原论文 Figure 1:：“Per-benchmark accuracy preservation of the Stage 2 X-AuT models relative to unpruned Qwen3-ASR-0.6B.”。
该雷达图仅描述本次实际收到的像素内容，不引入像素外的数值转写。可见 16 层轮廓多处在基线外，14 层在多数轴贴近基线但在个别英文轴内缩，说明目标深度 alone 不足以刻画可恢复性，层组合与恢复预算同样关键。定量结论仍以正文表格与连续原句中的误差与参数量为准。
教师规模、层组合与剪枝路径是否真正重要？
本节组织 3 个反证：教师规模对照、层对探针、渐进与直接剪枝对照。每个对照都保留可运行策略，不用事后最优值代替可部署收益。先看教师规模。比较问题是相同 16 层配方、数据与优化下，跨尺度教师与自教师在阶段 1 最优点的全集均值差异。指标仍是误差越低越好。跨尺度训练额外需要隐藏宽度投影，其他调度与数据匹配。
| 对比维度 | 指标口径 | 基线表述 | 自教师表述 | 跨尺度表述 |
|---|---|---|---|---|
| 全集均值 | 十集等权平均 | 基线参考 | 8.45% | 5.55% |
| 相对基线 | 宏误差相对变化 | 基线参考 | 50.6% | 1.1% |
| 逐集表现 | 十集胜负关系 | 基线参考 | 十集均差 | 十集优于自教师 |
| 迁移迹象 | 高误差集行为 | 基线参考 | 未改善 | 优于基线迹象 |
| 解释边界 | 可分离性 | 基线参考 | 恢复不足 | 含通用蒸馏增益 |
上表显示跨尺度在十集上全部优于自教师，均值差距明显。论文将其解释为大教师在当前配方下带来有用声学迁移，但同时声明该对照未分离剪枝恢复与对未剪学生也可能有效的增益，因此只能说支持跨尺度监督的实用价值，不能说证明了新能力。单层最强的两个单删组合成对后反而比选中对差，说明可恢复性不可加。
再看过早结束符防护。比较问题是共享阶段 0 起点与阶段 1 配方下，是否训练共享输出头与是否设最小生成词数的 4 种组合如何影响空生成与开发集误差。公平条件是同起点同配方，指标是空事件数、过滤拒绝数与最优开发集误差，误差越低越好。
| Configuration | lm_head | min_new | Empty events | TER | Rejections |
|---|---|---|---|---|---|
| A: neither | frozen | 0 | 5 | 6.86 | 20 |
| B: lm_head | trainable | 0 | 3 | 6.83 | 11 |
| C: gating | frozen | 3 | 0 | 6.97 | 2113 |
| D: both | trainable | 3 | 0 | 6.75 | 2162 |
上表是原文可直接选择的消融表，包含无防护、仅训练输出头、仅门控、两者叠加四行。无防护组合出现多个含空生成的窗口，训练输出头减少空事件，最小词数门控在两种条件下都消除空事件，但把部分过早终止变成更长或退化生成，拒绝数从数十升到两千量级。四者中最优观测误差为两者叠加，仅训练输出头次之，两者差距很小，原文明确指出无不确定性估计时不宜过度解读。负结果是仅门控而不训练输出头的误差最差，说明门控解决空串但不自动带来最优精度。
最后看层组合与路径。比较问题是相同短热身下不同双层候选的恢复后误差，以及相同删除集合下渐进与直接剪枝的全集均值。像素细节见下图，定量差距见下表。
看图路径： 1. 在左图单层删除中找到绿色选中的最低柱及其上方数值；2. 在右图双层删除中比较选中对与其他候选柱的高度差；3. 注意纵轴从 5.8% 起始，柱高差不代表零起点下的比例关系
论文图 5。原论文 Figure 5:：“Layer-screening results for single- and double-layer removals after the same 0.3-epoch warm-up. Lower TER is better; green marks the candidate selected for progressive pruning.”。
上图左面板显示单层删除的误差分布，绿色选中柱最低，右面板显示双层删除的排序，选中对低于非相邻强单层组合。纵轴从较高值起始，不能按柱高比例理解误差比例。右图最差的深层相邻对说明相邻 alone 不是充分条件，选择必须依赖实测。
| 对比维度 | 指标口径 | 选中渐进表述 | 强单层组合表述 | 直接剪枝表述 |
|---|---|---|---|---|
| 双层探针 | 开发集误差 | 6.93% | 7.78% | 直接路径不适用 |
| 全集均值 | 十集等权平均 | 5.75% | 组合对照不适用 | 6.73% |
| 探针差距 | 相对选中 | 基准 | 高于选中 | 高于渐进 |
| 逐集胜负 | 十集关系 | 渐进十集优 | 非相邻候选落后 | 直接十集均差 |
| 结构含义 | 删除集合 | 选中相邻对 | 强单层拼对 | 1 次删 4 层 |
上表数字来自正文连续句。渐进路径比直接路径低且十集全优，最大差距在英文众包与中文众包及演讲集。但原文限定该结论只在测试预算下成立，不能排除更大预算改善直接剪枝的可能。未评测边界包括更广的层组合因子设计与跨模型族验证。
单次运行与窄候选带来哪些不确定性？
主要局限是单次运行。全部主结果使用固定种子，未做重复种子、语句级配对置信区间或显著性检验。检查点选择依赖每集至多 25 条的固定开发子集，频繁评估可行但引入选择噪声。因此 16 层改善与 14 层落后的小幅度差距都是描述性观测，不能当作统计显著。表格加粗只表示行内观测最优，不代表显著性。
研究覆盖一个模型族与有限候选。层交互、投影对齐与结束符行为在其他编码器解码器或连接器架构中可能不同。数据管线支持九档一致性，但报告运行全程只用最高档，阶段 2 仅改变源权重，未做跨档混合对照。效率测量是单次保留输出的描述性平均，未保留运行间方差，且仅压缩音频塔，自回归解码主导端到端时间，因此编码器加速不等于端到端大幅加速。
混合学生策略的附加消融也需谨慎理解。原文报告普通离线基线、匹配计算量的离线对照与混合在线训练的最优与最终值，混合优于普通基线但未超过匹配离线对照。主流程保留混合是因为它直接监督自生成上下文且在完整管线中表现好，而非因为该消融证明了精度 superiority。更多种子与回放比例扫描才能定论，阶段切换同时改变损失与优化器状态，曲线不能归因到单个损失项。
复现应先准备什么，资源当前是否可用？
复现先做三件事。第一，按原文统一清单与规范化流程重建数据索引，再用两个强识别模型生成假设并计算三方最大编辑率，只保留完全一致档，阶段 2 再按原文提高座舱与部分会议语料权重。第二，从小模型检查点出发，先删指定层做短轮 LoRA 热身探针，用五子集宏平均选对，再按阶段 0 占小比例、阶段 1 占大比例、阶段 2 一轮的配方恢复，解码器主干冻结而注意力适配器与阶段性输出嵌入按规则更新。第三，在 10 个公开集上用原文字错率词错率口径与等权宏平均评估，保留基线与可运行策略的完整数字。
资源状态以本次核验为准。项目页面当前可用，代码仓库当前可用且文档为部分完整、覆盖安装与推理，模型页面本次未能确认可达。已公开不等于可一键运行，权重下载与完整训练配置需以仓库与模型页实际可达内容为准。超参数需保留音频塔与解码器侧的不同学习率、阶段权重、温度、前列并集、最小新词数与回退阈值等信息条件。
训练与部署成本需分开讨论。原文报告多卡大批量的训练配置，以及车载加速器与图形处理器上超过 50 条变长语句的描述性测量。14 层编码器时间分别减少约两成与 10%，端到端减少约百分之几，峰值显存变化较小。复现部署研究应在固定软件栈下重复测量并报告延迟分布，而非仅用平均值。总体趋势不等于每条语句都加速，变长音频的分布形态需要单独记录。
何时值得尝试这条压缩路径，还需补哪项验证？
当部署瓶颈在音频编码器且能接受小幅跨集波动时，该路径值得尝试。16 层是精度优先的操作点，14 层是参数与编码器延迟优先的操作点。尝试前应确认解码器主干冻结的约束是否符合自身系统，若需同时压缩解码器，本文结论不直接适用。方法复述要点是先过滤高一致数据，再用短预算实测选组合，再分两跳恢复，每跳都走表示对齐、教师强制加计划性学生策略蒸馏、低学习率微调。
跳过探针直接按单层分数拼双层，或 1 次删多层，都在本文预算下表现更差。跨尺度教师是恢复信号的关键来源，但其增益包含通用蒸馏增益，不应全部归因于剪枝修复。常见误解是把宏平均改善当成每集必改善，实际增益集中在高误差集而个别英文集回落。另一个误解是把无空生成当成精度最优，门控消除空串的同时会增加过滤拒绝，需与输出头训练配合评估。
轨迹与成本的补充对照如下，表中阶段选择集误差与硬件加速数字分别来自正文连续句，聚合对象与单位按原文保留。阶段 0 从高位快速下降，阶段 1 最低到中间水平，阶段 2 再下探，硬件行支持编码器剪枝是局部效率改进。
| 对比维度 | 指标口径 | 阶段 0 起点表述 | 阶段 1 最优表述 | 阶段 2 与硬件表述 |
|---|---|---|---|---|
| 选择集误差 | 聚合误差 | 10.88% | 5.76% | 5.36% |
| 过渡与步数 | 评估位置 | 7.80% | 8.38% | 0.40 pp |
| 硬件加速 | 编码器时间 | 车载基线 | 21.4% | 11.4% |
| 端到端 | 总时间 | 车载基线 | 编码器瓶颈 | 需管线并行 |
| 含义 | 适用条件 | 快速恢复 | 需多步优化 | 非端到端大幅加速 |
上表说明恢复是先快后慢，阶段 2 在阶段 1 最优点上继续下探。硬件行支持编码器剪枝是局部效率改进，尤其在编码器与解码器可流水时有价值，但不能承诺同等端到端收益。后续工作应在更广条件与重复试验下检验该折中是否稳定，还需补重复种子与配对区间、更广层组合、跨模型族、跨一致性档的数据混合对照，以及固定栈下的延迟分布。
📎 论文与评分元数据
排名：前25% | 文档类型：方法研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。
评分规则：type-aware-v1
评分模型：muse-spark-1.3-contributor
评分请求协议：openai_responses