📄 相关性蒸馏的噪声鲁棒性到底来自哪一项
英文题目：What Actually Makes Correlation-Based SSL Distillation Noise-Robust? A Mechanistic Correction
标签：#语音识别 | #音频分类 | #知识蒸馏 | #鲁棒性
评分：6.1/10 | 创新 1/2 | 技术严谨 1.2/1.5 | 实验充分 1.2/1.5 | 清晰度 0.8/1 | 影响力 0.8/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 0.8/1.5
👥 作者与机构
- Fabian Ritter-Gutierrez：机构信息未在 arXiv HTML 中可靠披露
- Nancy F. Chen：机构信息未在 arXiv HTML 中可靠披露
- Eng Siong Chng：机构信息未在 arXiv HTML 中可靠披露
📌 核心摘要
自监督语音模型准确但体积大，知识蒸馏把它压缩为小学生模型后，学生常丢失教师的噪声鲁棒性，已有相关系数蒸馏把鲁棒性归因于学生自相关项却未隔离验证。本文复用该蒸馏流程，先让师生在相同干净语音上叠加独立采样的加性噪声并抽取768维帧级表示，为相关计算提供输入。接着用跨相关矩阵对角项迫使学生逼近冻结教师的共享语音分量，按皮尔逊方差分解压缩学生噪声方差，其输出的去噪表示再进入自相关项整理。自相关项惩罚学生自身相关矩阵非对角元以解耦特征维度，再把重组后的末层特征送入全维度逻辑回归探针与下游线性头分别检验噪声残留与任务可用性。原有降维探针先均值池化再降到32维并用随机森林分类，本文证明其夸大了自相关项的去噪观感，故改用无降维探针并辅以同噪声对照与逐维度分析。在LibriSpeech-100蒸馏、CHiME-3保留噪声10 dB评测下，跨相关匹配相对噪声增强的蒸馏基线把噪声分类准确率从76.98%降到55.02%，补回自相关项后为55.55%，而同噪声采样下同目标失效并回升到95.38%。自相关项不去噪而是把噪声分散到更多维度并提升干净下游任务准确率，机制可迁移到环境声任务，但音高与音色敏感的音乐任务受语音增强管线影响而下降。原文未披露训练、推理或部署成本。
🔗 开源与复现资源
本次未形成可展示的已核验资源记录，开放状态尚未核实。
可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
语音自监督模型为什么需要蒸馏
刚接触语音表示的同学可以先把任务想成两步。输入是一段波形或频谱，目标是得到一串能保留语音内容的向量，后续用很小的分类头就能做语音识别、关键词、意图和情感等任务。自监督语音模型如 HuBERT 和 WavLM 用大量无标注语音预训练，效果好但参数大，论文提到教师约 95M，学生约 23M，手机或实时场景难以部署。知识蒸馏就是让小学生模仿大教师的中间表示，输入相同语音，输出尽量接近教师的特征。
难点在于教师本身对噪声有一定不变性，普通回归蒸馏在干净数据上学得很好，一旦测试时叠加真实环境噪声，学生的错误会明显放大。本文不提出新损失，而是回头检验已有相关性蒸馏方法中关于哪一项带来鲁棒性的说法，条件是 LibriSpeech-100 蒸馏、训练加 MUSAN 和 WHAM 噪声、测试用留出的 CHiME-3 噪声在 10 dB 信噪比下评估。
已有噪声鲁棒蒸馏把功劳记给了谁
在相同输入和相同蒸馏目标下比较，已有路线大致分两类。一类是数据增强加回归，即蒸馏时给学生输入加噪但仍用 L1 和余弦相似度去拟合教师，这类方法对教师本身是否鲁棒很敏感。另一类是把 Barlow Twins 式的互相关与自相关目标搬到师生蒸馏，学生经过预测头得到与教师同形状的表示，再用批量归一化后的外积构造相关矩阵。
原文指出，先前方法声称通过最小化学生的自相关实现鲁棒，De’HuBERT 也把降噪主要归因于自相关解耦项，但 2 篇都没有把互相关项和自相关项拆开单独训练和测试。前者只是设计动机层面的陈述，后者只给了定性的 t-SNE 可视化。更关键的是前者发布的噪声探针先对表示做时间平均，再用主成分分析降到 32 维后用随机森林分类，这种按方差截断的测量方式可能改变两项作用的相对排序。本文的全部对照都围绕这个归因是否成立展开。
要纠正的具体归因问题是什么
论文要回答的问题很具体：在总目标包含互相关损失、自相关损失和余弦项时，测试噪声不变性的提升到底来自哪一项。输入是同一段干净语音分别送入冻结教师和可训练学生，教师和学生各自叠加噪声，输出是 768 维帧级表示。必须保留的信息包括噪声是独立抽取还是完全相同、探针是否丢维度、以及干净与带噪下游任务的成绩变化。如果自相关项真是去噪主力，那么去掉它后噪声分类准确率应明显回升，下游带噪退化应明显变大。
如果主力是互相关对角项，那么去掉自相关项后总噪声应几乎不变，而把独立噪声换成相同噪声后机制应被关闭。论文用方差分解先给出预测，再用全维度探针、相同噪声因果对照和逐维度分析 3 路验证，最后给出蒸馏时如何加权和如何采样噪声的设计规则。
从输入到相关矩阵的整体流程
沿着一个训练样本走一遍流程会更清楚。取一段 LibriSpeech 干净语音，分别给教师分支和学生分支叠加噪声，默认机制分析采用两者独立采样的设置。学生是一个两层 Transformer，输出形状为批量、预测头、时间、特征维度的张量，教师为冻结的 HuBERT 并输出同形状张量，预测头对应第 4、8、12 层。对每个预测头和每个时间位置，把批量维度上的学生和教师特征向量做批量归一化，再求外积并在批量上平均，就得到互相关矩阵，它的元素是学生维度与教师维度之间的皮尔逊相关。
只用学生自身做同样计算就得到自相关矩阵。这种做法不需要额外投影器，也不引入可训练参数，时间轴被保留求和。直观上互相关矩阵的对角线越接近 1 说明学生每个维度都跟住了教师对应维度，非对角线越接近 0 说明维度间耦合越少；自相关矩阵的非对角线越接近 0 说明学生自身维度越解耦。下式是论文对方差机制的核心预测，它把对角相关写成语音方差与噪声方差的函数。
\[\rho(\hat{h}_{i},h_{i})=\frac{\mathrm{Var}(s_{i})}{\sqrt{\mathrm{Var}(s_{i})+\mathrm{Var}(n_{S,i})}\;\sqrt{\mathrm{Var}(s_{i})+\mathrm{Var}(n_{T,i})}}.\]教师噪声方差 × 学生噪声方差： 教师噪声方差指冻结教师表示中由加性噪声引入的方差部分，蒸馏时不可优化；学生噪声方差指学生表示中对应部分的方差，可被梯度改变。皮尔逊相关对角项的分母同时包含两者，教师噪声越大则分母对学生噪声越敏感，压低学生噪声带来的相关提升越大，这解释了为何对噪声更敏感的教师反而能蒸馏出更鲁棒的学生。
该式假设教师特征可近似写成共享语音分量加教师噪声，学生特征写成共享语音分量加学生噪声，且两侧噪声相互独立，于是交叉项消失。由于教师冻结，教师噪声方差固定，最大化对角相关就等价于最小化学生噪声方差，而自相关项没有进入该式，因而代数上不直接负责去噪。由此得到 3 个可检验预测：去噪主力是互相关对角项；独立性在结构上必要；教师噪声方差越大，压低学生噪声的梯度越强。
互相关项和自相关项各自计算什么
互相关损失把学生与教师的相关矩阵向单位矩阵拉近，对角项奖励每个维度的一致性，非对角项惩罚学生维度与教师不同维度之间的耦合，系数控制非对角惩罚的权重。自相关损失只惩罚学生自身相关矩阵的非对角项，系数控制解耦强度。原 DistilHuBERT 用 L1 加帧级余弦相似度作为蒸馏目标，相关性方法保留余弦项但用上述两项替换 L1，总目标是两者之和减去加权余弦项。需要强调的是，教师参数冻结不更新，梯度只经过学生和预测头，监督来自教师表示与相关矩阵形态约束，而非人工标签。
\[\mathcal{L}_{\text{CC}}=\sum_{p,t}\!\left[\sum_{i=1}^{D}\!\big(1-(\mathbf{C}_{\text{cc}}^{(p,t)})_{ii}\big)^{2}+\lambda_{\text{cc}}\!\sum_{i=1}^{D}\sum_{\begin{subarray}{c}j=1\\ j\neq i\end{subarray}}^{D}\!(\mathbf{C}_{\text{cc}}^{(p,t)})_{ij}^{2}\right]\!,\]\[\mathcal{L}_{\text{SC}}=\lambda_{\text{sc}}\sum_{p,t}\sum_{i=1}^{D}\sum_{\begin{subarray}{c}j=1\\ j\neq i\end{subarray}}^{D}(\mathbf{C}_{\text{sc}}^{(p,t)})_{ij}^{2},\]\[\mathcal{L}_{\text{CL}}=\mathcal{L}_{\text{CC}}+\mathcal{L}_{\text{SC}}-\gamma\,\mathcal{L}_{\cos},\]互相关损失 × 自相关损失： 互相关损失度量学生与教师同一维度表示的批量皮尔逊相关并向单位矩阵看齐，对角项要求一致、非对角项压制耦合；自相关损失只看学生自身维度之间的相关并压制非对角项。二者搭配时，前者负责在独立噪声下压低学生噪声方差，后者负责把特征维度解耦以便线性下游头使用，组合后同时得到噪声不变性和更易分类的特征排列。
独立噪声采样 × 相同噪声采样： 独立噪声采样指教师和学生听到同一段干净语音但叠加各自独立抽取的加性噪声，相同噪声采样指两者叠加完全同一段噪声。前者使教师噪声与学生噪声在批量统计中近似不相关，从而让互相关对角项的优化必须压低学生噪声；后者使噪声成为共享成分，对角项反而奖励保留共享噪声，两者对比直接检验机制是否因果成立。
理解这组分工后，后文的消融才有意义：令自相关系数为零即得到仅互相关模型，它保留对角压噪机制但不做显式解耦；恢复自相关系数即得到全损失，可以观察总噪声是否变化以及干净任务是否变化。
蒸馏训练的数据、噪声与优化设置
本研究没有训练新的教师模型，而是复用已有 HuBERT 作为冻结教师，只训练 DistilHuBERT 量级的学生。训练数据是干净的 LibriSpeech-100，训练时在线叠加 MUSAN 和 WHAM 噪声，信噪比范围为 10 到 20 dB。论文区分两种增强方式，设置一是只污染学生输入，设置二是对教师和学生都污染但噪声独立采样，机制分析默认使用设置二。评估用留出的 CHiME-3 噪声在 10 dB 下测试，以保证训练与测试噪声类型分离。下游评估遵循 SUPERB 语音协议和 MARBLE 音乐协议，学生最后一层输出被冻结，再接轻量线性头做分类或识别。
原文明确给出去掉自相关时的系数为零，全损失时自相关系数为 5 乘 10 的负 6 次方，余弦项权重沿用先前方法。优化器细节和训练步数等本文未重新报告，复现时应回到所复用的蒸馏协议，本文的贡献是 4 组诊断而非新的训练流程。
噪声探针如何测量表示中残留的噪声
探针的输入是学生最后一层 768 维帧级表示，处理是先在时间上平均得到句级向量，输出是对所加噪声类型的分类。分类越准说明表示中残留的可识别噪声越多，因此该指标越低表示越噪声不变，随机猜测为 25%。第一种探针复现先前发布代码的做法：降到 32 个主成分后用随机森林分类，重复 100 次自助采样取平均。第二种是本文主张的无偏探针：在全部 768 维上直接做逻辑回归，不做降维。两种探针的训练测试划分和噪声类别集合保持一致，区别只在是否截断维度。
显著性方面，分类任务用配对样本的 McNemar 检验，效应量用边际准确率上的 Cohen h 并给 95% 置信区间，语音识别词错误率用 10,000 次重采样的配对自助法，同族比较用错误发现率控制在 0.05。
全维度探针 × 降维探针： 全维度探针指在 768 维帧级表示时间平均后直接用逻辑回归分类噪声类型，不丢弃任何维度；降维探针指先做主成分分析只保留方差最大的 32 维再用随机森林分类。前者保留低方差组合中的噪声信息，后者按方差排序截断，会把相关特征中的噪声藏起来，二者对照揭示了原有评估对自相关项作用的夸大。
主成分按方差排序而非按类别可分性排序，若去掉自相关项后特征维度仍高度相关，噪声信息可能藏在低方差的组合方向中，截断到前 32 维就会人为压低噪声分类准确率，造成自相关项似乎去噪很多的假象。全维度探针不丢维度，避免了这种偏差，后续分解都以它为准。
两种探针为何给出相反的项重要性排序
要比较的问题是：在相同模型和相同噪声下，两种探针是否一致地评价互相关与自相关的作用，指标方向是噪声分类准确率越低越不变。公平条件是同一批蒸馏学生、同一 CHiME-3 测试噪声和同一句级平均表示，只改变探针本身。下表同时列出设置、损失、两种探针读数和对应的不变性判断，便于对照两种探针在同一模型上的读数差异，数字均来自原文连续句的逐字证据。
| 设置 | 损失 | 降维探针读数 | 全维度探针读数 | 不变性判断 |
|---|---|---|---|---|
| 设置 2 | 仅互相关 | 27.07% | 55.02% | 降维探针显著低估噪声 |
| 设置 2 | 全损失 | 原文未在连续句中给出单值 | 55.55% | 全维度下两者基本相同 |
上表说明降维探针把仅互相关模型排在远低于全损失的位置，好像去掉自相关反而更不变；全维度探针则给出 55.02% 与 55.55%，两者基本相同。结合原文解释，去掉自相关后特征仍相关，噪声藏在低方差组合中，截断后探针看不见，但联合逻辑回归仍能解码。自相关项把特征解耦并使坐标轴与主成分对齐，反而把噪声搬到高方差的单个维度上，更容易被截断保留。因此降维探针夸大了自相关项的去噪效果，全维度探针才是无偏比较基准。
噪声分类准确率 × 下游任务准确率： 噪声分类准确率是探针猜出音频被加了哪种噪声的比例，越低说明表示中残留的噪声信息越少；下游任务准确率是冻结学生表示后用轻量头做语音识别、关键词、意图和情感等任务的成绩，越高说明表示对内容更友好。前者度量去噪，后者度量可用性，本文的分离结论正是来自两类指标随互相关和自相关项变化的不同走向。
该结论的限制是它只说明测量偏差，不直接证明因果，还需同噪声对照和逐维度分析补足。
逐步分解显示哪一项真正压低总噪声
要回答的问题是：从不加噪到加噪再到换损失，每一步对全维度噪声分类准确率贡献多少，指标仍是越低越不变。下表每次只改变一个因素，其余保持不变，数值可追溯到原文分解。
| 因素 | 全维度探针 | 变化 | 解释 |
|---|---|---|---|
| 无噪声增强基线 | 96.88% | — | 噪声完全可见 |
| 加噪声增强 | 76.98% | -19.9 个百分点 | 数据前提 |
| 换互相关匹配 | 55.02% | -22.0 个百分点 | 互相关主导 |
| 加回自相关项 | 55.55% | +0.53 个百分点 | 自相关可忽略 |
这组变化可从三点理解。首先，仅加噪声增强就从 96.88% 降到 76.98%，下降 19.9 个百分点，这是数据层面的必要条件，没见过噪声的模型不可能不变。其次，换成互相关匹配且关闭自相关后进一步降到 55.02%，再降 22.0 个百分点，这是最大单步效果，与方差公式预测一致。最后，加回自相关得到全损失，准确率变为 55.55%，仅回升 0.53 个百分点，对去噪可忽略。
原文还报告按噪声类型的两层结构：对高斯和 FSD50K 这类独立加性噪声压制最强，分别下降约 35.1 和 31.2 个百分点，而对混响和 CHiME-3 这类卷积或有时间结构的部分相关噪声仅下降约 8.4 和 9.1 个百分点，这与公式只对统计独立加性噪声建模的预期相符。限制是残余准确率跨类别不可直接比较，应看相对基线的下降量。
教师越敏感学生反而越鲁棒吗
原文进一步用教师效应验证方差公式的第 3 个预测。输入、蒸馏数据和独立噪声设置相同，只比较标准 HuBERT 教师与经噪声增强持续预训练的 HuBERT+ 教师。探针显示 HuBERT 教师噪声分类约 95%，HuBERT+ 约 76%，说明前者残留噪声方差更大；层级对照显示两者在干净 LibriSpeech 上的表示质量相近，与梅尔谱特征的典型相关分析在第四层为 0.630 对 0.640，手机器信息相近，因此剩余差异主要是噪声方差。按公式，教师噪声方差越大，分母对学生噪声越敏感，压低学生噪声的梯度越强，最优学生应来自更敏感的教师。
结果与预测一致：用标准 HuBERT 教师加全损失，意图分类达 96.61% 干净和 94.06% 带噪，高于先前用 HuBERT+ 教师报告的值。在语音任务上全损失相对普通蒸馏在意图、关键词和情感的干净与带噪下均有改善，多重校正后显著，但效应量小，语音识别的改善经配对自助法显著。跨域方面，环境声 ESC-50 从干净到带噪的退化从普通蒸馏的 7.90 点降到全损失的 5.61 点，人声识别也有类似改善，其中 ESC-50 改善显著；但歌手识别干净准确率从普通蒸馏的 68.04% 降到全损失的 54.04%，乐器分类退化仍达 22.16 点。
原文归因于蒸馏预训练中的音高偏移和带阻增强去除了音乐任务所需的音高音色线索，这是语音增强流水线跨域的代价。
把独立噪声换成相同噪声会发生什么
因果检验的问题是：如果机制确实依赖独立性，那么把教师和学生噪声换成完全相同而其他不变，鲁棒性应被关闭。下表固定为同一全损失比较采样方式，指标仍是全维度噪声分类准确率越低越不变，同时附带意图分类干净到带噪的退化作为行为佐证。
| 损失 | 噪声采样 | 全维度噪声准确率 | 意图分类干净到带噪 | 机制是否启用 |
|---|---|---|---|---|
| 全损失 | 独立噪声 | 55.55% | 96.61% 到 94.06% 退化 2.55 点 | 启用 |
| 全损失 | 相同噪声 | 95.38% | 95.12 到 82.22 退化 12.90 点 | 关闭 |
同一全损失在独立噪声下为 55.55%，在相同噪声下回到 95.38%，接近无增强的 96.88%，说明去掉独立性即关闭机制。行为层面，相同噪声下意图分类从干净到带噪退化 12.90 点，而独立噪声下仅退化 2.55 点，且独立采样在干净和带噪下都显著优于相同采样，带噪下效应更大。损失项的差异另行在自相关消融中单列，本表不混入不同损失行作为采样对照。下方官方原图从逐维度角度展示同一结论，读图前先明确横轴是按单维度准确率排序的维度序号，纵轴是单维度噪声分类准确率，虚线为 25% 随机水平。
看图路径： 1. 先看横轴为按准确率排序的特征维度序号，纵轴为单维度噪声分类准确率；2. 对比最上方虚线代表的相同噪声曲线与下方两条独立噪声曲线的高低差距；3. 在下方两条曲线中比较全损失与仅互相关模型在头部维度的细微高低和尾部重合
论文图 1。原论文 Figure 1:：“Per-dimension noise-classification accuracy on the 768 feature dimensions, ranked from most to least noise-informative (chance 25%).”。
图中可见最上方虚线代表的相同噪声全损失曲线整体高企，头部接近 58%，尾部仍远高于随机线，说明几乎每个维度都残留噪声；下方两条独立噪声曲线整体贴近随机线，头部仅 30% 出头，尾部回到 25%。在总噪声相近的下方两条曲线中，全损失略高于仅互相关模型，暗示相同总量下分布不同。原文的逐维度计数进一步量化：相同噪声下超过 30% 阈值的维度达 719 个，接近无增强的 727 个，而独立噪声下全损失为 34 个、仅互相关为 5 个，总量相近但分布不同，自相关项的作用是把噪声摊到更多维度而非去除。
自相关项如果不去噪为何还能提升任务
要检验的问题是：固定独立噪声和教师，仅关闭或打开自相关项，干净和带噪下游任务如何变化。下表聚焦语音任务，准确率越高越好，词错误率越低越好，数字来自原文自相关消融的连续句与相关表格描述。
| 任务与条件 | 普通蒸馏 | 仅互相关 | 全损失 | 自相关带来的变化 |
|---|---|---|---|---|
| 意图分类干净准确率 | 93.03% | 95.60% | 96.61% | 干净下继续提升 |
| 超过阈值维度数 | 16 个 | 5 个 | 34 个 | 分布变分散 |
把两步增益分开看，才能区分去噪与特征重组的作用：从普通蒸馏到仅互相关，意图分类干净准确率已从 93.03% 升到 95.60%，情感从 60.73 升到 62.13，说明互相关本身已改善表示；再加回自相关到全损失，意图升到 96.61%，情感升到 64.71%，而总噪声从 55.0% 到 55.5% 几乎不变，超过阈值的维度却从 5 个增至 34 个，普通蒸馏在独立噪声下的对照为 77.0% 和 16 个。这些增益出现在干净条件下，此时没有噪声可去，因此只能解释为特征空间重组带来的分类友好性。原文的合理解释是下游头为冻结特征上的轻量线性层，解耦特征提供更多独立输入。
统计上相对仅互相关，全损失在意图和情感上的增益经多重校正后显著，而关键词和语音识别差异不显著。限制是该解释为合理推测而非直接因果证明，且增益幅度多为小效应量。
结论在什么条件下才成立
这些结论只在原文限定的条件下成立。去噪机制只在教师与学生噪声独立采样的设置二下成立，同一全损失在相同噪声下为 95.38%，在独立噪声下为 55.55%，相同噪声下机制被关闭，总噪声回到无增强的 96.88% 附近，下游带噪退化显著扩大。压制对象主要是统计独立的加性噪声，对混响这类卷积失真和 CHiME-3 这类有时间结构的部分相关噪声效果明显更弱。探针结论依赖全维度逻辑回归，若用降到 32 维的探针会夸大自相关项的作用。自相关项的价值体现在干净下游任务的特征解耦上，而非去噪，且在关键词和语音识别上的增益并不显著，效应量普遍较小。
教师效应比较要求两教师在干净表示质量上可比，否则不能把差异完全归于噪声方差。跨域上环境声和人声识别可迁移，但依赖音高音色的歌手和乐器任务不适用，因为语音鲁棒增强本身会损伤这些线索。未测量的范围包括推理延迟、训练成本、误判率以外的公平性，以及其他信噪比和真实远场条件下的稳定性。
复现第一步应做什么
复现应从数据与采样开始，而非先调损失权重。准备 LibriSpeech-100 干净语音，训练时在线叠加 MUSAN 和 WHAM 噪声，信噪比 10 到 20 dB，教师与学生各自独立抽取噪声；测试固定用留出的 CHiME-3 在 10 dB 下评估。学生用两层 Transformer 并在第 4、8、12 层接预测头，教师用冻结 HuBERT，总目标保留余弦项，先以自相关系数为零训练仅互相关模型，再以 5 乘 10 的负 6 次方恢复全损失。评估时先跑全维度逻辑回归探针记录总噪声，再跑 768 个单维度分类器记录超过 30% 阈值的维度数，最后冻结最后一层接线性头测语音与跨域任务的干净与带噪成绩。
关键超参数是互相关非对角权重、自相关权重和余弦权重，信息条件是教师与学生噪声必须独立。若复现相同噪声对照，只需把两侧噪声种子设为相同，其余不变，预期总噪声回到 95% 附近。关于资源可用性，本次未发现来源绑定且完成验证的资源，不得声称代码、模型或数据已公开，需自行按上述协议实现。
什么时候值得尝试与还缺哪项验证
当部署场景是加性环境噪声下的语音内容任务，且已有较大教师可用时，值得尝试该相关性蒸馏：加重互相关项以换取噪声不变性，单独调节自相关权重以换取干净任务准确率，并务必保持师生噪声独立采样。若目标是音乐中歌手或乐器等依赖音高音色的任务，则不应直接套用本文的语音增强流水线，需重新设计不损伤音色线索的增强。还缺的验证包括更宽信噪比、真实混响与远场录音下的稳定性，以及训练与推理开销的量化。
容易产生的误解有三点：自相关解耦不等于去噪，它只重排噪声分布；降维探针读数低不等于真的更不变，可能是截断藏起了噪声；用更鲁棒的教师不一定得到更鲁棒的学生，在该机制下教师噪声方差大反而提供更强的去噪梯度。记住这三点，就能复述本文的机制修正而不夸大其价值。
📎 论文与评分元数据
排名：前50% | 文档类型：方法研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。
评分规则：type-aware-v1
评分模型：muse-spark-1.3-contributor
评分请求协议：openai_responses