📄 不花标注费选检查点：用未标注池的几何结构做音频主动学习验证
英文题目：Geometric Consistency Based Label-Free Validation for Checkpoint Selection in Audio Active Learning
评分：6.4/10 | 创新 1.2/2 | 技术严谨 1/1.5 | 实验充分 1.3/1.5 | 清晰度 0.8/1 | 影响力 0.8/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 1/1.5
👥 作者与机构
- Shiqi Zhang：机构信息未能在本次解析中与作者逐人可靠绑定
- Tuomas Virtanen：机构信息未能在本次解析中与作者逐人可靠绑定
📌 核心摘要
音频主动学习每轮从未标注池中挑选一批片段请人标注，再在已标注集上从头训练分类器，目标是以很少标注获得高分类准确率，难点是小标注集上容易过拟合，选训练过程中哪个检查点作为本轮模型会明显改变效果。常用做法留出一部分标注做验证集，但这部分标注同样消耗预算，论文把仅用已标注集和未标注池做选择的方法称为可部署方法。本文提出几何一致性（Geometric Consistency，Geo-Con），先在冻结的预训练嵌入空间中用已标注样本拟合最近类均值和k近邻两个几何伪标注器，再让它们对未标注池预测以刻画池的几何结构。该规则对每个候选检查点计算其在池上预测与两组伪标注的一致性，以及在已标注集上的交叉熵，将三项分数在轮内标准化后相加取最大者，该过程与查询策略无关，超参数只有近邻数。在4数据集乘2编码器乘6查询策略的48组设置下，以测试宏准确率对累计标注的归一化梯形积即标注曲线下面积（Area under the labeling curve，AULC）衡量，Geo-Con的71.99%超过次优可部署方法kfold-refit的70.99%，方向为高1.01个百分点。同一AULC口径下Geo-Con的71.99%与使用预算外验证集的参考方法val-best的72.01%差距为低0.02个百分点，基本持平。开销上该规则每轮只在缓存的池嵌入上增加一次对全部候选检查点的批量前向通过，对两层头开销不大，无需留出验证标注或重复训练；结论适用于冻结编码器加两层头的协议，端到端微调时几何随检查点变化的情形原文未验证。
🔗 开源与复现资源
本次未形成可展示的已核验资源记录，开放状态尚未核实。
可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
音频标注贵在哪里，主动学习想省什么
论文面对的是音频分类中的池式主动学习。输入是一个未标注音频片段大集合，目标是在很少的标注量下训练出测试宏准确率较高的分类器。标注贵的含义很具体：在生物声学等专门领域，需要稀缺的领域专家逐段听辨，标签不能像普通图像那样廉价众包。主动学习的过程是多轮的：从冷启动开始，第一轮随机抽一小批标注，之后每轮由采集策略决定再问哪一批片段的标签，然后把迄今所有标签放在一起从头训练一轮分类器。
读者要先分清两个容易混淆的对象。采集策略回答下一批标注谁，检查点选择回答本轮训练到哪一步停。一个是跨轮的标注轨迹问题，一个是轮内的模型选择问题。本文只研究后者。浅层头在小标签上很容易过拟合，训练不足则欠拟合，所以即使采集策略相同，选的训练步数不同，最终测试表现也会差很多。
传统论文常假设手头有一个现成的验证集，用它选检查点最方便。但在真实主动学习里，一开始没有任何标签，验证标签也要像训练标签一样花钱标注。论文把只用已标注集和未标注池、不需要额外留出标签的方法称为可部署方法。这个限定是全文比较公平性的基础，后面所有统一预算的结论都依赖它。
已有选择信号为何还要花标签或花训练
按原文梳理，已有路线可分 3 类。第一类是留出验证：每轮把预算中一部分标签扣下来只做验证，例如每轮 50 个标签中 10 个做验证、40 个做训练查询，选验证宏准确率最高的步数。代价是训练集直接缩小，在本来就小的标注量下监督信息被削弱。原文还强调验证集要从大集合中均匀随机抽，不能按采集策略偏采样，否则验证分布就有偏。
第二类是重训练式复用：先用临时验证划分选步数，再把验证标签还给训练重训 1 次定稿，或做分层 5 折在折平均验证曲线上选步数再重训。它们不浪费标签，但定稿模型训练在了曾经选择过它的数据上，验证估计不再无偏，而且 K 折版本每轮需要 K 加 1 次训练，本文设置为 6 次训练，计算代价明显上升。小验证划分本身覆盖差、容易偏离真实分布，也是这类方法的弱点。
第 3 类是不用池的无标签信号：只看训练过程的动态，例如梯度权重对齐、相邻检查点在训练集上预测变化数，或分析端到端微调 Transformer 跨层表示变化。这类方法不花标签，但没有利用池的嵌入。经典主动学习停止准则虽用了池跨轮预测稳定性，但决定的是何时终止整个标注过程，而不是轮内选哪一个检查点。曾有人想让候选模型自己给池打伪标签再自评，原文指出这会因自指而偏差很大。本文的切入点正是用独立于候选头的几何伪标签来打破这种自指。
留出验证 × K 折重训练： 留出验证指每轮从预算中扣一部分标签只做验证不参与训练，用验证宏准确率选步数；K 折重训练指先在折平均验证曲线上选步数，再用全部标签重训练一次定稿。前者牺牲训练量换选择信号，后者不牺牲标签但把选过检查点的标签又用于定稿且增加多倍训练，本文把二者都作为统一预算下的对照，说明几何一致性为何能省掉这两类代价。
本轮要解决的选择问题如何形式化
论文把问题写成池式循环。记大集合为 P，第 t 轮后的已标注子集为 Lt，未标注子集为 Ut，二者并集为 P 且互不相交。冷启动意味着 L0 为空，验证集只能从预算里花钱产生。每轮查询 nq 个新标签，累计预算为 mt 等于 t 加 1 乘 nq，默认每轮 50 个、共 20 轮、最多 1000 标签。冻结编码器 f 把每个片段映射为嵌入向量，浅层头每轮在 Lt 上从头训练，训练中在 E 个中间优化步保存候选检查点，E 为 100，选择方法要从中挑一个索引作为本轮模型。
关键细节是选出的模型还用于下一轮采集，所以不同的选择方法会走出不同的标注轨迹，不能只看单轮快照。训练总步数 Tt 按总预算 mt 设定，而不是按某方法实际训练划分设定，检查点保存在优化步网格上而不是轮数上，这样留出验证那种只用部分标签训练的方法也能在步数上对齐比较。统一预算协议要求所有方法在每个预算点消耗完全相同的标签数，验证标签也计入，这正是引用 Ali 等人主张的记账方式。
已标注集 × 未标注池： 已标注集指本轮已经问到标签的片段集合，用于训练浅层分类头；未标注池指同一大集合中尚未问标签的剩余片段，用于采集和本文的选择信号。二者互补且不重叠，组合起来既提供任务的监督信息，又提供数据的几何分布信息，本文的选择规则同时用这两部分才不需要额外验证标签。
几何一致性如何不花标签拿到选择信号
方法的直觉是冻结的通用音频编码器已经把声学相似的片段映射到相近位置，同类趋于成簇、异类趋于分离。池的嵌入因此在未见任务标签前已带有部分类别结构。好的检查点应同时做到两件事：决策边界顺应这种几何，参数又拟合了已标注的标签。过拟合模型记住了个别样本，在池上的预测会漂离几何；欠拟合模型还没吸收标签信息，与跟随几何的伪标签的一致性也会下降。
下面这张概念图把循环、代价和打分放在一起，是理解全文分工最直接的入口。读图时注意三块面板分别回答循环是什么、代价差在哪、分数怎么算，不要把面板 b 的预算条误读成准确率曲线。
看图路径： 1. 先看面板 a 从上到下的主循环：未标注池、查询标注、冻结编码器、浅层头、E 个候选检查点再选一轮模型；2. 再看面板 b 三行在相同标签预算下分别付出验证标签、重训练还是仅一次池前向；3. 最后看面板 c 中一致候选与过拟合候选相对原型和近邻投票的位置，以及右下角三项打分的汇合公式
论文图 1。原论文 Figure 1:：“(a) Pool-based AL with a frozen encoder and a shallow head trained from scratch each round.”。
从像素可见，面板 a 是纵向循环：顶部是未标注池与冷启动说明，中部是查询标注、冻结编码器 f、每轮训练的浅层头，底部是 E 个候选检查点再选一轮模型。面板 b 对比三行：留出验证行标出训练标签被扣一块且每轮 1 次训练，K 折重训练行标出无标签扣留但每轮 K 加 1 次训练，几何一致性行标出无标签扣留且每轮 1 次训练加 1 次池前向，每行都强调相同标签预算。
面板 c 是散点示意：星形为最近类均值原型，十字等为已标注点，圆点为池点，一条红色虚线示意过拟合边界偏离，一处标注一致候选具有高一致分，右下角给出三项标准化分数的求和公式。该图说明本文信号来自池几何而非验证标签，额外开销只有浅层头在缓存嵌入上的 1 次批量前向。
全局原型伪标签如何从极少标签搭起来
第一个几何伪标签器是最近类均值，承担全局原型视角。它只用已标注集在冻结嵌入空间中构造，不依赖任何候选头的参数。对每个已出现类别，先把该类所有已标注嵌入做单位归一化再取平均，得到原型向量。池中每个样本与所有类别原型算余弦相似度，取最大者为其伪标签。这种构造在每类只有极少标签的早期轮次也能工作，因为均值原型不需要估计复杂分布。
公式中 xi 是片段嵌入，Ct 是本轮已出现类别集合，Ltc 是该类已标注样本集。原型是对归一化嵌入的平均，伪标签是余弦最大的类别。余弦在这里度量方向一致性，适合对比预训练和有监督预训练的不同嵌入归一化习惯。原文把该一致性记为 NCM 一致分，即候选头在池上的预测相对这类伪标签的宏准确率，按伪标签中出现的类别平均，使稀有类和常见类权重相等，与评测指标的聚合方式保持一致。
\[y_{i}^{\mathrm{ncm}}=\argmax_{c\in\mathcal{C}_{t}}\cos(\mathbf{x}_{i},\boldsymbol{\mu}_{c}),\quad\boldsymbol{\mu}_{c}=\frac{1}{|\mathcal{L}_{t}^{c}|}\sum_{r\in\mathcal{L}_{t}^{c}}\frac{\mathbf{x}_{r}}{\|\mathbf{x}_{r}\|}.\]最近类均值 × kk-近邻： 最近类均值是全局原型视角，每个类用已标注嵌入归一化后的均值向量代表，池样本判给余弦相似度最大的原型；kk-近邻是局部邻域视角，对每个池样本找已标注集中余弦最相似的 k 个邻居并按正相似度加权投票。二者都建在冻结嵌入空间且独立于待选头，前者在极少标签时可用，后者不假设单峰簇，组合后兼顾全局结构和局部细节。
局部近邻投票与已标注损失如何汇合成总分
第二个几何伪标签器是 kk-近邻，承担局部邻域视角。对每个池样本，在已标注集中找余弦最相似的 k 个邻居，每个邻居按截断后的正余弦相似度加权投票，负相似度截零不投票，最后得票最高的类别为伪标签。默认 k 为 10，后面在 4 倍范围内做敏感性分析。它不假设类内单峰，能补充类内结构丰富时原型视角的不足。对应的一致性同样是相对伪标签的宏准确率。
\[y_{i}^{\mathrm{knn}}=\argmax_{c\in\mathcal{C}_{t}}\ \textstyle\sum_{r\in\mathcal{N}_{k}(i)}\big[\cos(\mathbf{x}_{i},\mathbf{x}_{r})\big]_{+}\,\mathbf{1}[y_{r}=c],\]拟合项是候选头在已标注集上的平均交叉熵损失。3 个分数在每轮 E 个检查点上分别做 z 标准化到零均值单位方差，再等权相加选最大者，损失项取负号。若某分数对所有检查点为常数，其标准化为零而自动退出排序，这避免了无区分信号干扰选择。等权相加不需要按数据集调权重，是原文强调的免校准设计。规则只用分类器在池和已标注集上的输出，与采集策略无关，可直接插入标准主动学习循环，开销是 E 个检查点对缓存池嵌入的 1 次批量前向，对两层头而言很小。
\[j^{\star}=\argmax_{j}\ z\big(a^{\mathrm{ncm}}(j)\big)+z\big(a^{\mathrm{knn}}(j)\big)-z\big(\ell(j)\big),\]一致性分数 × 拟合项： 一致性分数指待选检查点在池上的预测与两种几何伪标签的宏准确率一致程度，反映决策边界是否顺应嵌入几何；拟合项指同一检查点在已标注集上的平均交叉熵损失，反映是否吸收了标签信息。前者防过拟合漂离几何，后者防欠拟合，二者标准化后相加才同时约束几何一致和标签拟合。
哪些参数训练，哪些冻结，检查点如何产生
本研究没有训练编码器，这一点必须先说清。编码器是冻结的通用音频编码器，对比实验用了 CLAP 的 Transformer 对比预训练 512 维和 PANNs CNN14 的有监督预训练 2048 维。冻结使表示跨轮固定，从而把检查点选择这个研究焦点与表示学习隔离开，这也是音频主动学习中常见的固定嵌入加浅层头协议。
实际训练的是两层多层感知机头，隐宽 128，激活为 GELU，每轮在已标注集上用 Adam 从头训练，学习率 0.01，批量 32，总步数按总预算设定，先 20% 线性 warmup 再余弦衰减。100 个检查点按步骤等距保存在优化步网格上。留出类方法只用部分标签训练但步网格仍按总预算对齐，K 折方法则做多次训练再重训。几何一致性不改变训练本身，只在训练后用池前向打分选索引。原文未报告逐步梯度路径或形状分辨率细节，复现时不应自行脑补实现，缺的是端到端微调下的几何漂移处理，原文明确留作未来工作。
数据、策略与统一预算如何保证可比
实验矩阵为 4 数据集乘 2 编码器乘 6 策略乘 8 选择方法乘 10 种子，共 3840 轮次运行。数据集为 ESC-50 共 50 类、BSD10K 共 23 类、DB3V 共 10 类、UrbanSound8K 共 10 类，覆盖环境声、异构 Freesound 内容、跨区域鸟鸣和城市噪声，难度从 ESC-50 上近饱和的预训练特征到 BSD10K 上弱得多的特征。采集覆盖不确定性和多样性两大家族：随机、熵、间隔、核心集、MaxHerding 和 BADGE。
基线包括只用训练动态的 GWA 和 LabelWave，需要留出标签的 holdout-v、holdout-v-refit 和 kfold-refit。留出家族每轮 50 标签中 10 个做验证、40 个做查询，验证片段按一个随机排列预先选定并排除在查询候选外，以保证无偏。kfold-refit 用分层 5 折平均验证曲线选步数再全量重训。另有两个非可部署参照：val-best 用各数据集自带的独立验证划分选择，test-best 每轮贪心读测试标签作为预言参照。选择都用留出标签上的宏准确率最高者，平局取最早。
评测用每个预算点的测试宏准确率和宏标注曲线下面积，后者是宏准确率对累计标签的归一化梯形积分。聚合时先在每个种子内平均 48 设置再跨种子报告均值加减标准差，排名则在每个设置内比较 6 个可部署方法的 10 种子平均 AULC。统一预算要求验证标签计入消耗，选择信号的代价只允许表现为扣留标签、额外重训练或 1 次池前向三者之一。
标注曲线下面积 × 最终准确率： 标注曲线下面积指宏准确率随累计标注量变化曲线的归一化梯形积分，衡量整个标注过程中收敛速度和平均水平；最终准确率指用满标签后最后一轮测试宏准确率，只衡量终点。二者分工不同，本文在近饱和数据上终点差异被压缩时仍用前者区分方法快慢，组合起来才能同时看到过程收益和终点水平。
总体上几何一致性省掉了什么还排第一
要回答的核心问题是：在花同样标签数的前提下，不花验证标签的方法能否选出同样好的检查点。下表是 48 设置乘 10 种子的汇总，比较对象是 6 个可部署方法加 2 个非可部署参照，指标是最终准确率、标注曲线下面积及其平均名次。前两者越高越好，平均名次越小越好。公平条件是每预算点标签总数相同，验证标签计入。
| Method | Final acc (%) | AULC (%) | Rank↓ |
|---|---|---|---|
| GWA | 74.53 ± 0.24 | 69.94 ± 0.30 | 4.17 |
| LabelWave | 75.13 ± 0.34 | 69.82 ± 0.34 | 3.69 |
| holdout-v | 74.99 ± 0.24 | 69.19 ± 0.31 | 5.25 |
| holdout-v-refit | 75.35 ± 0.33 | 70.10 ± 0.29 | 4.10 |
| kfold-refit | 76.03 ± 0.27 | 70.99 ± 0.20 | 2.71 |
| Geo-Con (ours) | 76.78 ± 0.17 | 71.99 ± 0.19 | 1.08 |
| val-best | 76.76 ± 0.18 | 72.01 ± 0.27 | — |
| test-best | 77.94 ± 0.15 | 73.05 ± 0.17 | — |
原表汇总显示几何一致性领先第 2 名 kfold-refit 约 1 个百分点左右的 AULC，在 48 设置中 47 个更好；相对 holdout-v 领先约 2.8 个百分点且 48 个全胜。最终宏准确率也是可部署中最好，平均名次接近 1，来自 48 设置中 45 次第一。与参照相比，它与用预算外大验证集的 val-best 差距平均仅 0.02 个百分点、在 48 中 27 个领先，基本打平；与读测试标签的 test-best 差距约 1.06 个百分点，说明池信号已接近独立同分布验证集。
只看训练动态的 GWA 和 LabelWave 落后约 2 个百分点，说明池带来训练过程之外的增益。holdout-v 与 holdout-v-refit 选步相同只差验证标签是否还给训练，二者约 0.91 个百分点差距可视为训练集被缩小付出的代价。未胜出的参照是 test-best，它用了测试标签，不可部署，不能当作可获得的提升。
不同数据集和编码器下优势是否稳定
第二个问题是优势是否只在某一类数据或某一种编码器上成立。下表把比较拆成 8 个数据集乘编码器块，每格是跨策略和种子平均的测试宏 AULC，越高越好。条件与上节相同，只是聚合粒度更细，可以看到任务难度不同时增益是否持续。
| ESC-50 | ESC-50 | BSD10K | BSD10K | DB3V | DB3V | UrbanSound8K | UrbanSound8K | |
|---|---|---|---|---|---|---|---|---|
| Method | CLAP | PANNs | CLAP | PANNs | CLAP | PANNs | CLAP | PANNs |
| GWA | 91.66 ± 0.41 | 84.10 ± 0.43 | 54.28 ± 0.44 | 47.83 ± 1.08 | 60.87 ± 1.14 | 56.02 ± 1.06 | 83.56 ± 0.60 | 81.20 ± 0.61 |
| LabelWave | 91.91 ± 0.63 | 84.83 ± 0.40 | 53.74 ± 0.73 | 48.46 ± 0.84 | 56.98 ± 1.10 | 57.51 ± 0.72 | 83.22 ± 1.06 | 81.89 ± 0.66 |
| holdout-v | 90.25 ± 0.69 | 82.97 ± 0.81 | 51.04 ± 0.78 | 46.83 ± 0.66 | 60.62 ± 1.17 | 57.11 ± 1.01 | 83.38 ± 0.90 | 81.31 ± 0.40 |
| holdout-v-refit | 91.38 ± 0.67 | 83.64 ± 0.50 | 53.31 ± 0.78 | 47.96 ± 0.70 | 62.33 ± 0.76 | 57.01 ± 0.92 | 83.81 ± 1.01 | 81.35 ± 0.50 |
| kfold-refit | 92.28 ± 0.40 | 84.64 ± 0.32 | 53.84 ± 0.57 | 48.23 ± 0.85 | 63.80 ± 0.34 | 59.03 ± 0.81 | 84.16 ± 0.67 | 81.89 ± 0.42 |
| Geo-Con (ours) | 92.51 ± 0.37 | 85.00 ± 0.40 | 54.65 ± 0.59 | 49.85 ± 0.83 | 65.41 ± 0.40 | 60.89 ± 0.84 | 84.55 ± 0.61 | 83.07 ± 0.60 |
| val-best | 92.45 ± 0.38 | 85.24 ± 0.40 | 54.53 ± 0.57 | 49.71 ± 0.81 | 65.18 ± 0.44 | 60.93 ± 0.93 | 85.09 ± 0.60 | 82.94 ± 0.56 |
| test-best | 93.03 ± 0.38 | 86.25 ± 0.39 | 55.48 ± 0.65 | 50.49 ± 0.77 | 66.15 ± 0.52 | 62.01 ± 0.52 | 86.53 ± 0.52 | 84.51 ± 0.46 |
可见几何一致性在 8 块中都是最好的可部署方法，差距随任务难度变大。在 DB3V 上相对 holdout-v 增益最大，其次是 BSD10K，然后是 ESC-50 和 UrbanSound8K。在近饱和的 ESC-50 加 CLAP 上，最终准确率差异被压缩，但 AULC 仍能区分收敛速度，这是同时看两个指标的意义。它与 val-best 的每块差距在 8 块中有 7 块在很小范围内，最大欠缺在 UrbanSound8K 加 CLAP 上。48 设置中仅 3 次非第一，其中两次就在这一低增益边缘，说明在预训练特征已很强且类别可分时，几何信号的额外区分度会变小，但仍未被反超太多。这是结果的适用条件，也是不能夸大为全胜的原因。
换了采集策略规则还能用吗
第 3 个问题是规则是否依赖某种特定的查询方式。按构造它只用分类器输出，与采集无关，但需要实证。下表是 6 种采集策略下 6 个可部署方法的平均 AULC 名次，每列 8 个设置，数值越小越好。公平条件仍是统一预算，方法之间只共享每种子的冷启动批，其余查询轨迹各自独立。
| Method | rand. | entr. | marg. | core. | mherd. | badge |
|---|---|---|---|---|---|---|
| GWA | 4.00 | 4.38 | 4.38 | 4.00 | 3.75 | 4.50 |
| LabelWave | 3.88 | 4.38 | 3.50 | 3.50 | 3.63 | 3.25 |
| holdout-v | 5.38 | 5.25 | 5.38 | 5.63 | 4.75 | 5.13 |
| holdout-v-refit | 4.13 | 3.50 | 4.13 | 3.38 | 5.13 | 4.38 |
| kfold-refit | 2.63 | 2.50 | 2.50 | 3.25 | 2.63 | 2.75 |
| Geo-Con (ours) | 1.00 | 1.00 | 1.13 | 1.25 | 1.13 | 1.00 |
表后读数很直接：几何一致性在 6 种策略下平均名次都不超过 1.25，包含纯随机采样，说明优势不依赖于某种查询。kfold-refit 在每种策略下都是第二，但每轮要 6 次训练。留出家族在每种策略下都垫底，holdout-v 在 6 种中有 5 种最后，说明验证标签的代价不是换个策略就能赚回来的。这个对照也提醒复现者：比较采集策略时若不统一检查点选择，看到的差距可能混入了选择方法的差异。
三项打分各起什么作用，近邻数敏感吗
消融要回答三项是否都必要，以及唯一的超参数 k 是否难调。下表在完整矩阵上逐个去掉或只留一项，每行把该变体放回与 5 个可部署基线的排名中，指标仍是最终准确率、AULC 和平均名次；下半部分把 k 在 5、10、20 之间变动，默认 10 即完整规则。条件与主结果一致：完整 48 个设置乘 10 个随机种子，百分数报告跨种子的均值±标准差，每个变体与 5 个可部署基线重新排名。
| Variant | Final acc (%) | AULC (%) | Rank ↓ |
|---|---|---|---|
| full rule, Eq. (3) | 76.78 ± 0.17 | 71.99 ± 0.19 | 1.08 |
| no fit term ℓ | 75.09 ± 0.28 | 71.22 ± 0.21 | 1.77 |
| no k-NN term aknn | 76.64 ± 0.25 | 71.93 ± 0.20 | 1.10 |
| no NCM term ancm | 76.74 ± 0.17 | 71.82 ± 0.19 | 1.31 |
| ancm only | 74.44 ± 0.32 | 70.77 ± 0.21 | 2.27 |
| aknn only | 76.26 ± 0.16 | 71.50 ± 0.19 | 1.77 |
| ℓ only | 76.56 ± 0.17 | 71.74 ± 0.22 | 1.48 |
| k=5 | 76.75 ± 0.16 | 71.96 ± 0.22 | 1.17 |
| k=10 (default) | 76.78 ± 0.17 | 71.99 ± 0.19 | 1.08 |
| k=20 | 76.78 ± 0.17 | 71.92 ± 0.24 | 1.23 |
去掉任何一项都有损失，但程度不同。去掉拟合项损失最大，AULC 下降最多、名次明显变差；去掉最近类均值项次之；去掉近邻项最小。在仅拟合项基础上加两几何项，AULC 增加、名次从 1.48 到 1.08，其中原型项贡献大。本表数值与单位依据论文 PDF。
值得注意的是仅拟合项即已标注损失本身已超过所有基线，也超过单几何项，这被归因于浅层头的参数自由度和特征容量有限，过拟合症状比深端到端网络轻。所有变体仍保持对基线的最好平均名次，说明池几何本身是有效信号。k 在 4 倍范围内变动 AULC 最多差 0.07 个百分点，且都保持可部署第一并与 val-best 打平，实践中可认为不敏感。未评测的范围是端到端微调下几何随检查点移动的情形，原文未做，不能把此处的不敏感推广过去。
这些结论在什么条件下才成立
首先是协议条件。所有胜负都在统一预算下成立，即验证标签计入消耗、每预算点标签总数相同。若允许预算外的大验证集，val-best 与本文方法打平，优势就不再是超越，而是省掉标签。若回到不计验证代价的传统协议，留出方法的报表表现会被高估，本文的比较方式就不适用。
其次是模型条件。全文是冻结编码器加两层头，每轮从头训练。拟合项单独就很强这一现象依赖浅头容量小，换成端到端微调 Transformer，深网络过拟合更重、表示每步漂移，几何伪标签是否还可靠未经验证。原文把这项明确列为未来工作，还提到多标签标注的扩展也未做。
最后是数据条件。8 块中多数与 val-best 差距很小，但在 UrbanSound8K 加 CLAP 上差距拉大，且 3 个非第一中有两个在此处，说明在预训练已近饱和、几何区分度小的任务上增益变薄。弱特征任务上增益大，但绝对 AULC 仍低，不能把相对提升误读成已解决。没有测量误判率、延迟或标注人工成本，原文也未承诺这些会改善。
要复现第一步做什么，需要哪些细节
复现先搭统一预算循环，而不是先调头。准备 4 数据集划分和两种冻结编码器，缓存所有片段嵌入。每种子先固定冷启动随机批，每轮按策略查询，累计预算按轮递增。头按学习率 0.01、批量 32、总步数按预算设定、20% 线性 warmup 加余弦衰减训练，保存 100 个等距优化步检查点。留出对照要预先用一个随机排列定验证片段并排除在查询外，K 折对照要做分层 5 折。
实现几何一致性时，每轮用已标注嵌入构造原型和 k 等于 10 的近邻投票，对全部检查点分别算池预测相对两类伪标签的宏准确率和已标注交叉熵，在轮内标准化后等权相加选最大。注意平局、常数分数置零、宏平均按伪标签出现类别平均这些细节。评估用测试宏准确率对累计标签的归一化梯形积分，先种子内平均设置再跨种子统计。原文未绑定可验证的作者资源，本次也未发现来源绑定且完成验证的资源，不得声称代码模型数据已公开，一切以论文文字和此处收到的官方原图为准。
什么时候值得尝试，还缺哪项验证
当你的音频主动学习必须从冷启动开始、验证标签也要花钱，且采用冻结编码器加浅头协议时，本文规则值得尝试。它不扣训练标签、不做重训练，每轮只加 1 次池批量前向，在 6 种采集、4 个数据集、2 编码器下都保持可部署最优，且与预算外验证集打平。超参数只有一个近邻数且在 5 到 20 间不敏感，接入成本低。
复现第一步是把验证记账改成统一预算，否则会重复传统协议高估留出方法的老问题。然后再实现原型与近邻两路伪标签和标准化求和。还需要补的验证是端到端微调下的表现、多标签场景的适用性，以及在你自己新采集上的验证分布是否无偏。若你的任务已近饱和，预期增益会变小，应同时看 AULC 和最终准确率，而不是只看终点。论文的建议是未来音频主动学习评估都把验证标签计入标注预算，这一点与方法本身同样值得带走。
📎 论文与评分元数据
排名：前50% | 文档类型：方法研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。
评分规则：type-aware-v1
评分模型：muse-spark-1.3-contributor
评分请求协议：openai_responses