不预测分数只判断好坏：PrefSQA 用成对偏好绕开 MOS 噪声

英文题目：PrefSQA: Pairwise Preference Prediction for Speech Quality Assessment and the Critical Role of High Quality Datasets

会议身份：conference:interspeech:2026:conference-paper-id:fan26_interspeech

来源为官方会议 PDF；图片依据原页像素，表格数字依据原文引用。PDF 文字层不视为原始 TeX，未可靠恢复的结构不作推断。

会议来源：官方记录 · 官方 PDF

标签：#数据集 #偏好优化 #语音 #语音质量评估

评分：5.9/10 | 创新 1.2/2 | 技术严谨 1.0/1.5 | 实验充分 1.0/1.5 | 清晰度 0.8/1 | 影响力 0.8/1.5 | 开源 0.0/1.5 | 可复现 0.3/0.5 | 工程/实践 0.8/1.5

排名：前50% | 文档类型：方法研究

👥 作者与机构

• Junyi Fan：机构信息未能从会议 PDF 纯文本可靠映射
• Donald S. Williamson：机构信息未能从会议 PDF 纯文本可靠映射

📌 核心摘要

语音质量评估成对偏好预测以两段语音波形为输入，输出二值偏好判断，难点在于平均意见分标签噪声大且内容是否匹配会干扰相对质量比较。本文提出偏好语音质量评估PrefSQA，先由wav2vec 2.0与WavLM双编码器抽取语义与声学特征并经双向长短时记忆网络汇总为分值与不确定度，再以不确定度调节的Bradley-Terry对数几率得到偏好概率，同时由损伤注意力残差修正局部失真。与已有偏好方法依赖评分监督或固定温度不同，该方法用预测方差动态软化难样本比较，并以批内非匹配参考特征头约束全局排序。在CHiLi NM仿真集测试条件下，PrefSQA的准确率为90.37%，高于UPPSQA的准确率81.05%。该提升在平均意见分衍生集上几乎不可见，说明高噪声标签会遮蔽架构优势。误差集中于小间隔样本，其失败条件是近不可区分对仍易误判，尚未验证显式并列选项与大规模真实人偏好外推范围，适用边界受限于仿真与小规模人评语料。原文未披露训练、推理或部署成本。

🔗 开源与复现资源

本次未形成可展示的已核验资源记录，开放状态尚未核实。 可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。

🧭 深度解读

输入是什么，输出是什么，为什么分数难学？

这篇论文的输入是两段待比较的语音波形，目标是回答哪一段听起来质量更高，而不是给每段打一个绝对分数。输出是一个偏好概率，表示第一段优于第二段的可能性，训练时直接用二分类目标优化这个比较结果。必须保留的信息是比较发生的条件：两段是否同一文本、噪声类型是否相同、标注来自 MOS 推导还是受控仿真或真人听音，因为这些条件决定了标签噪声大小和结论适用范围。

对于刚进入语音质量评估的读者，关键背景是平均意见分长期作为标准。它的做法是让多人按等级打分再平均，得到单条语音的标量质量。论文指出这种标量对评分人差异、测试协议差异和离散等级都很敏感，带来较大的标注噪声。噪声不仅让监督学习困难，还会掩盖不同模型之间的真实能力差。当两段语音质量接近时，绝对打分的不一致会被放大，而直接比较相对好坏对人来说更容易、更稳定。

因此论文把任务定义为无 MOS 的成对偏好预测。所谓无 MOS，是指在模型开发的任何阶段都不以任何方式看到 MOS 标签，即使部分数据对的偏好方向最初是从 MOS 高低派生的。这更贴近现实中只有比较标注而没有绝对分的场景。学习依赖是先理解比较比打分更干净，再理解模型如何从波形学到可排序的分数，最后理解数据质量如何影响对结构改进的判断。后续各节将按这个依赖展开，不提前使用尚未解释的组件结论。

已有路线在比较什么，本文与它们有何不同？

现代语音质量评估已经从传统指标发展到深度模型，论文提到的代表包括 MOSNet、NISQA 和 VoiceMOS 挑战等，它们主要做 MOS 回归。但这类模型受语料和领域效应限制，跨数据泛化不稳定。为此，研究者把偏好思想引入训练，例如把成对比较损失作为辅助监督来精炼 MOS 回归，或用排序目标正则化质量表示，或用比较型 MOS 作为统一训练的一部分。

论文梳理指出，这些已有偏好相关工作在流水线的一个或多个阶段仍然依赖 MOS 或其他评分衍生监督。即使是预测合成语音刺激之间偏好的相关研究，也与平行评分数据绑定。结果是真正完全独立于 MOS 的偏好预测工作很少，论文称据其所知只有 UPPSQA 是主要的同类工作。同时，公开的偏好数据集远少于 MOS 数据集，迫使许多研究只能从 MOS 派生偏好标签。

这种派生带来双重问题。第一，MOS 本身的噪声被继承下来；第二，MOS 听音测试与偏好听音测试的设置差异会引入额外噪声。当模型间准确率差距小于噪声造成的模糊区间时，结构改进就看不清楚。本文的不同在于坚持 MOS-free，即训练、验证和模型选择都不接触 MOS 数值，并同时构造 MOS 衍生集、低噪声仿真集和真人偏好集，用数据质量的对照来说明何时能看见改进。

要解决的矛盾是什么，难在哪里？

中心矛盾是评估需要可靠的质量排序，但最常用的监督信号即绝对分数本身不可靠。论文要解决的是在不使用绝对分的情况下，能否直接学会稳定的成对偏好，并且让模型改进不被标签噪声淹没。难点有 3 层。第一，内容干扰：当两段语音文本不同时，模型可能把好听的声音或清晰的发音误当成高质量。第二，局部损伤：整体听感可能由短时噪声、失真或断续决定，全局平均容易抹掉这些线索。第三，评估可见性：在噪声大的数据上，即使新结构更好，准确率差距也很小，难以证明有效性。

平均意见分 × 成对偏好预测： 平均意见分负责给单条语音打一个绝对分数，它的分工是量化整体质量，但容易受评分人尺度、测试协议和离散等级影响；成对偏好预测负责判断两条语音中哪一条更好，它的分工是比较相对质量，对绝对尺度不敏感。二者搭配的理由是相对判断对人更一致且跨测试更稳定，组合意义在于用比较任务替代回归任务，从而在训练和评估中都不依赖带噪的绝对分。

从复述角度，读者应记住任务形式。每次输入是 1 对语音，标签是二值的，表明哪一端更优，质量相等的对会被丢弃而不预测平局。模型需要输出可比较的潜分数和不确定性，再转化为偏好概率。评价指标是预测准确率，即判断正确对的比例。论文还用误分类对的间隔分布和模型间误分类一致性来分析噪声影响，这些都服务于同一个问题：在什么数据上比较模型才是公平且可见的。

PrefSQA 让一个样本走完哪条路？

先沿一条语音走完全程。波形以 16 千赫采样输入，截断或补零到最长 6 秒，并用注意力掩码标记有效部分。波形同时进入两个预训练编码器分支：上方 wav2vec 2.0 分支取最后一层隐状态，下方 WavLM 分支对所有层做可学习层加权求和。两个序列各经过残差特征处理器、层归一化，再在通道维拼接，送入双向长短时记忆网络并在时间上平均池化，得到单条语音的向量表示。该向量经线性头映射为潜分数与对数方差，另有一条损伤注意力支路输出残差修正，最终分数为两者相加。另一条语音经过完全相同的过程，得到另一组分数与方差，两组量再经不确定性感知的比较公式得到偏好概率。

以下官方结构图展示了单条输入的完整路径，包括双编码器、不确定性输出、损伤注意力与批内非匹配参考分支，另一条输入的路径与此对称。

看图路径： 1. 从左侧波形输入出发，沿上下两路追踪到拼接点，确认语义与声学分支的汇合位置；2. 观察中间粉色全局支路与上侧紫色损伤支路如何分别输出分数并在右侧相加；3. 找到下方蓝色批内非匹配参考分支，确认它从时序池化向量分叉而不直接影响主分数

论文图 1。原论文 Figure 1：“PrefSQA model architecture for input waveform x with semantic-acoustic encoders, augmented with uncertainty-aware preference logits, a lightweight impairment attention head…”。

从像素可见，左侧是单个波形输入，分叉为上下两路，分别标注 wav2vec 2.0 与 WavLM 并各自连接多层感知机与层归一化，且均画有残差回路。中间汇合为拼接模块，之后分为 3 路：上方经 1 维卷积与池化到分数头，中部经双向长短时记忆与池化到分数头，下方从时序池化分叉经多层感知机到批内非匹配参考模块。右侧汇合输出潜分数、对数方差与残差分量。导读时应先确认主路径从输入到右侧输出的箭头方向，再确认紫色损伤支路与蓝色批内分支只是辅助，不改变双编码器对称处理两条语音的基本事实。

双编码器如何分工，时序汇总做了什么？

双编码器的设计起点沿用 UPPSQA 的语义声学架构。wav2vec 2.0 分支使用最后隐状态，WavLM 分支维护层权重向量与控制权重锐度的温度参数，并在训练时随机丢弃部分层再重归一化，以避免过度依赖少数层。每个分支的序列经过两层线性加激活函数的残差处理器，瓶颈维度为 64，保持原始维度的同时做任务适配。

wav2vec 2.0 × WavLM： wav2vec 2.0 负责提供语义侧表示，论文取其最后一层隐状态，偏向内容相关的稳定信息；WavLM 负责提供声学敏感表示，论文对其全部层做可学习层加权求和，偏向通道、噪声和失真线索。二者搭配的理由是偏好判断既要排除文本内容干扰又要抓住局部损伤，组合意义在于拼接后同时送入时序建模，使全局汇总向量兼顾说了什么和听起来坏在哪里。

拼接后的序列送入单层双向长短时记忆网络，每方向 256 个隐单元，再在时间维平均池化为话语级嵌入。该嵌入经两个线性头分别输出标量潜分数与标量对数方差。论文把潜分数理解为任意尺度的隐式平均意见分值，不直接监督，只用于排序；方差则作为不确定性估计，控制后续比较的锐度。因为比较只用话语级分数与方差，所以两条语音是否同内容、长度是否一致都不影响公式适用性。

不确定性温度与损伤残差如何计算？

给定两条语音的分数与方差，偏好对数定义为分数差除以双方差之和加小常数后的平方根。分母记为温度，论文将其钳制在 0.6 到 2.0 之间，避免偏好过于尖锐或过于平坦。最终偏好概率是对该对数取 Sigmoid，训练时则用带对数的二分类交叉熵直接优化原始对数，数值更稳定。直观例子是：当两条语音的预测方差都大时，分母大，模型输出更保守；当都很确定时，分母小，同样分数差会产生更强的偏好。

损伤注意力头作用于拼接后的编码器特征。它先用 128 通道、核长 5 的时间卷积捕捉局部模式，再用 1 乘 1 门控卷积加 Sigmoid 生成时间注意力掩码，对输入做加权平均后经多层投影得到标量残差。该残差以系数 0.1 加到全局分数上，作为轻量失真校正。教学上可以这样想：全局池化像听完整段再给印象分，损伤注意力像专门挑出刺耳片段再扣分或加分。

不确定性感知偏好对数 × 损伤注意力头： 不确定性感知偏好对数的分工是在成对比较时用两条语音各自预测的方差构造温度，对难分样本自动压平偏好强度；损伤注意力头的分工是用 1 维卷积加门控在时间上加权，补足全局平均池化容易抹掉的局部爆音、断续或噪声段。二者搭配的理由是一个管比较时的置信度缩放，一个管表示时的局部增强，组合意义是最终分数为全局分加小系数残差，再经不确定性温度输出偏好概率。

原文实现细节还包括层加权求和温度 0.5、门丢弃率 0.1，这些都只影响表示学习，不改变比较公式的形式。复述时应区分表示部分输出的是分数与方差，比较部分输出的是偏好概率，两者由温度连接。

批内非匹配参考头提供了什么额外监督？

特征级非匹配参考头的目的是进一步改善全局排序。它工作在话语嵌入上，利用批内比较构造辅助信号。具体做法是把一批中的偏好对拆成单个话语项，收集其嵌入后，每个话语作为锚点，从其余项中无放回采样至多 3 个伙伴。对每对锚点与伙伴构造特征向量，拼接两者本身、两者差与差的绝对值，再经 256 到 128 到 1 的多层感知机输出比较对数。

对应的软目标来自模型自身潜分数之差除以固定温度 1.3 再取 Sigmoid，并向 0.5 做 0.03 的标签平滑。辅助损失是这些批内对数与软目标之间的二分类交叉熵的平均，再以系数 0.9 加到主损失上。需要注意的是，这里的目标是伪标签，来自模型当前分数而非人工标注，因此它不是引入新的外部监督，而是让嵌入空间更细粒度地服从自身分数隐含的顺序。

Bradley-Terry 主损失 × 特征级非匹配参考头： Bradley-Terry 主损失负责监督标注的成对偏好，用带对数的二分类交叉熵直接优化两分之差除以不确定性温度；特征级非匹配参考头负责在批内用模型自身分数构造软目标，约束话语嵌入空间的全局排序。二者搭配的理由是主损失只看给定标注对，批内头能提供更细粒度的自洽排序信号，组合意义是以主损失加权辅助损失联合训练，使嵌入顺序与分数顺序更一致。

总损失为主损失加加权辅助损失。主损失对应人工偏好标签，辅助损失对应自洽排序约束。论文称这种设计在表示层面比单独的主成对损失更能保持排序，尤其在内容不匹配、全局排序更难时有补充作用，但具体增益需看消融对照，不能预先断言必然提升。

优化对象是什么，哪些参数更新？

训练优化的是上述总损失。主损失监督标注偏好方向，辅助损失监督批内自洽排序。优化器为 AdamW，有效批量 32，任务头与 wav2vec 2.0 学习率 0.001，WavLM 基础学习率 0.00003 并带 0.95 的逐层衰减，权重衰减 0.01，梯度范数裁剪到 1.0。WavLM 用更小学习率是为了保留稳定的预训练声学特征。论文还对比了冻结双编码器的变体，称为 PrefSQA Frozen，它只训练下游头；完全体则端到端微调编码器。

训练时输入处理固定为 16 千赫、最长 6 秒，层加权温度、门丢弃、损伤头缩放、批内采样数、温度与平滑系数均按原文给定值设置。论文报告微调版通常用更少优化步数达到验证峰值，冻结版往往收敛更快，但两者谁最优随数据集而变。未报告的内容包括具体训练轮数、早停耐心和硬件耗时，复现时需自行记录验证曲线，不能从模型名推定收敛行为。梯度路径方面，原文明确主损失经分数与方差回传，辅助损失经嵌入与分数回传，但未给出逐层梯度细节，解读时不猜测未说明的截断或冻结策略。

数据如何构造，划分与采样如何保证公平？

论文使用并精炼了 5 类偏好数据。第一类是 MOS 衍生集，基于 NISQA 与 SOMOS。NISQA 保留全部子集条件与原始训练验证测试划分，只在条件内部采样内容不匹配的对，每条语音至多用 3 次，不重复使用同一对，MOS 高者为优，相等则丢弃。SOMOS 只用干净子集，遵循原始划分，分别采样内容匹配与不匹配的对，优选端随机放在第一或第二位置。关键是开发全程不让模型看到 MOS 数值。

第二类是低噪声仿真集 CHiLi，含匹配与非匹配两套。干净语音来自 LibriSpeech，背景噪声来自 CHiME-3，按基线信噪比在负 20 到 30 分贝均匀采样、信噪比差在 0.5 到 10 分贝均匀采样并随机取正负号来决定另一端的信噪比，信噪比高者为优。非匹配情况下每条样本恰出现 2 次以平衡表示，噪声段总是随机选取，因此两端噪声通常不同甚至来自不同噪声条件，增加了多样性。

匹配内容对 × 非匹配内容对： 匹配内容对指两条语音来自同一句干净语音，仅加噪或处理不同，任务聚焦失真本身；非匹配内容对指两条语音内容不同，模型还需排除说话人、文本和语义带来的干扰。搭配理由是真实应用中既有同一文本比不同系统，也有内容完全不同的跨样本比较，组合意义在于同时构造两类数据才能检验模型是真学到质量排序还是记住了内容。

第三类是真人偏好集 SpeechEval 与 SpeechJudge，只含匹配内容对，用于反映真实听音标签上的表现；第四类是仅用于测试的 IUB-COSINE 集，由 COSINE 语料经 MUSHRA 测试构建，每组参考、锚点与测试音频可派生 3 对，论文称这种派生可粗略视为真实标签。所有自建集都做了全局与局部分箱平衡，按绝对 MOS 或信噪比差以 0.1 为箱宽检查，确保多数箱内两类标签大致各半，避免模型靠猜多数类获得高准确率。基线包括按原文复现的 SQAPP 与 UPPSQA，因无公开代码而自行实现，这一点在比较时必须记住。

主结果在哪些数据上可见，差距有多大？

比较问题是：在相同训练评估划分下，PrefSQA 相对 SQAPP、UPPSQA 与冻结变体能否提高偏好准确率。公平条件是每类数据单独训练与评估，准确率越高越好，IUB-COSINE 则用 CHiLi 非匹配或 SpeechEval 训练的检查点直接测试以考查泛化。下表整理了论文报告的核心准确率与各集训练验证测试对数，数值保留原文精度。

表后解释需要同时看到收益与代价。在 MOS 衍生集上，PrefSQA 最好但差距小，NISQA 上仅比 UPPSQA 高约 0.38 个百分点，SOMOS 匹配集上冻结版甚至略高于完整版，非匹配集完整版领先约 1.6 个百分点。论文认为这不是结构无效，而是标签噪声掩盖了差距。反证来自高信噪比控制的仿真集，差距被放大：匹配集完整版达 96.29，非匹配集达 90.37，明显高于 UPPSQA 的 85.88 与 81.05。未胜出项也要指出：在 SpeechJudge 上 SQAPP 最好，论文推测与其训练目标更贴合直接偏好监督有关。

在部分数据上冻结与微调交替最优，说明微调收益依赖数据匹配程度。IUB-COSINE 未见集上两种检查点组合均显示 PrefSQA 有竞争力，支持泛化结论，但仍需注意其标签由量表分派生而非严格成对听音。

误差集中在哪里，模型犯错是否相同？

第二个问题是：错误是否集中在小间隔区，以及不同模型是否在相同样本上犯错。论文收集误分类测试对，按绝对 MOS 差或信噪比差排序，计算两两模型间隔列表间的一致性相关系数，并统计误分类间隔分布的分位数。指标方向是：一致性系数越接近 1 表示犯错样本与顺序越相似；分位数越小表示错误越集中在小间隔。下表整理原文报告的一致性系数与 PrefSQA 误分类间隔分布，单位与原文一致，MOS 差与信噪比差均以分贝或分值表示。

表后解释应点明双重证据。在 MOS 衍生集上，一致性系数接近 1，说明 3 模型在相似的小间隔对上犯错，结合主结果的小差距，支持噪声影响可见性的判断。分布上误分类中位远小于尾部跨度，例如 NISQA 中位 0.43 而尾部跨度 1.80，说明前一半错误挤在很小的间隔内，而这些区域恰是标注噪声主导的区域。在仿真集上，一致性系数明显降低，说明 PrefSQA 的错误模式与基线分开，改进是真实的而非偶然；同时非匹配集的中位 2.08 与尾部跨度 7.10 表明任务更难，需要更大信噪比差才能稳定判断。限制是 SpeechEval 与 SpeechJudge 没有可直接度量的 MOS 或信噪比统计，未纳入此分析，不能把小间隔结论推广到所有真人数据。

去掉损伤头或批内头会发生什么？

消融问题是：损伤注意力头与非匹配参考头各自贡献多少。比较条件是在 CHiLi 匹配与非匹配集上训练同一完整模型，仅移除指定组件，其余超参数不变，准确率越高越好。下表为原文报告的消融准确率，保留 2 位小数。

表后解释需区分易难任务。在较易的匹配集上，4 种变体都在 95 以上，完整模型最高但差距微弱，说明简单数据易饱和，难以归因单个模块。论文的措辞是支持而非证明互补作用。在更难的非匹配集上，差距更具判别性：去掉损伤头降到 88.86，去掉批内头为 90.12，均低于完整的 90.37，完整模型一致最好。值得注意的反例是去掉两者为 89.35，反而高于仅去损伤头的 88.86，说明单次消融数值有波动，不能理解为组件有害。总体判断是两组件在困难任务上提供互补收益，但增益幅度温和，复现时应多次随机种子平均后再下结论，原文未报告方差是缺项。

哪些结论不能下，边界在哪里？

论文明确报告的局限是困难样本集中在小间隔区，两端可能听起来质量相同。当前任务丢弃平局对，不预测平局，因此在接近不可区分时强行二选一会带来误差。未来工作提出引入显式平局选项，以更好对齐人类感知。这属于待验证方向，不能当成已证明的改进。

另一个边界是微调与冻结交替最优。论文观察到完整微调并不在所有数据上都赢过冻结编码器，说明预训练适应的收益依赖数据匹配，过度适应可能有害。讨论中提到可用正则化控制适应强度，但这只是设想，未在本文验证。还有真人集上的例外：SpeechJudge 上 SQAPP 最好，提醒读者偏好数据的采集目标与模型训练目标是否匹配会影响排名，不能把仿真集上的领先直接推广为所有场景最优。

资源声明方面，论文未提供本次可验证的代码、模型或数据公开链接，资源状态为无绑定来源，因此不能写已公开或可下载。致谢中提到俄亥俄超级计算机中心与两项基金支持，生成式人工智能仅用于编辑润色，这些不影响方法结论，但复现时需自行实现基线与数据管线。

要复现应先做什么，需要哪些超参数？

复现的第一步是重建数据管线而非先调模型。对 MOS 衍生集，严格在原始子集条件与划分内部采样，不跨条件搬运语音，MOS 高者为优并丢弃相等对，优选端随机放首尾。对仿真集，按基线信噪比负 20 到 30 分贝、差值 0.5 到 10 分贝、随机符号的规则混合 LibriSpeech 干净语音与 CHiME-3 噪声，非匹配集保证每样本出现 2 次。完成后按 0.1 箱宽检查两类标签大致各半，否则准确率会被多数类偏差污染。

第二步是实现双编码器与 3 个新增模块。层加权求和温度 0.5、门丢弃 0.1、残差处理器瓶颈 64、单层双向长短时记忆每方向 256 隐单元、损伤头缩放 0.1、时间卷积 128 通道核长 5、比较温度钳制 0.6 到 2.0、批内每锚点采样 3 伙伴、批内温度 1.3、平滑 0.03、辅助权重 0.9，这些是必须保留的信息条件。优化用 AdamW、有效批量 32、任务头与 wav2vec 学习率 0.001、WavLM 基础学习率 0.00003 逐层衰减 0.95、权重衰减 0.01、梯度裁剪 1.0。

第三步是先跑冻结变体再开微调，分别在 MOS 衍生集与仿真集上记录验证曲线，因为论文显示两者收敛速度与最优点不同。评估除准确率外，还应复现误分类间隔分布与模型间一致性，以判断改进是真实分离还是噪声内波动。若只有真人小数据，应预期波动更大，不宜单次结果定论。

何时值得尝试这种方法，如何一句话记住它？

当你的质量标注噪声大、绝对分不可比，或只有哪段更好的比较标注时，值得尝试无 MOS 偏好路线。PrefSQA 的记忆点是：用内容与声学互补的双编码器得到可排序分数，用方差温度让难分比较更保守，用局部损伤残差补全局平均的盲区，再用批内自洽排序约束嵌入空间。它的证据强度分层明确：在低噪声仿真集上差距清晰，在 MOS 衍生集上差距小但误差模式支持噪声解释，在真人集与未见集上总体有竞争力但存在例外。

对研究生而言，可核对的复述是：输入 1 对语音，输出一端更优的概率；训练从不看 MOS；评估看准确率、误分类间隔与跨模型一致性；结论是高质量数据让结构改进可见。未验证的推测应单独标记，例如平局建模会提升对齐度、正则化微调会更稳定，这些都需要补实验。

最后要记住适用条件：内容不匹配时任务更难，需要更大质量差才能稳定判断；小间隔区的比较本质上接近人类可区分极限，不应期待准确率无限提高。

⚖️ 评分明细

评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。

• 评分规则：type-aware-v1
• 评分模型：muse-spark-1.3-contributor
• 评分请求协议：openai_responses

← 返回 interspeech-2026 论文汇总