📄 按小节估计难度、分段分配推理量的音频推理：SWEAR 解读
英文题目：SWEAR: Section-Wise Efficient Audio Reasoning via Self-Rated Difficulty
标签：#音频推理 | #语音翻译 | #课程学习 | #强化学习
评分：6.0/10 | 创新 1.2/2 | 技术严谨 1/1.5 | 实验充分 1/1.5 | 清晰度 0.7/1 | 影响力 1/1.5 | 开源 0/1.5 | 可复现 0.3/0.5 | 工程/实践 0.8/1.5
👥 作者与机构
- Yixuan Li：机构信息未在 arXiv HTML 中可靠披露
- Minghao Lv：机构信息未在 arXiv HTML 中可靠披露
- Xuenan Xu：机构信息未在 arXiv HTML 中可靠披露
- Zihao Zheng：机构信息未在 arXiv HTML 中可靠披露
- Mengyue Wu：机构信息未在 arXiv HTML 中可靠披露
📌 核心摘要
大型音频语言模型需要结合音频与问题文本形成文字推理再作答，输入为声音信号和问题表述，输出为分段推理过程与最终答案，问题理解、声音证据抽取和答案推断在不同样本与不同阶段的难度并不一致，整体难度估计难以说明篇幅应当加在哪一段。SWEAR先用生产质量、生产复杂度、证据依赖程度、推理需求和问题质量五个离线维度刻画难度来源，再按各段功能归属合成为规划段、描述段和推理段的连续难度并量化为五个等级，同时按连续难度比例分配各段压缩预算，由教师模型生成保留段落功能且与答案一致的压缩轨迹，构成DiCoTA监督目标。监督微调让模型在写出每段内容之前先预测本段等级，使等级成为制约后文生成的条件信号，学到的带等级结构化轨迹直接作为后续强化的起点。与只给整体难度的做法不同，课程组相对策略优化按综合难度由易到难引入样本，用模型自评等级设定各段目标长度并调节允许偏离参考策略的幅度，同时用离线难度分布校准等级预测，从而在简单输入上缩短推理而在困难输入上保留 deliberation 空间。在MMAU-test-mini上SWEAR准确率为73.5%，平均生成197.13个词元；在MMAR上准确率为62.0%，平均生成195.85个词元；相对CoTA-SFT分别减少约60.1%和62.3%词元。该结论只在两个各1000题的评测集和同一主干模型下成立，难度打分器的偏差与开放问答效果尚未验证。原文未披露训练、推理或部署的算力成本。
🔗 开源与复现资源
本次未形成可展示的已核验资源记录，开放状态尚未核实。
可达状态仅表示本次链接检查结果，不代表许可证、本文权重或运行复现已验证。
🧭 深度解读
大音频语言模型为什么要做显式推理
本文面对的输入是音频加自然语言问题，目标是给出正确选项或文本答案，中间允许模型生成一段推理过程。读者可以把大音频语言模型理解为能同时听音频和读问题的问答模型，它需要把听到的声音事件、语音内容或音乐结构与问题要求联系起来。显式推理就是在最终答案之前，先写出规划、音频描述和推断等中间文字，让模型把证据摆出来再作答。保留的信息包括音频中的关键事件、时间顺序和与问题相关的细节，输出包括结构化推理段落和最终答案。
推理越长，生成词元越多，计算开销越大，因此何时该多想、何时可以少写，是效率与准确率之间的直接权衡。本文的基座是 Qwen2.5-Omni-7B，评测关注答对率和平均生成词元数，前者越高越好，后者越低表示越省。
已有自适应推理与本文分段思路的区别
在文本推理中，已有工作按样本难度调整推理长度或计算预算，在视觉推理中也有按输入线索调整推理量的方法。在音频推理中，Audio-Thinker 和 Omni-AutoThink 用强化学习决定是否启动推理，另一些工作按难度相关信号调整推理长度。本文指出这些方法多用单一整体难度，例如 rollout 表现、注意力统计或整条轨迹奖励，只能回答是否需要更多推理，难以回答应该把推理量加在哪一段。
音频推理的特殊之处在于问题理解、声学证据抽取和答案推断可能各自困难且互不相关，例如问题本身清楚但音频嘈杂，或者音频清楚但需要复杂推断。原文在相同任务设定下比较显式思维链模型，包括 Audio-Reasoner、Audio-Flamingo 3、Omni-CLST、CoTA-SFT 等，而不是把是否推理、是否同基座、是否同评测协议不同的结果混为同条件胜负。SWEAR 的区别是把难度建模到小节级别，并让长度控制也到小节级别。
本文要解决的具体问题是什么
具体问题有两个层面。第一是如何刻画难度，音频推理的难度来源多样，既有录音质量差、场景成分多，也有问题表述不清、对细粒度证据依赖强、推断步骤多，单一分数容易把不同原因混在一起。第二是如何使用难度，已有压缩多对整条轨迹统一压缩，已有奖励多对整体长度惩罚，难以做到简单小节大幅缩短而困难小节保留足够篇幅。
SWEAR 把一条推理固定拆为规划、描述、推理、总结和回答，其中规划、描述、推理 3 段需要难度评分，总结段用固定整合预算，回答段不计入推理预算。输入处理的目标是为每个训练样本得到 3 段各自的连续难度、离散评分和分段长度预算，训练目标是让模型自己预测评分并按评分决定各段写多长，评测时不再依赖外部难度打分器。
三阶段流程如何分工
整个方法分为离线构造数据、结构化监督微调和课程强化学习 3 个阶段。第 1 阶段用外部语言模型和声学评价工具对原始 CoTA 问答做 5 维标注，换算为 3 段难度，再按难度分配压缩预算并由教师模型压缩得到简洁目标，构成 575K 样本的 DiCoTA 数据集。第二阶段用这些带评分和压缩内容的目标做监督微调，使策略学会在每段开头先输出评分标记再写内容。
第三阶段从监督微调检查点继续做强化学习，按难度从易到难逐步放开数据，同时优化任务质量、格式、按评分调节的长度奖励和评分校准，并用与参考模型的 KL 约束防止偏离过大。推理时模型自回归生成评分、各段和答案，不再调用外部标注器。下面这张总览图把 3 个阶段的输入输出和连接画了出来，读图时重点看难度如何变成评分和预算，评分又如何进入强化学习的奖励与约束。
看图路径： 1. 先看面板 a 从原始音频问答到离线标注再到分段难度与压缩目标的箭头；2. 再看面板 b 中监督微调如何把压缩数据变成结构化简洁推理；3. 最后看面板 c 中策略与参考模型、奖励、课程桶与评分校准的连接关系
论文图 1。原论文 Figure 1:：“Overview of our multi-dimensional difficulty-aware audio reasoning framework.”。
图 a 显示原始音频问答经过离线语言与声学标注得到问题质量、推理需求、整合分数、生产质量和生产复杂度，再组合为规划、描述、推理 3 段难度，并决定每段的难度等级与压缩预算，最终形成带等级标记的结构化目标。图 b 显示预训练模型在压缩数据上做监督微调得到可用作参考的结构化简洁推理模型。图 c 显示策略模型采样多条候选，接受格式与质量奖励和分段长度奖励，同时接受课程桶调度、自适应 KL 惩罚和评分分布校准，共同推动策略更新。离线标注器只在训练时使用，这是理解复现成本的关键。
五维标注分别测量什么
DiCoTA 的难度起点是 5 个维度。生产质量来自 Audiobox Aesthetics，反映录音技术质量，质量越差代理分数越高；生产复杂度同样来自该工具，反映音频成分复杂程度，越复杂分数越高。整合分数、推理需求和问题质量由 Qwen3-Omni-30B-A3B 给出，分别捕捉对细粒度声学证据的依赖、推断复杂度和问题表述质量，其中问题表述越差代理分数越高。原文先把五点制和十点制分数归一化到零到一之间，再对问题质量和生产质量做反转，使数值越大表示越难。
这样的分工使声学感知、证据抽取、问题理解和答案推理的困难来源被分开测量，避免只用答对与否来代表难度。研究生初读时容易把这些分数当作人工标注，实际上它们是离线模型打分，属于训练用的代理信号，其噪声会传到后续预算和校准中。
Planning × Caption × Reasoning： Planning 指问题理解与解题规划，Caption 指从音频中抽取可用于作答的声学证据描述，Reasoning 指结合证据与问题做推断。三者分工不同，难度来源也不同，因此 SWEAR 对每段单独评分和分配长度，而不是用一个总难度决定整条推理的长短。
三段难度如何合成与分级
得到 5 个归一化代理量之后，原文按每段的功能角色加权合成。规划段难度直接取问题代理量，表示理解题意有多难；描述段难度取整合分数、生产质量代理和生产复杂度代理的平均，表示写出任务相关音频描述有多难；推理段难度取推理需求和整合分数的平均，表示结合证据做推断有多难。连续难度再按等宽切分为 5 个等级，用 R1 到 R5 标记，R1 最易，R5 最难。
目标回答的格式是在每段标签后先放该段等级标记再写内容，例如规划标签后放规划等级再写规划文字，描述和推理同理，总结和回答不放难度等级。这种把等级放在内容之前的顺序很重要，使等级成为生成后续文字时的因果条件，而不只是事后注释。
\[D_{P}=q,\qquad D_{C}=\tfrac{1}{3}(i+p+c),\qquad D_{R}=\tfrac{1}{2}(r+i).\]上式给出 3 段连续难度的合成方式，符号含义在上一段已解释，计算目标是得到可用于分级和分配预算的段级难度。等级切分采用等宽量化，连续值用于更精细的预算分配，离散等级用于模型学习和长度目标。
生产质量 × 生产复杂度 × 整合分数 × 推理需求： 生产质量衡量音频技术质量好坏，生产复杂度衡量音频成分复杂程度，整合分数衡量作答对细粒度声学证据的依赖，推理需求衡量推断本身的复杂程度。前两者偏声学感知，后两者偏证据使用与推理，组合后才能同时覆盖听不清、场景杂、需要细听和需要多步推断这几类困难。
压缩预算如何按难度分配
与对整条轨迹统一压缩不同，本文先给定规划、描述、推理和总结 4 段的总预算，再为总结预留固定预算，剩余预算按 3 段连续难度加一个小的难度下限来分配。下限的作用是防止某段难度接近零时被分配到零长度。难度越高的段分到越多词元，难度越低的段分到越少，整条轨迹因此在简单样本上更短。教师模型在给定难度和预算的条件下删除冗余步骤，但保留每段功能并与答案一致。
原文强调预算分配用连续难度而不用离散等级，是为了更精细地区分相邻难度。总结段不参与难度加权，使用固定整合预算，最终答案不计入该总预算。这种设计把省词元的压力主要放在简单段，把保准确率的容量留给困难段。
\[B_{s}=(B-B_{S})\frac{D_{s}+\epsilon}{\sum_{j\in\mathcal{G}}(D_{j}+\epsilon)},\qquad\epsilon>0,\]上式中 B 是 4 段总预算，BS 是总结固定预算，Ds 是某段连续难度，分母是对 3 段难度加下限后的求和。计算目标是得到每段的目标压缩长度，作为监督微调目标和强化学习中参考长度的来源。
结构化监督微调教会了什么
监督微调的输入是音频加问题，目标是上一节得到的带等级标记和压缩内容的完整结构化回答。模型需要依次生成规划等级、规划内容、描述等级、描述内容、推理等级、推理内容、总结内容和最终答案。由于等级出现在内容之前，模型在写该段之前必须先做出难度判断，训练损失会同时惩罚等级预测错误和内容生成偏差。训练设置是 LoRA 秩 64、缩放因子 128、全局批量 64、学习率 1×10 的负 5 次方、训练一个周期，数据量为 402496 条。
这 1 阶段结束后得到可作为强化学习起点和参考模型的策略，它已经能输出格式正确且相对简洁的推理，但长度尚未按自身预测做精细调节。需要说明的是，本文没有报告冻结哪些参数的逐层细节，只能按证据说继续用 LoRA 优化，不能从模型名称推断具体实现。
监督微调 × 课程强化学习 × 评分校准： 监督微调负责教会模型按固定格式先输出每段难度评分再写该段内容，建立评分接口；课程强化学习负责按从易到难的顺序让模型实际生成多条候选并按质量、格式和长度奖励优化；评分校准负责把模型预测的评分分布拉向离线难度的平滑目标，防止评分漂移。三者搭配使评分既可学又在优化中保持可用。
强化学习如何按自评调节长度与偏离
强化学习从监督微调检查点出发继续 LoRA 优化 2000 步，学习率 1×10 的负 6 次方，每个提示采样 6 条回答，用分组相对策略优化的截断目标并加 KL 正则。奖励由三部分相加，格式奖励检查是否包含所需段落和等级标记，质量奖励在语音翻译类任务用归一化 BLEU、在封闭选择任务用答案准确率，长度奖励按段计算生成长度与 DiCoTA 参考压缩长度之比偏离目标比的平方和的负值。目标比随预测等级线性增大，原文取等级加 27 再除以 30，使 R1 对应 0.93、R5 对应 1.07，等级越高允许生成越长。
KL 系数随预测总难度自适应减小，越难允许越偏离冻结的监督微调参考模型。评分校准把预测等级的分布与离线连续难度构造的高斯形目标分布做 KL 约束，权重为 0.05，防止自评等级在优化中漂移。
\[r_{\mathrm{len}}(y_{i})=-\sum_{s\in\mathcal{G}}\left(\frac{L_{i,s}}{C_{i,s}}-\tau_{i,s}\right)^{2}.\]上式中 Li,s 是某段生成长度，Ci,s 是对应 DiCoTA 参考压缩长度，目标比随该段预测等级增大。计算目标是鼓励每段长度与自身难度相称，过长或过短都会被扣分。课程调度把样本按 3 段难度的均方根排序并分成 4 个等频桶，用任务质量反馈更新能力分数，达标后逐步开放更难的桶且保留早期桶的指数降权采样。
长度奖励 × 自适应 KL 正则 × 课程推进： 长度奖励按预测评分给每段设定目标长度比，评分越高允许越长；自适应 KL 正则按预测总难度调节与监督微调参考模型的偏离惩罚，越难允许偏离越大；课程推进按任务质量反馈决定何时加入更难的数据桶。组合后模型在简单样本上被鼓励写短，在困难样本上仍保留偏离参考和充分推理的空间。
数据划分与评测条件如何设定
训练数据来自 DiCoTA，其中监督微调 402496 条，强化学习另用 113410 条可计算奖励的样本，覆盖语音到文本转换和多选音频推理任务，并按总难度均方根分成 4 个等大小难度桶。评测在 MMAU-test-mini 和 MMAR 各 1000 条上进行，指标是答案准确率和平均生成词元数，前者越高越好，后者越低越省。难度分析时用与 DiCoTA 相同流程给每个评测样本打分，再在每个评测集内独立分成易、中、难 3 组等频划分。答案抽取同时匹配预测选项标签与选项内容。
比较对象包括同协议下的公开音频推理基线和基于 CoTA 与 DiCoTA 的监督微调变体，分别记为 CoTA-SFT 和 DiCoTA-SFT。所有模型遵循相同生成与评分协议，这是讨论公平性的前提。需要提醒的是，按 DiCoTA 标准划分的易中难是模型相关的代理难度分组，不是官方固定划分，换一种难度定义分组边界会变化。
MMAU-test-mini × MMAR × 平均生成词元数： MMAU-test-mini 和 MMAR 是本文使用的两个 1000 样本音频推理评测集，准确率衡量答对比例，平均生成词元数衡量输出长度即推理开销。两者搭配才能判断准确率提升是否以更多词元为代价，以及节省词元是否牺牲了困难样本的准确率。
主结果在准确率与词元上说明了什么
下面这张大表比较了直接回答模型、多个公开推理基线和本文 3 个模型在两个评测集上的分难度准确率、分音频类别准确率、总体准确率与平均词元数。读表时先看总体准确率与词元数的权衡，再看困难组是否保持优势，最后看声音、音乐、语音 3 类是否一致。指标方向是准确率越高越好，词元数越低越省，词元排名只在显式思维链模型之间比较。比较的公平条件是同生成与评分协议，但基座与训练数据并不完全相同，因此只能说在该协议下观察到更强的权衡，不能说单一组件必然导致全部差距。表后解释会给出关键数字、代价与未胜出项。
| MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAU-test-mini | MMAR | MMAR | MMAR | MMAR | MMAR | MMAR | MMAR | MMAR | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Model | Easy | Medium | Hard | Sound | Music | Speech | Overall | Token | Easy | Medium | Hard | Sound | Music | Speech | Overall | Token |
| Qwen2.5-Omni-7B [17] | 73.87 | 70.96 | 61.26 | 71.47 | 66.47 | 68.17 | 68.7 | 14.34 | 60.18 | 60.36 | 56.16 | 58.18 | 50.00 | 62.93 | 58.9 | 13.18 |
| Public Baselines | ||||||||||||||||
| Audio-Reasoner-7B [16] | 69.37 | 69.16 | 61.26 | 66.67 | 64.67 | 68.77 | 66.7 | 504.36 | 49.40 | 43.84 | 43.84 | 45.45 | 39.81 | 48.98 | 45.6 | 537.18 |
| Ke-Omni-R-7B [22] | 79.88 | 75.75 | 64.86 | 78.08 | 70.36 | 72.07 | 73.5 | 76.64 | 58.38 | 56.46 | 49.85 | 55.15 | 42.23 | 58.84 | 55.0 | 70.34 |
| Audio-Flamingo 3 [2] | 78.68 | 76.65 | 65.17 | 77.48 | 69.46 | 73.27 | 73.4 | 199.90 | 61.68 | 55.26 | 45.95 | 49.70 | 48.06 | 58.16 | 54.5 | 189.10 |
| Omni-CLST [21] | 77.78 | 74.85 | 63.66 | 77.48 | 71.56 | 67.27 | 72.1 | 204.03 | 60.78 | 60.06 | 56.46 | 63.49 | 52.45 | 56.17 | 59.1 | 368.01 |
| Omni-R1 [6] | 77.18 | 73.65 | 68.47 | 80.48 | 67.96 | 70.87 | 73.2 | 7.11 | 66.17 | 63.66 | 54.37 | 58.81 | 53.46 | 65.14 | 61.4 | 6.82 |
| Our Models | ||||||||||||||||
| CoTA-SFT | 75.68 | 74.25 | 62.46 | 71.17 | 67.37 | 74.17 | 70.9 | 494.58 | 59.28 | 57.06 | 50.76 | 56.36 | 45.63 | 59.86 | 55.7 | 519.82 |
| DiCoTA-SFT | 74.17 | 76.35 | 65.47 | 70.27 | 69.76 | 75.38 | 71.8 | 216.18 | 58.68 | 56.46 | 53.45 | 56.36 | 48.06 | 57.82 | 56.0 | 222.74 |
| SWEAR | 78.68 | 72.46 | 69.37 | 78.38 | 73.65 | 68.47 | 73.5 | 197.13 | 62.28 | 66.07 | 57.66 | 62.42 | 54.85 | 64.29 | 62.0 | 195.85 |
读图说明如下，两张子图分别对应 MMAU 与 MMAR，横轴是按 DiCoTA 标准划分的易、中、难，左侧纵轴是准确率对应柱子，右侧纵轴是平均输出词元对应折线，3 种颜色分别对应 SWEAR 与两种监督微调变体。重点观察柱子随难度是否下降、折线随难度是否上升，以及 SWEAR 折线是否始终更低。
看图路径： 1. 对比 MMAU 与 MMAR 两个子图中三组柱子的高低变化；2. 观察虚线表示的平均输出词元随难度从易到难是否上升；3. 注意 SWEAR 的词元线是否在各难度下都低于两个监督微调变体
论文图 2。原论文 Figure 2:：“Accuracy (bars) and mean output tokens (lines) across difficulty under DICoTA standard on MMAU and MMAR.”。
从像素可见，在 MMAU 上 SWEAR 柱子从易到难保持在较高位置，困难组明显高于 CoTA-SFT，其词元折线随难度从约 172.8 上升到 222.5 词元，但全程低于 CoTA-SFT 约 60%，也略低于 DiCoTA-SFT。在 MMAR 上 SWEAR 3 组柱子均高于两个监督微调变体，词元折线从约 174.4 上升到 223.2 词元，同样低于对照。具体数字上，SWEAR 在 MMAU-test-mini 总体准确率为 73.5%，平均 197.13 词元，在 MMAR 总体为 62.0%，平均 195.85 词元，相对 CoTA-SFT 的 494.58 和 519.82 词元分别减少 60.1% 和 62.3%。与 DiCoTA-SFT 相比，SWEAR 进一步把词元从 216.18 降到 197.13、从 222.74 降到 195.85，同时准确率从 71.8% 升到 73.5%、从 56.0% 升到 62.0%。未胜出项同样存在，SWEAR 在 MMAU 中等组 72.46% 低于 CoTA-SFT 的 74.25%，在语音类 68.47% 低于 CoTA-SFT 的 74.17%，说明节省词元并非在每个细分上都占优。结论成立的条件是上述评测集、答案抽取规则和代理难度划分，换评测集或改抽取规则数字会变化。
去掉关键组件与改变课程桶数会怎样
下面这张消融表固定报告 SWEAR 完整模型与去掉评分校准、去掉长度 shaping、自适应 KL 改为静态 KL，以及课程桶数取 1、3、5、10 时的总体准确率与词元数。比较问题是每个设计是否对最终准确率与长度都有贡献，公平条件是同基座、同数据起点和同评测协议，指标方向仍是准确率越高越好、词元越低越省。其中均匀训练对应 1 个桶即无课程，其余行只改变一处设置。表后解释会说明收益、代价与反例，避免把单行差异当作必然因果。
| MMAU | MMAU | MMAR | MMAR | ||
|---|---|---|---|---|---|
| Setting | KK | Acc.↑ | Token↓ | Acc.↑ | Token↓ |
| SWEAR | 4 | 73.5 | 197.1 | 62.0 | 195.9 |
| Component ablations | |||||
| w/o rating calibration | 4 | 70.3 | 188.5 | 59.4 | 193.6 |
| w/o length shaping | 4 | 74.2 | 216.6 | 60.4 | 225.5 |
| w/o adaptive KL | 4 | 71.6 | 198.4 | 61.5 | 197.7 |
| Number of curriculum buckets | |||||
| uniform training | 1 | 69.3 | 199.0 | 58.2 | 188.2 |
| 3 buckets | 3 | 70.1 | 198.7 | 60.5 | 191.4 |
| 5 buckets | 5 | 71.2 | 196.0 | 60.8 | 195.8 |
| 10 buckets | 10 | 70.4 | 180.2 | 59.3 | 185.7 |
去掉评分校准后，MMAU 准确率从 73.5% 降到 70.3%，MMAR 从 62.0% 降到 59.4%，词元略降到 188.5 和 193.6，说明校准对保持评分可用性重要，但不能据此推断校准在所有数据上都同等重要。去掉长度 shaping 后，词元明显涨到 216.6 和 225.5，MMAU 准确率微升到 74.2%，MMAR 反而降到 60.4%，说明长度约束确实省词元，且其对准确率的影响与数据集有关。静态 KL 在两集上分别降到 71.6% 和 61.5%，支持自适应偏离的作用，但原文未报告显著性与方差。课程桶数中 4 桶最高，3 桶、5 桶、10 桶和均匀训练都更低，其中 10 桶在 MMAU 词元最低为 180.2 但准确率只有 70.4%，说明一味切细课程并不单调变好。尚未评测的范围包括其他桶数、其他目标比斜率和无参考长度时的表现，这些缺失使结论只在已测配置下成立。
证据的边界与容易误解的地方
首先，难度完全来自离线模型打分，问题质量等维度的噪声会进入分级、预算和校准，本文没有测量打分误差本身，因此不能把 R1 到 R5 当作客观真值。其次，长度奖励依赖 DiCoTA 参考压缩长度，压缩由教师模型完成，若教师删掉关键证据，后续模型再省词元可能放大缺失，原文要求保留功能与答案一致，但未报告压缩失败率。
第三，词元减少不等于延迟与成本同比例减少，训练资源、推理开销、输出帧率和实际延迟是四件事，本文只报告平均生成词元，没有报告硬件、批量、延迟或人工评价，不能承诺实际部署更快或更好。第四，表头与正文在个别拼写上存在差异，例如图注出现 DICoTA 大小写不一致，应以方法部分的 DiCoTA 为准，不要据此猜测另有数据集。最后，来源未确认不是技术缺陷，本文没有提供可验证的代码与模型链接，因此复现需要按描述重建流程，不能写成作者资源已公开。
复现第一步做什么与关键参数
复现第一步是重建 DiCoTA 的标注与压缩管线，而不是直接调模型。需要准备 CoTA 原始问答，用 Audiobox Aesthetics 得到生产质量与生产复杂度，用 Qwen3-Omni-30B-A3B 得到整合分数、推理需求和问题质量，再按归一化与反转得到 5 个代理量，按段合成连续难度并量化为 R1 到 R5。接着设定 4 段总预算与总结固定预算，按连续难度分配每段预算并调用教师模型压缩，保留答案一致性。关键超参数包括 LoRA 秩 64、缩放 128、监督微调批量 64 与学习率、强化学习 2000 步与采样数 6、课程桶数 4、长度目标比为等级加 27 除以 30、校准权重 0.05。
信息条件上，推理时不需要外部难度打分器和参考轨迹，只需模型自回归输出评分与各段。缺失项是教师压缩的具体提示、总结固定预算的具体数值和硬件预算，这些未报告内容需要自己记录才能保证可比。
什么时候值得尝试与还需补什么验证
当你的音频问答系统已使用显式思维链且词元开销过大，同时观察到简单问题也被写得很长，而困难问题仍需保留细节时，值得尝试这种分段难度思路。它的代价是需要先做离线多维标注和教师压缩，再做 2 阶段训练，流程比单阶段监督微调更重。如果只有单一整体难度信号或没有分段结构，直接套用分段奖励意义有限。还需补的验证包括在更多数据集与噪声条件下检验 5 维代理的稳定性，报告多次运行的方差与显著性，测量实际延迟与人工可读性，以及公开压缩失败案例与困难组错误分析。只有补上这些，才能判断省下的 60% 词元在新场景下是否依然成立。
📎 论文与评分元数据
排名：前50% | 文档类型：方法研究 | arXiv 原文
⚖️ 评分明细
评分属于系统判断，不是论文实验结果；八维数值与总分见页首，原始审计记录保留在后端。
评分规则：type-aware-v1
评分模型：muse-spark-1.3-contributor
评分请求协议：openai_responses