从单向分层到双向交互:残差分层如何缓解发音评估中的特征遗忘
针对音素到词到语句单向建模不足与分层加深导致初始编码遗忘问题,论文提出双向交互注意力加残差分层的 HIA 框架,在 speechocean762 上以音素词句多指标领先为证据,代价是小数据下增大容量反而难优化。
针对音素到词到语句单向建模不足与分层加深导致初始编码遗忘问题,论文提出双向交互注意力加残差分层的 HIA 框架,在 speechocean762 上以音素词句多指标领先为证据,代价是小数据下增大容量反而难优化。
针对生成式语音修复中似然目标与听感偏好错位及单指标奖励作弊问题,论文用四维一致投票构造约 8 万偏好对并做 DPO 对齐,在 AR、掩码生成与流匹配三范式上报告了一致的客观与主观增益,代价是依赖自动指标代理与同范式数据更有效。
该提案要把语音感知大语言模型从只做转写扩展到原生联合完成自动语音识别与说话人切分,做法是冻结大语言模型主干、分两阶段训练音频编码器与适配器并加入上下文提示,证据是所列开源切分数据的时长与语言分布以及词错率与切分错率的明确定义,代价是切分标注数据少且尚未给出可运行系统的定量主结果。
论文把同一恶意叙事分别用文本、中性语音和五种心理风格语音送入端到端音频大模型,用三数据集攻击成功率证明讲法改变服从性,在 Gemini 上达到 98.26% 而代价是小模型解码不稳定与手工风格难优化。
Orukeet 把 Parakeet 编码器中拟合误差最小的 12,288 个时域卷积核替换为解析 Gabor 函数并冻结,再训练其余参数,在 FLEURS 混合词错率上从 11.01% 降到 9.85%,代价是希腊语等少数划分明显变差且最终调优依赖 LibriSpeech test-other。
针对严重噪声下生成式增强容易编造内容与音色的问题,PASE 把预训练 WavLM 蒸馏成去噪专家并用高低层双流重建波形,在自建 LibriTTS 低信噪比集上把内容错误压到更低,同时以双流声学条件把说话人相似度拉回可用水平,代价是浅层声学流会带入残留噪声并拉低部分感知分。
针对文本主导压制音频与视觉的模态竞争问题,PaSE 用模态内原型校准与熵正则最优传输对齐语义,再用双阶段融合与 Shapley 梯度调制平衡优化,在 MOSI、MOSEI 和 IEMOCAP 上报告最优结果,但缺失代码可用性与显著性检验等复现细节。
针对说话人互斥的二语英语母语背景识别,论文提出把冻结编码器帧特征按强制对齐音素区间分组并拼接音素编号嵌入后分类,在 L2-ARCTIC 四折平均上报告 81.41% 准确率与 81.21% 宏 F1,代价是训练与评估都需要文本转录与音素对齐。
针对端到端语音翻译只对齐文字内容而丢失重音与情绪的问题,论文用语音编码器与风格编码器双分支加分层最优传输和注意力检索来分离并再融合两类信息,在 ContraProST 上提升方向性约 5.0 点、全局约 4.5 点,在 CoVoST-2 上 2B 平均提升 0.43 BLEU、8B 提升 0.98 BLEU,代价是两阶段训练与额外风格编码器开销。
论文把印地语后纠错做成高重叠文本编辑,对比微调的 mT5、ByT5 与提示或微调的大模型,发现小模型纠错后词错误率更低,而零样本大模型呈先升后降的 n 形曲线,代价是跨域仍会退化并需要混合多源假设来缓解。
该工作针对校园咨询资源不足与高风险漏检问题,用主动倾听对话流程加提示驱动的四级风险分类与双语语音链路组织系统,并以 400 小时语音与 40 例模拟加 15 人实测日志支撑分析,代价是未报告检测精度、延迟与误报成本。
针对声学与语义分类器后验概率量纲不可比的问题,该工作用训练集留一法分布下的百分位名次代替原始概率做平均,并在高置信度分歧时才允许手工语言特征随机森林覆写,在 ADReSS2020 取得 95.83% 准确率、在 ADReSSo2021 取得 90.14% 准确率,代价是需要保留训练侧分布与多组逻辑回归分支并做前向选择。
S3-Bench 用 1980 条科学语音问答与 213 段多轮对话把一次问答拆为识别感知推理发音四段测量,发现前三段正向耦合而生成与上游负耦合,严格事实性与听众适配仍是主要代价。
针对 1.5 kbps 下多层残差量化误差累积与单码本语义稀疏问题,SACodec 用冻结 mHuBERT 语义锚定加 SimVQ 残差激活的非对称双量化,在 LibriTTS 与 LJSpeech 上取得接近真值的主观重建分并保留语义,代价是仍限于英语朗读语料与两路量化结构。
针对固定帧率对静音与稳态元音浪费而对快速过渡欠分配的问题,VARSTok 用时间感知的密度峰聚类做变长切分并用扩展索引隐式编码时长,在平均 30.95 Hz 下重建 UTMOS 达 3.8949 超过 40 Hz 固定基线,但更低码率与说话人相似度上仍有代价。
针对梅尔声码器黑盒预测丢失频谱细节与相位包裹难监督的问题,SCNet 用低频子带先验耦合到逆变换主干并以幅度加权相位损失训练,在域内与跨说话人测试及 CosyVoice 合成中报告更高质量,但合成速度不及 Vocos 且通用音频能力待验证。
针对 11 种东南亚语言语音理解评测缺失问题,论文构建 97,194 样本与 597 小时音频的 9 任务基准并统一双语提示与归一化,最强证据是时间定位与情感识别全面偏低且缅甸语等低资源提示落后英文可达 41 个百分点,代价是长音频覆盖过度与拒答等边界行为仍需专门处理。
针对语音按时长定速、文本按语义变长造成的分布失配,SEAM 用冻结编码器加可训练交叉注意力解码器做变速率对齐并分三阶段训练加首词引导,在仅用 LibriSpeech960 小时训练时取得 2.6%/5.2% 与跨域 TED-LIUM-v2 上 4.7% 词错率,代价是两段自回归带来的推理延迟。
针对语音分离模型分离网络最重、均匀剪枝易伤轻层的矛盾,SepPrune 用结构分析定位、可微掩码选通道、剪后微调恢复的分布优化,在三数据集多骨干上降低参数与计算量,而一轮微调即可恢复大部分性能,但大幅剪枝时恢复速度因结构而异。
该文把情感计算的主单元从个人状态改为多人声音构成的互动场,用 WavLM 连续表征加零校准的格兰杰方向耦合检验,在 AMI 四人会议上显示微秒级重叠语音有约加 6.6 至加 7.4 个百分点的超额拒绝而独占语音趋近于零,代价是宏观尺度样本不足且只在 AMI 内验证。