论文解读

微调为何先崩溃再恢复 yet 普通话仍变差:语音模型方言适应的全轨迹拆解

论文在方言适应中同步跟踪损失与字错率,把快速崩溃、随后修复与长期普通话漂移拆成三个可分离过程,并用层拼接、梯度谱与更新迁移证明绕开早期崩溃仍会出现源域退化。

 · 约 6 分钟 · 2937 字 阅读 →
论文解读

主流英语一直好用,少数口音为何时好时坏:一次跨四年的语音识别纵向复查

论文用 16 个 2021-2025 年语音识别系统在 8 个多口音数据集上对比主流美国英语与少数英语口音的词错误率,发现差距长期存在且少数口音更容易在换代时大幅退化,而主流口音始终被基准测试稳定保护。

 · 约 17 分钟 · 8331 字 阅读 →
论文解读

单声道如何长出可控的立体声:奖励倾斜流先验的上混解读

该文把单声道转立体声看作已知下混算子的逆问题,用冻结的立体声流模型做先验保证真实感,再用声道间相干与声级差分布奖励在推理时塑造声像,并在 MUSDB18-HQ 上以空间真实感见长但中频波形保真度有所牺牲。

 · 约 19 分钟 · 9219 字 阅读 →
论文解读

跨语言时长不匹配:印度语言无对齐语音合成的评测基准与推理期时长估计

针对参考语音与待合成文本语言不同时无对齐模型按字节估计时长导致失配的问题,论文构建英语与九种印度语言双向评测基准,提出只在推理期引入语言平均每字符时长的修正策略,并在双语与多语 A-DMA 模型上用可懂度、相似度和自然度指标验证改进的范围与局限。

 · 约 20 分钟 · 9739 字 阅读 →
论文解读

把半双工语音大模型改成全双工:D2 的两阶段做法

D2 把已具备理解与生成能力的半双工语音模型按固定短块切分对话,用流式编码器蒸馏加全双工监督微调实现边听边说,在 80 毫秒块下 Qwen3-Omni-D2 仍保持 70.1 的 VoiceBench 总分,但小块会明显削弱停顿容忍并保留合成与数据构造等限制。

 · 约 20 分钟 · 9725 字 阅读 →
论文解读

深层语音表征如何用二维圆周跟踪词内时间

论文用平均词段的二维投影发现圆周式词计时轨迹,再用旋转切分在 HuBERT 第 9 层上以 64.3% 边界 F1 和 39.8% 词 F1 切分出单个词,而未训练模型与对数梅尔特征不能做到同等实例级切分。

 · 约 16 分钟 · 7674 字 阅读 →
论文解读

在语音输入输出内部先想文本再说语音

论文用先预测文本词再生成对应语音段的序列构造解决语音到语音续写的内容建模问题,最强证据是在相同模型和数据下生成困惑度从 151.7 降到 58.9,蒸馏与文本回放进一步保留事实知识,代价是需要词级对齐和双头生成。

 · 约 15 分钟 · 7354 字 阅读 →
论文解读

财报电话语音还需要持续学习正则吗:EWC 与 mini-KFAC 的对照解读

把 Whisper-small 从 TED 演讲语音调到 Earnings22 财报语音时,同域两分区上都出现负遗忘,不加正则的微调取得最低词错误率,而需要正则时 mini-KFAC 比对角 EWC 更低更稳,但差异在 5 个种子下不显著。

 · 约 20 分钟 · 9966 字 阅读 →
论文解读

位置重要吗:黑盒因果审计揭示音频大模型幻觉的模型差异

论文用定位去除与等大随机去除的配对比较检验断言是否依赖特定音频区域,发现空白基线的优势主要来自删除时长,而定位是否有效与解码纠正能否起作用都随模型而变化。

 · 约 15 分钟 · 7354 字 阅读 →
论文解读

双路径如何把声音表情送进视听问答的生成器

论文针对声音表情与画面不一致时生成式回答容易跟随视觉的问题,用共享 WavLM 编码上的视觉查询融合与直接时间积分两路组织输入同一解码器,在 CA-MER 平均指标 67.89 与 EmotionTalk 测试集 62.88% 等条件下验证了直接声学通路的作用,代价是增加 16 个声学 token 与混合任务适配的约束设计。

 · 约 21 分钟 · 10231 字 阅读 →
论文解读

DuplexAct:如何按动作评价全双工语音模型的交互能力

DuplexAct 把边听边说的交互拆成 8 个动作和 24 种条件,用立即执行与后续跟进两段成功率评价 14 个模型,发现能力分布不均且后续跟进普遍偏弱。

 · 约 20 分钟 · 9551 字 阅读 →
论文解读

E3-System:用检索到的风格语音让任意音色说出指定情感

E3-System 针对零样本语音合成中文字意图缺乏声学依据、音色与风格纠缠的问题,用 1012 小时多语种 EmoData 构建风格空间、用 Style-RAG 把文字意图映射为语音风格提示、用 Dual-TTS 实现音色与风格解耦合成,在双提示条件下直接语音提示与检索文字控制分别达到不同的可懂度与相似度平衡。

 · 约 19 分钟 · 9329 字 阅读 →
论文解读

强化学习搜索如何找到轻量音视语音增强网络

论文用带约束的强化学习结构搜索解决 22M 参数音视增强模型难以部署到手机等边缘设备的问题,以 35 次候选评估找到 2.9M 参数、14.5 dB SI-SNR 提升的模型,代价是比基线低 0.7 dB。

 · 约 16 分钟 · 7838 字 阅读 →
论文解读

用双向偏好区分情绪:Emo-BPO 如何改进扩散式情感语音合成

针对扩散式情感合成只强化目标情绪而缺少对竞争情绪建模的问题,Emo-BPO 用同文本倒序情绪对联合学习对齐与对比两个分数分支并在推理时做对比引导,在 ESD 与 EmoVoiceDB 条件下提升了情绪与韵律相似度和主客观情绪准确率,而可懂度保持接近但未超过自回归大模型基线。

 · 约 19 分钟 · 9200 字 阅读 →
论文解读

EmoGavel:让偏好判断说出错误在哪并给出修正

针对开放式情感描述偏好只给二选一标签而缺少错误定位监督的问题,EmoGavel 用受控错误构造的可验证目标先做接地监督微调再做偏好门控的组相对强化学习,在 EmoPrefer-Data 上自然偏好达到 79.75% 加权 F1、四类受控错误平均 88.20% 并保持 77.27% 接地总分,但缺失证据恢复略有下降且结论适用范围限于四种预设错误。

 · 约 19 分钟 · 9227 字 阅读 →
论文解读

合成语音能替代真实录音训练识别吗:TTS 与声音转换增广的土耳其客服实验

论文在土耳其语银行客服录音上比较只用真实数据、只用合成数据和真实加合成三种训练方式,发现只用合成远不如真实,真实加合成在 10 小时和 20 小时时明显降低词错误率而 50 小时收益消失,其中 Seed-VC 和 Vec2Wav2 的增广效果相对更好但多次重复转换会带来退化。

 · 约 18 分钟 · 8614 字 阅读 →
论文解读

只看错误率会漏掉什么:低资源语音识别中数据增强的代价

论文在四个低资源语言和不同数据量的英语上比较改造音频与文本合成两类增强,发现 SpecAugment 总体错误率最稳但增加声调和腭化错误,而随机替换词的文本合成能提高稀有词频率并修复这两类错误,两者联用产生超可加改进但只在低资源区间成立。

 · 约 17 分钟 · 8163 字 阅读 →
论文解读

从语音信号直接估计惊奇值:抽象词与具体发音该用哪一个

论文用语音语言模型直接从声音算惊奇值,提出对多种发音求平均的重要性采样估计,在听句瞳孔数据上发现词级抽象估计比单次具体发音更能预测瞳孔变化,但总体预测力很弱且受刺激与时间基线限制。

 · 约 18 分钟 · 8573 字 阅读 →
论文解读

不看内部参数,只看推理过程:用外部全模态向量估计不确定性

论文针对全模态大模型的答案可信度问题,用外部全模态编码器把输入和思维链映射到同一空间算贴合与连贯,再给多数投票加权,在 UNO-Bench 上随生成器和模态小幅改善且在开放式全模态问答上相对最稳,代价是需要辅助切分和少量标注校准。

 · 约 15 分钟 · 7409 字 阅读 →
论文解读

用证据和冲突做多模态情绪识别:EMT-DS 解读

针对多模态情绪识别中 softmax 被迫自信的问题,论文提出每个模态输出狄利克雷证据并用 Dempster-Shafer 规则融合,在四个数据集上同时提升精度与校准,而代价是需要调冲突权重与 KL 退火且依赖条件独立假设。

 · 约 18 分钟 · 8698 字 阅读 →