论文解读

双路径如何把声音表情送进视听问答的生成器

论文针对声音表情与画面不一致时生成式回答容易跟随视觉的问题,用共享 WavLM 编码上的视觉查询融合与直接时间积分两路组织输入同一解码器,在 CA-MER 平均指标 67.89 与 EmotionTalk 测试集 62.88% 等条件下验证了直接声学通路的作用,代价是增加 16 个声学 token 与混合任务适配的约束设计。

 · 约 21 分钟 · 10231 字 阅读 →
论文解读

不用强制对齐怎么做单词和语句两级发音评分

OpenPA 针对闭合跟读与开放自由作答两种条件,用 Whisper 编码器-解码器加``标记同时做单词级和语句级评分,只在 speechocean762 上训练,在域内和 MultiPA 零样本上报告了单词级 PCC 提升,代价是韵律相关语句指标未全面领先且病理语音迁移仍是探索性结论。

 · 约 18 分钟 · 8897 字 阅读 →
论文解读

SpectralBridge:给冻结的音频语言模型补上 8–16 kHz 听觉

针对 16 kHz 音频语言模型看不见 8 kHz 以上信号的问题,论文用搬移频带加同时刻双视图融合复用冻结编码器,在高频决定答案的对照测试上取得明显提升,但结论依赖特定的构造评测与微调预算。

 · 约 17 分钟 · 8429 字 阅读 →
论文解读

Whisper 个性化增益从何而来:困难组、混合适配与分组适配的对照

论文用组内划分在三个英语数据集上对照零样本、混合 LoRA 与分组 LoRA,发现增益集中在基线错误大且集中的地方,而混合适配常能持平或超过分组适配,因此超过零样本不能直接当作个性化的证据。

 · 约 17 分钟 · 8086 字 阅读 →
论文解读

混叠录音里检测器到底在听谁:语音还是背景声

论文用语音和背景声各自独立真假的混合数据,比较四种检测器对假语音与假背景声的敏感度和依赖频段,发现假背景声更好检但差距主要来自对未见过假语音的泛化失败,且前端编码器决定了证据集中在哪个频段。

 · 约 16 分钟 · 7521 字 阅读 →
论文解读

词从哪里开始到哪里结束:电话语音上的强制对齐

论文先量出已有对齐器在人工词边界上的误差和电话信道下的退化,再只用人标边界训练 Whisper 直接预测词起止时间戳,在英语、韩语、荷兰语和多语测试上超过蒙特利尔强制对齐器,而电话增强、槽位后置和带噪文本训练是关键代价与收益所在。

 · 约 16 分钟 · 7883 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-10-15

共分析 146 篇语音/AI 论文

 · 约 294 分钟 · 147144 字 阅读 →
论文解读

把预训练潜在扩散模型适配到古琴历史录音

论文用 42.5 小时历史古琴独奏适配 Stable Audio 3 Medium 的 DoRA 小参数,以一位专家的七轮盲听驱动决策,最终续弹和场景生成得分最高,但样本小且随机性大,只能作探索性记录。

 · 更新于 2026-10-15 · 约 17 分钟 · 8239 字 阅读 →
论文解读

把等待和选词分开:流式语音识别的因子化延迟流建模

论文解决用解码器大语言模型做流式语音识别时等待与出词耦合的问题,用等待概率加原词表分布的因子化结构,在日语和英语上取得更低错误率,并用等待步跳过大词表计算降低训练显存和推理开销,但纯文本困惑度仍高于原始模型。

 · 更新于 2026-10-15 · 约 16 分钟 · 7555 字 阅读 →
论文解读

一个低成本配方应对三种阿拉伯语识别难关:混合方言与语码切换的 Whisper 适配

论文用冻结 Whisper 加 LoRA 适配器这一套做法处理 NADI 2026 三个阿拉伯语识别子任务,证明国家级任务靠方言专家、混合方言任务靠换大底座、突尼斯语码切换任务靠免训练的权重平均与投票组合最有效,并给出全部统计检验与八个失败方向。

 · 更新于 2026-10-15 · 约 16 分钟 · 7721 字 阅读 →
论文解读

跨模型任务向量:把微调改变量搬到另一个模型上

该文研究不同结构的图文模型之间如何搬运任务能力,用与结构无关的亲和力改变量记录任务,再以最小二乘算子或低秩适配器写入目标,在加法上保留目标自身增益的七到八成,代价是控制集精度下降和在部分任务上几乎无效。

 · 更新于 2026-10-15 · 约 16 分钟 · 7713 字 阅读 →
论文解读

一次采样同时给出视频、混合声与每条分轨的音频视频模型

SepGen 要解决的是联合音频视频生成只有一条混合声、无法逐声源定位与重渲染的问题,它用受保护的混合声通道加两条分轨通道实现生成与分离两种模式,最强证据是真实录音与跨生成器场景上的分离与听感对比,代价是固定两条分轨与额外的去噪与引导计算。

 · 更新于 2026-10-15 · 约 18 分钟 · 8699 字 阅读 →
论文解读

按问题选参数:SkillFormer 用技能分组适配器缓解音频多任务干扰

针对同时训练多种音频理解技能时互相干扰的问题,SkillFormer 在音频编码器与语言模型之间插入 6 个低秩适配器并用问题控制的路由器加权组合,在三个模型上把三基准平均准确率提高 2.4 到 4.1 个百分点,代价是增加不到 4% 的参数和两阶段训练。

 · 更新于 2026-10-15 · 约 16 分钟 · 7593 字 阅读 →
论文解读

Syn-Omni:共享与专家分工加渐进协作的全模态检索向量

针对图文音视频混合检索中通用语义与模态特性难分离的问题,Syn-Omni 用共享 LoRA 加模态专家 LoRA 与渐进路由在 81 个任务上整体更均衡,3B 整体 Hit@1 达 49.4%,代价是专家路径推理时不能合并带来延迟增加。

 · 更新于 2026-10-15 · 约 19 分钟 · 9363 字 阅读 →
论文解读

让音频大语言模型留住说话人信息:两阶段说话人保持

针对音频大语言模型能听懂内容却难分辨说话人的问题,论文提出先在音频编码器做说话人监督、再冻结编码器训练语言模型做成对判断的两阶段低秩适配方法,在 VoxCeleb 同域上把等错率从 7.01% 降到 4.37%,但跨域到 CN-Celeb 时未带来额外增益。

 · 更新于 2026-10-15 · 约 17 分钟 · 8258 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-10-11

共分析 245 篇语音/AI 论文

 · 更新于 2026-10-15 · 约 494 分钟 · 247442 字 阅读 →
论文解读

182 条合成监督能让小模型学会日语交接转结构化病历吗

用 182 段带溯源的合成日语护理交接音频适配 1.47B 音频模型,全量微调与 rank-16 LoRA 在 39 段种子隔离合成测试上取得 0.8664 与 0.8461 的事实性-召回调和分,LoRA 以约 0.85% 可训练参数保留 97.7% 的聚合分,但未测量设备延迟功耗且未验证真实语音迁移。

 · 更新于 2026-10-15 · 约 17 分钟 · 8155 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-10-03

共分析 16 篇语音/AI 论文

 · 更新于 2026-10-15 · 约 29 分钟 · 14202 字 阅读 →
论文解读

长录像问答的上下文两难:分块定位证据再有界重读

针对小时级音视频问答无法把整段录像放入上下文的问题,LEAP 用 600 秒分块定位加至多 9 窗有界回答,在四个主基准上高于同栈整体读取基线,代价是每题需要多遍定位且文本通道只在语音证据充分时可替代媒体扫描。

 · 更新于 2026-10-15 · 约 18 分钟 · 8868 字 阅读 →
论文解读

冻住文本塔:用同一主干的密集标题蒸馏绑定六模态

问题是扩展新模态时文本检索遗忘与模型膨胀,方法选择是冻结文本主干并以其自身对密集级联标题的嵌入为教师目标,只训练投影器与编码器 LoRA,最强证据是 0.9B 保持 49.57 文本分并覆盖五新增模态、2.3B 以 51.39 总体均值超过闭源对照 49.51,主要代价是 0.9B 在语音音频图像视频上落后于更大开放多模态基线。

 · 更新于 2026-10-15 · 约 23 分钟 · 11489 字 阅读 →