论文解读

比较分最难,口音比说话人难:VoiceMOS 2026 三赛道技术解读

VoiceMOS 2026 把语音评估拆成增强语音的绝对分与比较分、情感合成的自然度与情绪匹配、编解码合成的说话人与口音相似度 3 类任务,用 18 支队伍的提交显示多数队伍超过基线,而比较分与口音相似度仍最难,优胜系统普遍用预训练特征加听众建模加集成换取排序一致性。

 · 更新于 2026-10-16 · 约 18 分钟 · 8939 字 阅读 →
论文解读

记住同一条船:UniqueShip 用船舶身份隔离重测水下舰船分类

针对随机切分让同一艘船同时出现在训练与测试导致虚高的问题,UniqueShip 按 MMSI 隔离船舶、按天隔离背景构建 2460 小时船舶音频与 4218 艘船的基准,最强 Swin 加 Mel 基线在无泄漏下准确率为 0.665,而引入泄漏可抬高 0.08-0.21,且船数翻倍增益 2.4-2.6 点约为时长翻倍 0.8-1.3 点的两到三倍。

 · 更新于 2026-10-16 · 约 19 分钟 · 9357 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-09-15

共分析 19 篇语音/AI 论文

 · 更新于 2026-10-16 · 约 38 分钟 · 18639 字 阅读 →
论文解读

用长语境找韵律:从 YouTube 检索到 wav2vec2 二选一的韵律最小对基准

论文用长字符串检索条件化短串韵律以免除逐条标注,构建四个韵律最小对基准并微调 wav2vec2-base 做二选一分类,在各自验证集上报告均超 90% 但存在音频重复导致偏高估计的代价。

 · 更新于 2026-10-16 · 约 20 分钟 · 9555 字 阅读 →
论文解读

多人对话里该说还是该静:MP-Bench 把轮次感知拆成可核对的行为题

MP-Bench 用合成四人语音与显式、隐式、消极三类轮次条件测语音智能体,12 个系统的最强证据是带完美说话人标签的文本上限接近满分而实时语音系统在游戏轮次上徘徊于随机水平,代价是完全受控合成、无重叠与单决策点评估。

 · 更新于 2026-10-16 · 约 23 分钟 · 11162 字 阅读 →
论文解读

可操控的全双工对话:在会说话的同时听懂指令与保住话轮

SteerDuplex 针对全双工语音模型可操控性不足,用 Moshi 骨干加针对性监督微调建立语气人设语速操控,再用两阶段连续性感知的混合奖励强化学习改善打断响应与暂停等待,代价是仍存在过早让出话轮与奖励钻空子的权衡。

 · 更新于 2026-10-16 · 约 21 分钟 · 10239 字 阅读 →
论文解读

什么算错?把背诵转写差异分成错误、修正与可接受形式

该工作把古兰经背诵 ASR 转写与标准文本的差异标注为带位置的类型化事件,用可执行评分器同时考核标签与跨度,并报告朴素差分、生产组件适配与编码智能体试点的对照与代价。

 · 更新于 2026-10-16 · 约 17 分钟 · 8221 字 阅读 →
论文解读

长叙事音频为何要先分段推理再逐段生成:AudioStory 的分工与衔接

针对长时叙事音频的时间连贯与组合推理难题,AudioStory 用大语言模型做分段规划加扩散模型逐段合成,在自建 AudioStory-10K 上以显式推理和语义加残差双桥接实现更强的指令遵循,但多段拼接与长时一致性仍受训练数据和评估条件的限制。

 · 更新于 2026-10-16 · 约 18 分钟 · 8736 字 阅读 →
论文解读

数得准还要指得出:长视频线索级音视计数的基准与能力迁移训练

论文针对长视频多模态计数难评难训的问题,构建带细粒度线索标注的 CG-AV-Counting 并用课程式 GRPO 训练 AV-Reasoner,最强证据是在 DVD-Counting 上达到 44.00 准确率且多项音视定位任务达到新高,代价是显式输出思维链在域外幻觉子集上反而降低准确率。

 · 更新于 2026-10-16 · 约 20 分钟 · 9734 字 阅读 →
论文解读

从人脸二分类到十一场景四层追问:AVFakeBench 如何考住音视频大模型

该研究针对真实世界音视频伪造超越人脸、混用编辑与合成的问题,构建含 3000 片段与 12000 问答的 AVFakeBench 并评测 11 个音视频大模型与 2 个专用检测器,报告显示大模型在二分类上更稳但在细粒度分类与解释上大幅下滑且存在视觉偏向与编辑盲区。

 · 更新于 2026-10-16 · 约 18 分钟 · 8895 字 阅读 →
论文解读

只听其声不够:用单因素反事实考视频生音频的物理因果

论文提出只变一个物理因素的时间对齐视频对与单视频模式测试来审计视频生音频模型,用方向一致性与敲击对齐度量揭示文本提升语义却损害同步、像素物理推理普遍偏弱的代价。

 · 更新于 2026-10-16 · 约 21 分钟 · 10082 字 阅读 →
论文解读

把叫声、照片和学名对齐到同一空间:BioVITA 的三模态生物表征路线

BioVITA 针对图像与分类文本已对齐但音频缺位的问题,用 130 万音频与 230 万图像的两阶段对比学习把音频接入 BioCLIP 2,并在六方向检索上报告平均 Top-1 为 71.7% 的结果,代价是科层级检索与哺乳类音频仍明显更难且项目页链接当前不可用。

 · 更新于 2026-10-16 · 约 22 分钟 · 10701 字 阅读 →
论文解读

看不见脸时说话人是谁:CineSRD 用视觉锚点加语音语义补齐影视对白

针对影视长视频、多说话人和音画不同步问题,CineSRD 先用视觉锚点聚类注册说话人再用音频语言模型做轮次检测与幕后补充,在 SubtitleSD 上报告更低的 DER 与 JER,代价是多阶段集成而非端到端且依赖人脸与字幕时间轴。

 · 更新于 2026-10-16 · 约 17 分钟 · 8047 字 阅读 →
会议总览

cvpr-2026 论文深度解读

共收录 103 篇 cvpr-2026 会议论文的 Reader 深度解读

 · 更新于 2026-10-16 · 约 212 分钟 · 106059 字 阅读 →
会议总览

dafx-2026 论文深度解读

共收录 91 篇 dafx-2026 会议论文的 Reader 深度解读

 · 更新于 2026-10-16 · 约 181 分钟 · 90282 字 阅读 →
论文解读

从整轨配音到逐事件导演:EchoFoley 用符号事件表约束何时何物如何发声

针对视频文本到音频中视觉压倒文本且缺少事件级可控定义的问题,论文提出事件中心分层控制任务、EchoFoley-6k 基准与免训练智能体 EchoVidia,最强证据是时间 0.72、音色 0.78、音量 0.75 可控性与人评指令遵循 3.80 同时领先基线,代价是依赖外部视频大模型与生成模块且需两速推理。

 · 更新于 2026-10-16 · 约 17 分钟 · 8187 字 阅读 →
论文解读

压缩而不丢失细节:OmniRet 如何同时解决三模态检索的效率与保真矛盾

针对文本、视觉、音频三模态组合查询检索问题,OmniRet 用共享媒体重采样器压缩长媒体 token 序列提高效率、用注意力切片 Wasserstein 池化保留细粒度分布信息,在约 600 万对 30 个数据集训练下组合检索和音视频任务提升明显,而单向量压缩与有限主干仍是主要代价与边界。

 · 更新于 2026-10-16 · 约 22 分钟 · 10596 字 阅读 →
论文解读

先听清再看懂:EgoAVU 用多模态上下文图把第一视角的声音钉回可见来源

针对第一视角视频中模型重视觉轻音频、声源对应差的问题,EgoAVU 用模块化解耦叙述增强与多模态上下文图生成联合叙述,再派生问答,报告显示微调后在 EgoAVU-Bench 上最高相对提升 113.3%,代价是依赖开源单模态模型输出噪声与大规模微调资源。

 · 更新于 2026-10-16 · 约 21 分钟 · 10185 字 阅读 →
论文解读

只会看的第一人称模型:EgoSound 逼模型把声音听进推理里

EgoSound 针对第一人称视频中的声音理解构造 900 视频 7315 对开放问答与七类任务,用九个多模态大模型的评测显示最强模型仅 56.7% 准确率而人类达 83.9%,代价是自动构造依赖大模型与 GPT-5 判分带来的偏差与可复现性负担。

 · 更新于 2026-10-16 · 约 20 分钟 · 9722 字 阅读 →
论文解读

对不齐就推理错:FAVE 用三层时间任务检验音视频大模型的同步短板

论文针对音视频大模型单模态理解强但跨模态细粒度时间推理弱的问题,构建包含对齐、低层关系与区间描述的三层基准 FAVE,用 3557、4546、1781 组问答证明十三款模型在联合时序任务上明显落后于人类,而增加采样帧数不能消除该差距。

 · 更新于 2026-10-16 · 约 18 分钟 · 8667 字 阅读 →