声音能帮视频修好嘴型吗:TaoMate-FVSR 的做法
TaoMate-FVSR 针对低质量与生成视频中嘴部模糊或错位的问题,用带噪的输入隐变量做重建起点,配合目标语音、外观参考与历史帧做条件,并经两阶段训练学会修复与对口型,在原音频修复上取得最低的成对感知误差与较好的同步分数,但像素保真与无参考美观度需要分开看。
TaoMate-FVSR 针对低质量与生成视频中嘴部模糊或错位的问题,用带噪的输入隐变量做重建起点,配合目标语音、外观参考与历史帧做条件,并经两阶段训练学会修复与对口型,在原音频修复上取得最低的成对感知误差与较好的同步分数,但像素保真与无参考美观度需要分开看。
论文用保留目标音频只改无关历史的对照和分层干预,证明无关历史值会定向拉偏答案,且问谁的信号不能独自关断竞争值的影响,选择题干扰还会留在问题-候选项状态中。
论文针对人工评定治疗师人际能力费时费力的问题,公开了 890 段标准化回应的去标识化多模态数据集 Therapy-FIS 并划分只看治疗师和同时看医患双方两种预测任务,基线 DyadicFIS 在跨被试五折下取得最高的与人工评分一致性但均方误差并非最低且结论只在该标准化角色扮演和派生特征条件下成立。
TTSonic 要解决用同一套语音分词器、语义语言模型和声学流匹配模型组合出零样本合成、克隆、转换和指令控制等任务的问题,关键做法是把语义韵律规划和音色声学渲染分开,实验在多个中英文基准上显示内容准确率和说话人相似度具有竞争力,但英文指令跟随仍弱于最强基线。
本文用约 4977 小时许可清晰的土耳其语音从零训练 31.6M 参数的 FastConformer 加 TDT 模型,在朗读测试上超过 Whisper base 和小模型但仍低于 large-v3,而对话语音错误率高得多且导出部署需要增益和补齐等补偿。
VeriSpoof 把真伪、来源、录音条件、定位都写成句子选项并用似然差打分,用固定字段的可核查依据链把部分伪造找出来,同一套权重在 14 个公开集上达到 2.14% 混合等错率并能在未见过生成器上做同源验证。
论文固定模型与提示只改变视频输入方式,发现没有一种输入在六个模型与三批视频上都最好,分类更准也不保证回归系数与样本占比更接近人工标注。
本文把音乐元宇宙的通信问题定义为在带宽与时延受限下保住协调演奏所依赖的音乐事件与时间关系,提出提取、编排与同步三支柱与语义优先架构,但未做实测验证,只给出待检验的接口与诊断指标。
共分析 28 篇语音/AI 论文
论文要解决 32 位浮点音频无法用 FLAC 无损发行的问题,采用帧内按指数对齐再把相干波形与不相关噪声分开编码的办法,在高分辨率音乐上做到与 24 位整数 FLAC 相当的体积并保留超过 0 dBFS 的峰值,代价是上子帧宽度需要折中选择且极端动态要切换到保底编码。
针对乐器随频率变化的辐射方向图难浏览难比较的问题,论文把每频带能量分布用少量 vMF 分量概括,在 41 件乐器上 70% 相似度时把约 492 kB 压缩到约 100 kB 且距离相关达 0.961,代价是高频细节需要更多分量。
针对盗猎监测中大面积与弱卫星定位条件下的枪声值守问题,论文用多个边缘麦克风阵列单元先触发再分类再估计阵内时延与到达角并融合定位,在约 5000 至 49000 平方米场测中取得 MCC 0.70 与数米级定位误差,但结论依赖扬声器回放与特定布站条件。
论文用加权混合包络加后向解码器在六个脑电数据集上比较只跟随注意语音与加入不同比例竞争语音时的重构相关,发现声学变难通常让最优点向更大竞争权重移动而注意任务改变呈现不同模式但该权重只是模型描述子而非生理比例。
Ananas 针对分布式空间音频需要多节点严格同步的问题,用 Teensy 4.1 节点加 PTP 同步、多播音频与发现协议和 DAW 控制,在 16 通道 WFS 演示中报告约 80 纳秒平均不同步,但每包通道数和长时间稳定性仍受以太网包长与时钟微调条件限制。
这篇研究提案要区分普通多模态情绪不一致与真正的情绪隐藏,计划用面部动作单元、跨模态融合与时间上下文结合多模态大语言模型来建基准并做三级推理,但目前只给出了方案与待建的评测,没有已完成的隐藏情绪识别实验结果。
针对语音大模型音频 KV 缓存过大带来的长上下文推理瓶颈,论文提出按 KV 头共享竞争与层次分裂合并自适应分配检索粒度的 C3 个方法,在四个语音大模型和识别翻译摘要任务上于相同检索预算下取得最强检索精度且在小预算下优势最大,但结论只在所测模型长度预算与贪婪解码条件下成立并伴随短上下文额外开销。
针对离线训练的语音增强模型在新说话人、噪声和声学条件下退化的问题,论文提出冻结主干、只让记忆状态演化的 Continual Residual Memory,通过分时频有界回收被丢掉的残差并用历史原型修正,在三个目标集上一致改进冻结 CMGAN 且额外开销很小。
针对合成平板混响脉冲响应中未知数量的模态频率、衰减和增益三元组估计问题,论文用计数密度网络同时预测总数与频率分布并解码为整数个模态,在 100 条独立合成脉冲响应的对比中总体误差低于所评估的经典基线,但增益误差仍是主要误差来源,且结论只在相同合成器与频段条件下成立。
针对本地音乐应用在导入时需快速、小体积估计调性的问题,论文用确定性色度模板打分做初排,再用 2 万参数的 Transformer 结合帧级色度上下文做残差纠正,在 1000 首密封 FMAKv2 上把 MIREX 从 61.08 提高到 73.55,代价是增加 115 KB 模型和 76.7 MB 含 ONNX Runtime 的安装体积与每首 0.32 …
论文针对现有零样本语音转换在阿拉伯语上发音失真的问题,用阿拉伯语数据适配 EZ-VC 得到 EZ-Ar-VC,在保持说话人不可辨认的同时保留可懂度、自然度和口音,并在方言和语码切换上做了客观与主观验证。