不配对帧也能做音色转换:用共享状态做局部平移的 StateVC
针对一次参考且内容不一致时无法可靠配对帧的问题,StateVC 用源与参考混合拟合的共享高斯状态估计每个状态内的均值平移并以后验加权更新源帧,在 LibriSpeech 一次转换协议上以 8.01% 词错误率和 3.22% 字错误率为内容保持最优,代价是说话人相似度并非全部最高且评估限于英语朗读语料。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
针对一次参考且内容不一致时无法可靠配对帧的问题,StateVC 用源与参考混合拟合的共享高斯状态估计每个状态内的均值平移并以后验加权更新源帧,在 LibriSpeech 一次转换协议上以 8.01% 词错误率和 3.22% 字错误率为内容保持最优,代价是说话人相似度并非全部最高且评估限于英语朗读语料。
共分析 16 篇语音/AI 论文
针对运动神经元病患者构音与认知混杂的问题,该研究只用一分钟字母流畅生成阶段音频,以 WhisperX 转写加 Silero 语音活动检测校准词与停顿边界再提取临床可解释特征回归估计言语流畅指数,最强证据是 P 词全自动 LASSO 达到 R² 0.856、NRMSE 0.053,代价是 S 词在构音障碍语音上误差明显增大且样本仅 42 人。
针对开放式耳机的空间选择性有源噪声控制问题,论文把期望语音保持误差改成频率加权二次惩罚并保持时域低延迟控制,在实测脉冲响应多说话人场景下报告 LTASS 与 oracle 加权在更高 SI-SDR 处取得最大可懂度提升和相当音质提升,而 SII 与 MIRS 的最大音质提升出现在更低失真容忍度之外。
该工作把逆向合成拆成调制去向分类、去向条件 LFO 回归与振荡器波形恢复三步,用可微合成器连接音频损失,在合成与 Serum 2 数据上验证了去向正确性的关键作用,代价是滤波器与振荡器类型仍受限且感知损失需与直接参数监督配合使用。
MAV-C 针对本地渲染等无编码失真场景的视听复杂度估计问题,用熵类音频特征与梯度色彩运动类视觉特征经对数压缩与加权融合得到连续分数,在合成语料上显示单调性与模态隔离,在游戏语料上显示视听分量不相关且仅视觉分量随内容类别变化,代价是尚无主观评分校准且空间模式依赖轨迹元数据。
针对逐帧基频估计后时序平滑易在连续坏帧锁定八度错误的问题,论文用可变 Q 变换互相关估计多跳相对音程并与绝对估计做 L1 联合优化,等价转为最小费用循环流用线性规划求解,在语音歌唱器乐上干净时接近维特比、白噪声低信噪比下提升更明显,但巴布尔噪声与强前端上收益有限且偏移集合依赖估计器。
针对联合音视频模型只输出单条混音而难以分源控制的问题,Soundwich 在冻结流匹配模型上并行生成多条音频干声并共享一条视频轨,主基准上窗口成功率达 93.1% 且窗外活动降至 1.7%,代价是多干声带来显存与耗时增长且复杂重叠场景仍易受干扰。
针对野外录音中噪声与信噪比多变导致逐频谱门控易漏信号的问题,论文提出先对语谱图做二维高斯局部平均再门控的 2D-SG,并在 70 段椴鸟合成噪声与抹香鲸、斑姬鹟实录上验证去噪与信号保留的改进,代价是多出一个高斯窗超参数且低信噪比与下游任务增益待验证。
输入文本提示与听者轨迹,方法先建全景三维代理并发现声源再用几何声传播渲染双耳音频,在 80 个场景上以隔离源 6.91°方向误差和人类首选 79.5% 支持空间一致性,代价是离线多阶段流水线与静态几何假设。
共分析 55 篇语音/AI 论文
该文把离线音乐分离模型不改权重地按单跳滑窗流式运行,用读出位置控制算法延迟,证明窗口长度处存在质量拐点,并在 23 与 93 毫秒下用 HT-Demucs 与 SCNet 达到专用实时模型相当的分离质量,代价是除 HT-Demucs 外仍高于实时计算量。
OmniDream 把静音单目视频先扩成全景视频与三维几何,再为每个发声对象生成干声并用光线追踪仿真脉冲响应来渲染一阶 Ambisonics,在自建集与 YT360 上报告了空间对齐提升,但全景扩展耗时约 1680 秒是主要代价。
针对麦克风布局与数量变化时的三维波达方向估计,GAMF 用候选方向阵列传输函数做声学描述,分别构建可学习的麦克风对齐匹配与解析的归一化匹配,并以门控融合,在仿真噪声混响下学习分支更稳健,而八麦克风 LOCATA 上混合达到球面平均误差 3.76 度、方位角 2.87 度,但干净低混响下解析方法仍有优势。
在机载旋翼自噪声下识别十个飞行指令词时,跟踪窗前两秒每频带噪声地板并做条件化输入,能在保持对数梅尔基线误报率的同时把低信噪比检出率转成实际增益,而直接相减的归一化虽能提逐段准确率却会放大连续噪声上的误报。
论文把声道建成可微声学管道,用频域传输线求解与可微湍流门控合成元音辅音,再用神经场参数化做梯度反演,并在自监督声码与无配对语音到 MRI 视频上验证,但逆解不唯一且鼻腔未建模。
针对七类浴室助老声事件识别,论文用可学习 sinc 带通前端加深度可分离卷积的 SincDPNet,在环境不相交评估下以 2848 参数达到 75.7% 准确率与 0.661 宏 F1,以 14040 参数达到 80.2% 准确率与 0.760 宏 F1,代价是水声重叠类与门和助行器瞬态仍集中混淆。
针对语音语言模型生成后须经编码器重读记号并发生替换的问题,Redwing 用替换图谱基与分离求解的嵌入检测函数实现可复现的鲁棒水印,在 Moshi 经 8 次 Mimi 重合成后保持 80.7% 检出率,代价是与 KGW 相当的语音质量变化。
针对声码器到神经编解码器合成范式迁移导致的泛化下降,论文先用共享线性分类器比较 12 种声学表示,再提出双视角 MN-P 融合 token 级分层 XLS-R 与话语级 pooled 无人声残差,在合并测试集上把最强重训基线的等错误率从 5.986% 降到 2.744%,未见编解码器子集从 15.692% 降到 6.136%,代价是依赖离线人声分离与冻结大模 …
共分析 93 篇语音/AI 论文