只用语音转写数据训练语音检索模型
SSEmb 只用标准语音转写对训练轻量适配器,把冻结语音编码器接到冻结文本检索向量空间,实现直接语音查文本,在英文与多语言及口语文档检索上接近级联系统且时延更低。
SSEmb 只用标准语音转写对训练轻量适配器,把冻结语音编码器接到冻结文本检索向量空间,实现直接语音查文本,在英文与多语言及口语文档检索上接近级联系统且时延更低。
论文针对语音识别隐表示残留说话人痕迹的隐私问题,提出在第 6 层辅助嵌入上先聚类找质心再推离的 SAID 方法,在 VCTK 上以遗忘集成员推断 52.6% 接近重训练金模型 52.7% 为最强证据,代价是保留集词错误率高于微调类基线。
该文研究门诊多房间录音中无访客注册时的访客跨房链接,用逐设备中心化加并发与房间类型约束和员工语音校准阈值做聚类,在 VOiCES 仿真日上对 11 种嵌入全面超越无标签基线,但高度依赖跨房重复语音去除且单访患者仍易误合并。
论文针对部署中无标签条件下无法判断检测器是否处于熟悉条件的问题,在固定检测器嵌入上用两个参考的正则马氏距离做可信与告警分流,实验显示未被拦截的伪造误接受率降到 1% 以下,但代价是自动覆盖率明显下降且真语音漂移也会触发大量告警。
论文用语音和背景声各自独立真假的混合数据,比较四种检测器对假语音与假背景声的敏感度和依赖频段,发现假背景声更好检但差距主要来自对未见过假语音的泛化失败,且前端编码器决定了证据集中在哪个频段。
该文研究编解码器词元怎样用于目标说话人提取,提出判别语义分支加生成声学分支的分工结构,在 Libri2Mix 上把可比基线的 dWER 从 0.388 降到 0.118,代价是依赖两阶段结构和冻结的 DualCodec 编解码器。
论文用同一句话配对比较不同位置的单字改动,说明数字与否定等任务角色比功能词更容易让结构化工具调用失败,并用跨源分组预测证明细粒度角色比二元关键性多出可验证的诊断信息。
论文在 LibriVAD-small 的 test-clean 上离线比较 TEN、Silero 与 RMS 能量基线,回答窗长如何改变帧级排序质量,最强证据是 TEN 在 16 ms 取得 AUC 0.917 且 20 到 50 ms 几乎不变,而 Silero 只在 30 ms 附近最好,代价是结论限于离线排序而不含端点延迟。
论文检验词级韵律能否作为抑郁与 PTSD 的行为标记,发现词特异偏差跨语境几乎不重复,而按说话人聚合后高度可重复,但仍与症状严重度无可检测关联。
该研究用口语找物放物游戏比较中性工具型与团队建设型智能体,发现后者在队友感知上显著更高但游戏成绩无差异,且人的信任倾向和神经质影响总体评分,韵律特征还能弱但显著地分辨对话对象。
论文用同一篇 69 词朗读比较两组人的词间声学间隙落在标点处还是非标点处,最强证据是非标点处计数差异大而标点处相近,代价是结论只限这批录音和这篇短文。
论文研究只给语音波形时大音频语言模型难以直接判断构音障碍的问题,提出把用 OpenSMILE 算出的音高、响度、谐噪比和语速等数值连同性别语言信息写进提示词再做监督微调,在 PC-GITA 西班牙语料上以说话人级准确率超过 wav2vec2 与 XLS-R 基线,但增益依赖微调与特定划分且特征顺序是事后按单特征效果排定的。
论文研究在不知道下游任务和预训练数据时如何给语音基础模型植入后门,用固定无关表示拉偏触发样本、用自造聚类维持干净样本表示,在九个任务上保持干净性能并在触发时大幅降级,但彻底清洗需要大量标注和端到端微调。
针对对话语境下如何用自然语言指令控制合成语气的问题,论文提出冻结合成模型、用目标语音似然奖励训练规划器,在英语电影对话子集上提升了与目标语音的声学相似性和语境恰当性,但结论依赖同一合成后端且未做人工听音验证。
论文用只在训练加替换、采样只用掩码的 DeMaR 检验零样本语音合成,发现字错率下降在不再改写已定词元时依然保留,而两种解码运行方式不同且原文未报告延迟对比。
论文把风格是否可从文本推断变成跨模态聚类预测问题,用六个说话人上文本嵌入预测声音聚类的提升只有 0.111 且四分之三来自词本身,句子语义只多加 0.026 且几何上不紧凑。
论文固定结构和评测,只把蒸馏损失从 DistilHuBERT 损失换成相关性损失,比较权重插值和激活排列两种合并,发现后者在语音侧更稳、需要搬动的通道更少,但在标准宽度音乐侧仍是旧损失更好。
针对伪造语音加微小扰动即可骗过检测器的问题,该文用轻净化前后检测分数的变化来判断风险,只对高风险输入做强扩散净化,在三个检测器和三种攻击下取得最优综合误差,而干净输入几乎不受影响,代价是每次都要做轻探针净化且自适应攻击下存在绕门风险。
论文在冻结语音编码器上加 TopK 稀疏自编码器并把稀疏单元路由到语言与副语言两路,用路由监督加交叉对抗实现保留与抑制的分工,独立探针与路由交换实验显示了跨编码器和跨语料的一致分离,但重建误差上升且依赖有标注的任务监督。
论文用 500 人德语 RVG1 语料对比十种语音表示在朗读与自发两种风格下的地区分类与连续地理定位,发现 Whisper 同条件最强但跨风格下降最大,而跨风格说话人可检索性越好则地区信息保持越好。