Evaluating voice anonymisation using similarity rank disclosure

📄 Evaluating voice anonymisation using similarity rank disclosure #语音匿名化 #模型评估 #说话人识别 #数据隐私 ✅ 7.0/10 | #语音匿名化 #模型评估 | arxiv 👥 作者与机构 第一作者:Shilpa Chandra (EURECOM, France) 通讯作者:未明确说明(但根据作者列表和邮箱,Nicholas Evans可能是主要联系人) 作者列表: Shilpa Chandra (EURECOM, France) Matteo Pettenò (EURECOM, France; Ruhr-Universität Bochum, Germany) Nicholas Evans (EURECOM, France) Michele Panariello (EURECOM, France) Massimiliano Todisco (EURECOM, France) Tom Bäckström (Aalto University, Finland) Dorothea Kolossa (Technische Universität Berlin, Germany) Rainer Martin (Ruhr-Universität Bochum, Germany) Themos Stafylakis (Omilia, Greece) Nicolas Gengembre (Orange, France) 💡 毒舌点评 论文将SRD这一信息论指标引入语音匿名化评估,成功指出了EER指标在评估某些系统(如T10-2)时的盲区,这是一个有价值的实践观察。然而,全文更像是一篇对既有指标(SRD)在特定领域(VPC)的应用验证报告,缺乏对SRD本身性质(如对数据库规模、特征分布的敏感性)的深入剖析,创新天花板有限。 ...

2026-05-11 · 更新于 2026-05-19 · 3 min · 435 words

Private Speech Classification without Collapse: Stabilized DP Training and Offline Distillation

📄 Private Speech Classification without Collapse: Stabilized DP Training and Offline Distillation #音频分类 #知识蒸馏 #差分隐私 #语音匿名化 ✅ 6.5/10 | 前25% | #音频分类 | #知识蒸馏 | #差分隐私 #语音匿名化 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者:Yadi Wen 通讯作者:Rong Du(标记为*) 作者列表:Yadi Wen†1, Tianxin Li†2, Enji Liang1, Rong Du∗1, Yue Fu1(†表示共同贡献,*表示通讯作者。机构编号1和2在正文中未明确说明具体单位名称,仅标注为上标。) 💡 毒舌点评 亮点:论文精准地诊断了“强隐私+类别不平衡”下语音分类模型会“坍缩”成一个只预测多数类的废模型这一实用困境,并为此设计了一套从教师模型稳定性增强到离线蒸馏发布的完整工程化解决方案,问题定位和方案设计都显得扎实而具体。短板:整个研究的验证场景非常局限,仅在一个不平衡的3类性别分类任务上用Common Voice数据集做了演示,离证明该方法在实际复杂语音任务(如说话人识别、情感识别)中的普适有效性还有很远距离,且对辅助数据集的隐私问题避而不谈。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文中未提及模型权重链接。 数据集:论文中使用了Mozilla Common Voice数据集。链接为:http://voice.mozilla.org/。(论文IV-A1节提及)。 Demo:论文中未提及Demo链接。 复现材料:论文提供了详细的训练配置、隐私预算计算参数(见Table I)和消融实验设置(见Table III),这些信息可作为复现的基础,但未提供独立的代码仓库、检查点或附录文件链接。 论文中引用的开源项目: PyTorch:论文中提及使用PyTorch实现,链接为 https://pytorch.org/。 Opacus:论文中提及使用Opacus库进行差分隐私训练,链接为 https://github.com/pytorch/opacus。 RDP accountant:论文中提及使用RDP会计方法计算隐私预算,具体实现可能引用自相关工作[13],但未提供直接链接。 补充信息 [核心摘要] 补充:论文将研究问题明确划分为四个耦合的瓶颈:(1) 语音输入在DP-SGD下的优化不稳定性,(2) 梯度裁剪与噪声下的少数类侵蚀,(3) 教师模型对部署时不可用的特权模态的过度依赖,(4) 训练时可能多模态与部署时纯音频之间的模态不匹配。所提方法的组件(DSAF, AW-DP, 特权模态丢弃器,离线蒸馏)分别对应解决这四个瓶颈。 [核心摘要] 补充:论文明确将Maj-Pred ≥ 0.95且Bal-Acc趋近于退化基线(1/K)定义为坍缩的诊断标准。 [模型架构] 补充:在阶段二的离线蒸馏中,教师模型对固定的辅助数据集Daux仅进行一次性(one-shot) 推理生成软标签,此设计旨在避免对Daux的自适应查询,并确保蒸馏过程的可审计性。 [细节详述] 补充:论文IV-A1节明确说明了音频特征的提取细节:使用n_mels=40个梅尔频带提取对数梅尔频谱图,并通过零填充或截断将所有输入长度标准化为T=100帧,最终输入形状为[B, 1, 40, 100]。 [实验结果] 补充:Table II(强隐私结果)中,除已分析的S-KD(audio)外,还包括了S-KD(priv)变体(即在蒸馏时使用特权信息查询教师模型)。该变体在部分设置(如σ=3)下的Macro-F1和Bal-Acc上表现略优于S-KD(audio),这表明在蒸馏阶段使用特权信息查询教师有时能提供更优的软标签。 [实验结果] 补充:关于辅助数据集大小敏感性(Table IV),论文的结论是:学生模型性能随|Daux|变化,但无严格单调关系,这表明蒸馏数据的质量与分布与数量同等重要。 [评分理由] 补充:论文在威胁模型和隐私范围部分(II-B节)明确界定了隐私边界:隐私保证仅针对私有数据集Dpriv;发布的模型仅对Dpriv具有DP保证。对于辅助数据集Daux,论文不做任何DP声明,并假设其为公开或已获得使用许可的数据。这清晰地划定了方案的适用边界。 [创新点] 补充:论文在引言部分将其发布约束下的设置明确区分为与三种现有工作的不同:(1) 与直接发布DP模型或仅关注DP-SGD稳定化的方法不同,其实用性需通过下游可部署的音频模型来验证;(2) 与标准知识蒸馏或LUPI不同,其教师是DP训练的且从不发布;(3) 与交互式私有预测设置不同,其使用固定的离线一次性标记协议。 📌 核心摘要 要解决什么问题:在差分隐私约束下训练语音分类模型时,尤其在数据不平衡和隐私要求很强(ε≤1)的情况下,DP-SGD训练容易“坍缩”,模型会变成一个只预测多数类的“废模型”,而常规的准确率指标会掩盖这一问题。同时,实际部署常要求模型仅以音频为输入,但训练时可能使用了文本等特权信息。 方法核心是什么:提出一个两阶段的发布协议:(1)使用改进的DP-SGD训练一个“可能多模态”的差分隐私教师模型;(2)在固定的、与私有数据无重叠的辅助数据集上,用教师模型的输出进行离线知识蒸馏,训练并仅发布一个纯音频的学生模型。为稳定第一阶段的训练,集成了DSAF(声学前端稳定化)、AW-DP(不平衡感知加权DP-SGD)和特权模态丢弃器。 与已有方法相比新在哪里:不同于直接发布DP模型或传统知识蒸馏,本文针对“发布约束”场景,将差分隐私训练与离线蒸馏结合,确保发布的音频模型继承私有数据的DP保证。同时,首次系统关注并诊断了语音任务在强DP下的“坍缩”失败模式,并提出了协同的优化稳定化组件(DSAF, AW-DP)来缓解此问题。 主要实验结果如何:在强隐私设置(σ=1, ε≈0.5)下,直接训练的DP教师模型(T-Audio)会出现严重坍缩(Maj-Pred≈0.93, Bal-Acc≈0.40)。通过两阶段蒸馏,发布的音频学生模型(S-KD(audio))在坍缩指标上显著改善(Maj-Pred降至0.88),并提升了Macro-F1(从0.39到0.49)。消融实验表明,DSAF和AW-DP组件对提升学生模型性能有积极作用。 实际意义是什么:该协议为在保护语音数据隐私的前提下,发布可用的、仅音频的轻量级分类模型提供了一个可行的流程框架,特别适用于训练时可获得额外元数据但部署时要求匿名和轻量化的场景。 主要局限性:验证场景单一(仅限于3类性别分类),未验证在更复杂语音任务上的有效性;对辅助数据集Daux本身的隐私属性未做探讨(假设其公开);未与其它先进的DP训练稳定化方法或蒸馏方法进行全面对比。 🏗️ 模型架构 论文的核心是一个两阶段的发布流程,而非单一的端到端模型。整体流程如下: ...

2026-05-05 · 更新于 2026-05-19 · 2 min · 350 words

TVTSyn: Content-Synchronous Time-Varying Timbre for Streaming Voice Conversion and Anonymization

📄 TVTSyn: Content-Synchronous Time-Varying Timbre for Streaming Voice Conversion and Anonymization #语音转换 #语音匿名化 #时变建模 #流式处理 #因子化向量量化 🔥 8.0/10 | 前25% | #语音转换 #语音匿名化 | #时变建模 #流式处理 | #语音转换 #语音匿名化 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Waris Quamer(德克萨斯A&M大学计算机科学与工程系) 通讯作者:未明确说明 作者列表:Waris Quamer(德克萨斯A&M大学计算机科学与工程系)、Mu-Ruei Tseng(德克萨斯A&M大学计算机科学与工程系)、Ghady Nasrallah(德克萨斯A&M大学计算机科学与工程系)、Ricardo Gutierrez-Osuna(德克萨斯A&M大学计算机科学与工程系) 💡 毒舌点评 论文的亮点在于精准捕捉了流式语音转换/匿名化中“静态说话人嵌入 vs 动态内容序列”这一核心矛盾,并设计了结构化的时变音色表示(TVT)和全局音色记忆(GTM)来优雅地解决它,设计思路清晰且有启发性。短板则在于实验部分,虽然全面对比了流式基线,但与VPC’24中表现更好的离线系统(如T8-4在隐私上远超TVTSyn)对比时,论文以“设计目标不同”为由回避了直接比较,这在一定程度上削弱了其声明的“SOTA”说服力;另外,UAR指标显示其情绪抑制很强(37.32%),但这可能是过度匿名化的副作用,论文未深入探讨如何可控地平衡身份与副语言信息。 🔗 开源详情 代码:论文提供了一个代码仓库的链接:https://anonymized0826.github.io/TVTSyn/。这通常意味着代码可能开源或至少包含演示。 模型权重:论文中未提及是否公开预训练模型权重。 数据集:训练使用了公开的LibriTTS语料库。评估数据集(CMU ARCTIC, L2-ARCTIC, VCTK, EMIME, LibriSpeech)也均为公开数据集,获取方式遵循标准学术协议。 Demo:上述链接页面可能包含音频演示样本(论文中提到“Audio samples can be found at”)。 复现材料:论文提供了详尽的架构描述(附录A)、超参数配置表(表5、表6)、训练策略和评估协议,为复现提供了重要指导。但未明确提供训练脚本、环境配置或检查点。 引用的开源项目:论文中提到了SpeechBrain(用于说话人编码器)和Fairseq(用于HuBERT伪标签生成)。 📌 核心摘要 本文提出了TVTSyn,一个用于实时语音转换和说话人匿名化的端到端流式语音合成系统。该研究旨在解决现有流式系统中核心的表征失配问题:内容信息是时变的,而说话人身份通常作为静态全局嵌入注入,导致合成语音音色过于平滑、缺乏表现力。论文提出的核心方法是“内容同步的时变音色”(TVT)表示,它通过全局音色记忆(GTM)将全局说话人嵌入扩展为多个紧凑的“音色侧面”,并允许帧级内容特征通过注意力机制动态检索相关的音色侧面,再通过可学习的门控和球面线性插值(Slerp)进行调节,从而生成与内容同步变化的说话人条件化向量。同时,系统采用因子化向量量化(VQ)瓶颈来正则化内容编码器,减少残留的说话人信息泄漏。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 327 words

TVTSyn: Content-Synchronous Time-Varying Timbre for Streaming Voice Conversion and Anonymization

📄 TVTSyn: Content-Synchronous Time-Varying Timbre for Streaming Voice Conversion and Anonymization #语音转换 #语音匿名化 #自监督学习 #端到端 #流式处理 ✅ 7.5/10 | 前25% | #语音转换 | #端到端 | #语音匿名化 #自监督学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Waris Quamer (德克萨斯A&M大学计算机科学与工程系) 通讯作者:未说明 作者列表:Waris Quamer (德克萨斯A&M大学计算机科学与工程系)、Mu-Ruei Tseng (德克萨斯A&M大学计算机科学与工程系)、Ghady Nasrallah (德克萨斯A&M大学计算机科学与工程系)、Ricardo Gutierrez-Osuna (德克萨斯A&M大学计算机科学与工程系) 💡 毒舌点评 亮点:论文一针见血地指出了流式语音转换/匿名化系统中“静态说话人嵌入 vs 动态内容嵌入”这一核心矛盾,并为此设计了一个逻辑自洽、模块化的优雅解决方案(TVT表示),将说话人条件也“动态化”。 短板:虽然方法新颖,但其“内容同步时变音色”的精细控制(如选择性屏蔽情绪而保留性别特征)尚停留在愿景层面,未在实验中验证;此外,论文的实证主要局限于英文和特定数据集,对于该方法在复杂多语言、多说话人交互场景下的泛化能力缺乏探讨。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开的预训练模型权重。 数据集:使用了公开数据集LibriTTS, LibriSpeech, VoxCeleb等,但论文中未提供其处理脚本或专用数据集。 Demo:提供了音频样例演示页面链接:https://anonymized0826.github.io/TVTSyn/ 复现材料:论文附录提供了非常详细的架构配置(表5)和流式实现细节(表6),包括超参数、模块尺寸、缓存机制等,为复现提供了重要信息。但未提供训练脚本、配置文件或检查点。 引用的开源项目:依赖的开源项目包括SpeechBrain(用于预训练说话人编码器)和fairseq(用于HuBERT模型获取伪标签)。 总体:论文中未提及完整的开源计划,尽管提供了详尽的架构细节和音频样例,但缺乏核心代码和模型,可复现性受限。 📌 核心摘要 解决的问题:当前的实时语音转换(VC)和说话人匿名化(SA)系统存在核心的表征失配问题:语言内容是时变的序列,而说话人身份通常作为静态的全局向量注入。这种动态-静态失配会导致合成语音音色过度平滑、表现力下降,并影响匿名化效果与语音自然度之间的平衡。 方法核心:提出了TVTSyn,一个端到端的流式语音合成器。其核心是引入了内容同步的时变音色(TVT)表示:通过一个全局音色记忆(GTM) 将全局说话人嵌入扩展为多个紧凑的“音色面”;帧级内容特征通过注意力机制检索相关的音色面;一个学习的门控调节音色变化的程度;并通过球面线性插值(Slerp) 在全局和时变路径之间平滑过渡,以保持身份几何结构。此外,采用分解向量量化(VQ)瓶颈来正则化内容网络,减少残余说话人信息泄漏。 与已有方法的创新点: 表示创新:首次在流式VC/SA中提出让说话人条件与内容在时间粒度上对齐,从根本上解决动态-静态失配问题。 架构创新:设计了完全因果、低延迟的流式架构(GPU延迟<80ms),集成了GTM、VQ瓶颈和音高/能量预测器,实现了自然度、说话人保真度和匿名化强度之间的平衡。 全面评估:在VC和SA任务上,针对感知质量、说话人相似度、隐私(EER)、效用(WER)和实时性能进行了全面基准测试和消融研究。 主要实验结果:在VC任务上,TVTSyn在人类听测中获得了最高MOS(3.82)和说话人可验证率(74.33%)。在SA任务上(遵循VPC‘24协议),TVTSyn在保持高可懂度(WER=5.35%,优于所有流式基线)的同时,取得了有竞争力的匿名化效果(EER-lazy: 47.55%)。消融实验显示,移除TVT或VQ会显著降低合成自然度(MOS从3.91降至3.42-3.45)。流式性能方面,TVTSyn在GPU上延迟约79ms,实时因子(RTF)为0.308,满足实时要求。 实际意义:该工作为需要实时、低延迟的语音隐私保护(如安全通信、匿名会议)和高表现力语音转换(如配音、个性化合成)场景提供了一个可扩展的解决方案,展示了在严格延迟预算下实现隐私-效用更好平衡的可能性。 主要局限性:1)论文展望了更精细的、可控的匿名化(如选择性屏蔽情绪但保留性别��,但未进行实验验证。2)主要实验在英文数据集上进行,对多语言和跨语言场景的适用性未被探讨。3)在匿名化任务中使用了固定的28个伪说话人,未来可结合生成模型进行更丰富的伪说话人生成。 🏗️ 模型架构 TVTSyn是一个端到端的流式语音转换/匿名化系统,包含四个核心模块(见图1): ...

2026-05-02 · 更新于 2026-05-19 · 2 min · 396 words

DiffAnon: Diffusion-based Prosody Control for Voice Anonymization

📄 DiffAnon: Diffusion-based Prosody Control for Voice Anonymization #语音匿名化 #扩散模型 #语音转换 #说话人验证 ✅ 7.5/10 | 前25% | #语音匿名化 | #扩散模型 | #语音转换 #说话人验证 | arxiv 学术质量 6.0/7 | 选题价值 2.0/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者:Ismail Rasim Ulgen(约翰斯·霍普金斯大学,语言与语音处理中心) 通讯作者:未说明(论文未明确指定通讯作者,但Berrak Sisman为最后作者) 作者列表:Ismail Rasim Ulgen(约翰斯·霍普金斯大学,语言与语音处理中心;人类语言技术卓越中心),Zexin Cai(约翰斯·霍普金斯大学),Nicholas Andrews(约翰斯·霍普金斯大学,语言与语音处理中心;人类语言技术卓越中心),Philipp Koehn(约翰斯·霍普金斯大学,语言与语音处理中心),Berrak Sisman(约翰斯·霍普金斯大学,语言与语音处理中心;人类语言技术卓越中心) 💡 毒舌点评 亮点在于它巧妙地将分类器无关引导(CFG)这一图像生成领域的控制技术迁移到了语音匿名化任务中,首次实现了在单个模型内对韵律保留程度的连续、推理时控制,为解决隐私-效用权衡这一核心矛盾提供了优雅的工程化方案。短板是实验仅验证了韵律这一个属性对权衡曲线的影响,而论文承认“说话人条件”和“韵律条件”之间可能存在纠缠(说话人编码器本身可能泄露韵律信息),且其在极端匿名化设置下的实用性(如高失真、低可懂度)尚需更全面的评估。 🔗 开源详情 代码:提供代码仓库链接:https://github.com/lightensyrup/diffanon.git 模型权重:论文提到将公开预训练模型(“We publicly release the codes and pretrained models to enable reproducibility.”)。 数据集:使用LibriTTS(训练)和LibriSpeech(评估)数据集,均为公开数据集。IEMOCAP也是公开数据集。 Demo:未提及。 复现材料:提供了关键训练细节(数据集、训练步数、学习率、batch size、硬件、CFG训练策略)和推理设置(采样器、步数)。架构细节(网络层数、维度)也有描述。 论文中引用的开源项目:SpeechTokenizer(语音编解码器)、FreeVC(说话人编码器)、Masked Prosody Model (MPM)(韵律模型)、NaturalSpeech2(扩散模型架构参考)、SpeechBrain(用于WER评估的ASR系统)。 📌 核心摘要 本文旨在解决语音匿名化中一个核心矛盾:韵律(传递情感与意义)的保留对语用性至关重要,但同时也容易泄露说话人身份,导致隐私与效用难以兼顾。现有方法通常静态地处理韵律(丢弃、隐式保留或随机扰动),缺乏灵活的控制机制。为此,作者提出了DiffAnon,一个基于扩散模型的匿名化框架,其核心创新在于利用分类器无关引导(CFG) 在推理时对源语音的韵律保留强度进行显式、连续的控制。该模型在RVQ语音编解码器的语义嵌入(Q1)之上,通过扩散过程细化声学细节(Q2-8),并同时受内容、韵律和说话人条件约束。通过在训练时随机丢弃条件,并在推理时应用CFG公式,实现了对生成语音中韵律成分的“旋钮式”调节。在VoicePrivacy 2024挑战赛评估中,DiffAnon展示了清晰的权衡趋势:随着韵律引导权重降低,隐私性提升(例如libri-test懒惰攻击EER从33.09%增至42.43%),而韵律保真度下降(F0相关性从75.58%降至62.45%,情绪识别UAR从50.80%降至45.23%),同时内容可懂度(WER)保持在相对稳定的低水平(4.62%至5.61%)。这证明了DiffAnon能在单一模型内系统化地导航隐私-效用曲线。主要局限在于其实验集中于英语数据集,且对韵律与说话人信息的解耦程度尚有疑问。 ...

2026-04-30 · 更新于 2026-05-19 · 2 min · 404 words

Conditional Diffusion Models for Mental Health-Preserving Voice Conversion

📄 Conditional Diffusion Models for Mental Health-Preserving Voice Conversion #语音转换 #扩散模型 #语音匿名化 #语音生物标志物 #零样本 🔥 8.0/10 | 前25% | #语音转换 | #扩散模型 | #语音匿名化 #语音生物标志物 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者:Siddharth Kalyanasundaram(科罗拉多大学博尔德分校认知科学与计算机科学研究所) 通讯作者:未说明(从邮箱格式和惯例推断,Theodora Chaspari可能为通讯作者,但论文未明确标注) 作者列表:Siddharth Kalyanasundaram(科罗拉多大学博尔德分校认知科学与计算机科学研究所)、Theodora Chaspari(科罗拉多大学博尔德分校认知科学与计算机科学研究所) 💡 毒舌点评 这篇论文巧妙地将扩散模型用于一个“政治正确”但技术挑战十足的场景——在给抑郁症语音“变声”脱敏的同时,还要保住其病情线索,想法和落点都值得称赞。但遗憾的是,模型的训练“粮草”太少(仅28小时语音),导致其在通用语音质量(自然度、可懂度)上略逊于“吃得多”的基线,显得“巧妇难为无米之炊”。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开权重。 数据集:使用了E-DAIC-WOZ数据集,这是一个公开但需要申请获取的数据集(论文未提供获取方式)。 Demo:提供在线演示链接:https://sidks.github.io/icassp26_vcdemo/。 复现材料:给出了模型规模(23M/67M)、优化器(AdamW)、学习率(5e-5)、训练轮数(446)、批大小(32)、训练硬件(单A100)和时长(72小时)等关键信息。 论文中引用的开源项目/工具:引用了XLS-R (Wav2Vec 2.0)、VQ-VAE、YAAPT、OpenSMILE(eGeMAPS特征)、Whisper、StyleEncoder、Vevo-Voice、QuickVC等相关模型或工具,但未指明本文是否直接依赖这些项目的开源代码。 整体开源情况:论文中未提及完整的开源计划。 📌 核心摘要 解决的问题:语音是心理健康(如抑郁症)的重要生物标志物,但包含说话人身份等敏感信息,阻碍了数据共享与研究复现。需要在匿名化语音的同时,保留对心理健康研究至关重要的副语言信息。 方法核心:提出一种基于条件扩散模型(DM)的语音转换(VC)框架。首先,将语音解耦为内容(w2v)、音高(f0)、说话人身份(s)和抑郁(d)四个嵌入表示。然后,以目标说话人嵌入(s’)和抑郁嵌入(d)作为条件,指导扩散模型的反向去噪过程,生成既改变身份又保留抑郁线索的新语音。 与已有方法的新意:首次将扩散模型应用于明确保留抑郁线索的语音转换任务。现有VC方法(如基于VAE、GAN的模型)在匿名化时会严重退化副语言信息(如情绪、抑郁线索),而本文通过将抑郁嵌入作为扩散过程的显式条件,实现了对关键生物标志物的保护。 主要实验结果:在未见说话人的零样本设置下,所提模型(DM-23M, DM-67M)与SOTA基线(Vevo-Voice, QuickVC)在语音可懂度(WER/CER)和说话人相似度(SECS)上表现相当。核心优势在于抑郁信息保留:所提模型转换后语音的抑郁严重程度(PHQ-8)预测平均绝对误差(MAE)显著低于基线(DM-23M:5.025 vs. Vevo-Voice:5.478, QuickVC:5.804),且预测分数分布与原始语音更接近(KL散度约0.06 vs. 24+)。 模型 WER ↓ CER ↓ SECS ↑ PHQ-8 MAE ↓ nMOS ↑ sMOS ↑ 原始语音 0.046 0.025 0.872 4.522 4.17 3.85 Vevo-Voice 0.078 0.043 0.850 5.478 4.14 3.74 QuickVC 0.059 0.046 0.731 5.804 4.04 3.59 DM-23M (本文) 0.082 0.047 0.804 5.025 3.97 3.71 DM-67M (本文) 0.068 0.041 0.829 5.055 4.03 3.78 实际意义:为心理健康研究提供了一种潜在的隐私保护工具,可以在保护参与者隐私的前提下,促进脱敏语音数据的共享与分析,有助于推动该领域的研究复现和跨机构合作。 主要局限性:训练数据规模较小(仅28小时),限制了模型生成语音的自然度和可懂度;仅针对抑郁症进行评估,未验证对其他副语言信息(如情绪、认知状态)的保留能力;隐私-效用权衡(EER指标)显示匿名化程度还有提升空间。 🏗️ 模型架构 论文提出的模型架构遵循“源-滤波器”分解框架,并采用扩散模型进行条件生成。整体流程如图1所示。 ...

2026-04-29 · 更新于 2026-05-19 · 2 min · 246 words

Content Anonymization for Privacy in Long-Form Audio

📄 Content Anonymization for Privacy in Long-Form Audio #语音匿名化 #大语言模型 #说话人验证 #端到端 ✅ 7.5/10 | 前25% | #语音匿名化 | #大语言模型 | #说话人验证 #端到端 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Cristina Aggazzotti(约翰霍普金斯大学人类语言技术卓越中心) 通讯作者:未说明 作者列表:Cristina Aggazzotti(约翰霍普金斯大学人类语言技术卓越中心,电子邮箱 caggazz1@jhu.edu),Ashi Garg(约翰霍普金斯大学人类语言技术卓越中心,电子邮箱 agarg22@jhu.edu),Zexin Cai(约翰霍普金斯大学计算机系,电子邮箱 zcai21@jhu.edu),Nicholas Andrews(约翰霍普金斯大学人类语言技术卓越中心及计算机系,电子邮箱 noa@jhu.edu) 💡 毒舌点评 本文敏锐地指出了当前语音匿名化研究在长音频场景下的“皇帝新衣”——只藏声音不改说话方式等于白藏,并提出了用LLM改写文本来釜底抽薪的思路,是这个小众但重要的领域一次扎实的“问题-方案”闭环。不过,文中仅拿出了几个现成LLM模型进行“平A”,并未深入探究文本风格改写的具体机制与边界(比如对口语化、情感色彩的保持能力),在实验深度上略显保守。 🔗 开源详情 代码:提供GitHub仓库链接:https://github.com/caggazzotti/long-form-speech-anonymization 模型权重:论文中使用的模型均为开源模型或公开API: ASR:Whisper-medium(开源) TTS:XTTS(开源) LLM:Gemma-3-4B(开源), GPT-4o-mini 和 GPT-5(通过OpenAI API,但论文提及了其系统卡) 说话人验证:WavLM-Base(开源) 作者归属:Sentence LUAR (SLUAR)(开源,论文提供了HuggingFace链接) 检测器:SSL-AASIST 和 Binoculars(均为开源) 数据集:使用了公开语料库 Fisher Speech Corpus 和 VoxCeleb2,未提及如何获取或划分评估集的具体信息。 Demo:未提及。 复现材料:提供了代码仓库,其中应包含使用提示词和模型进行推断的脚本。论文中描述了实验设置(如Fisher语料库的“hard”评估设定),但未提供超参数配置文件或训练日志。 论文中引用的开源项目:Whisper, XTTS, Gemma, WavLM, SLUAR, Binoculars, SSL-AASIST, Sentence-BERT(用于语义相似度计算)。 📌 核心摘要 问题:现有语音匿名化技术(如VoicePrivacy Challenge)主要针对短音频,仅通过声学处理隐藏说话人身份。然而在长音频(如电话、会议)中,同一说话人的多条语音所展现出的词汇、句式等语言风格会成为强大的生物特征旁信道,使攻击者即使在声音被完全转换后仍能重新识别说话人。 方法核心:提出在自动语音识别(ASR)和语音合成(TTS)的级联管道中,引入基于大语言模型(LLM)的上下文文本改写步骤。该方法不是逐句改写,而是采用滑动窗口,结合前文语境对多条转录文本进行联合改写,旨在消除说话人特有的语言风格,同时保留原始语义。 创新性:这是首次系统性地评估LLM文本改写作为防御“基于内容的攻击”的有效性的研究。与现有仅处理声学信号或简单掩盖PII的方法不同,该方案直接从攻击者依赖的语言内容特征入手。 主要结果:实验在Fisher电话对话语料库上进行。结果显示,仅进行语音匿名化时,内容攻击的等错误率(EER)随可用语音数量增加而显著下降(攻击更准),证明语言内容泄露了身份。而采用所提的内容匿名化(特别是上下文联合改写)后,内容攻击的EER能稳定在50%左右(接近随机猜测)。具体而言,使用GPT-5和Gemma-3-4B模型进行段改写,对内容攻击的防御效果优于逐句改写(GPT-4o-mini)。语义相似度测试(如DTW)表明改写后内容得以保留。合成后的语音自然度(UTMOS)甚至高于原始录音。 实际意义:为长音频(如法庭取证、医疗问诊、商业会议)的隐私保护提供了新思路和技术路线,建议在ASR-TTS匿名化流程中集成内容改写步骤。 主要局限性:依赖ASR-TTS级联管道,ASR错误可能传播;文本改写可能丢失细微语义或风格;在半知情攻击者场景下的有效性有待验证。 🏗️ 模型架构 论文提出的方法不是一个单一模型,而是一个处理流程(Pipeline),其核心是在传统的ASR-TTS语音匿名化管道中,插入一个基于LLM的文本匿名化模块。 ...

2026-04-29 · 更新于 2026-05-19 · 2 min · 237 words

Content Leakage in Librispeech and its Impact on the Privacy Evaluation of Speaker Anonymization

📄 Content Leakage in Librispeech and its Impact on the Privacy Evaluation of Speaker Anonymization #语音匿名化 #模型评估 #数据集 #鲁棒性 ✅ 7.5/10 | 前25% | #语音匿名化 | #模型评估 #数据集 | #模型评估 #数据集 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Carlos Franzreb(DFKI, 德国) 通讯作者:未说明 作者列表:Carlos Franzreb(DFKI, 德国)、Arnab Das(DFKI, 德国)、Tim Polzehl(DFKI, 德国)、Sebastian Möller(柏林工业大学, 德国) 💡 毒舌点评 亮点:论文像一名侦探,敏锐地抓住了“说话人匿名化”评估中的一个核心悖论——如果匿名化旨在隐藏身份但保留内容,而内容本身却能暴露身份,那么评估就失去了公平性。研究通过严密的实验设计,将这个潜在的“房间里的大象”清晰地揭示了出来。 短板:文章的核心贡献是提出了问题并推荐了一个更好的“考场”(EdAcc),而非提供解决“考试作弊”(内容泄露攻击)的新“防作弊技术”或新的匿名化算法。对于寻求具体算法改进的读者而言,其直接的技术增量有限。 🔗 开源详情 代码:论文中未提及提供新的代码仓库。评估框架SpAnE [5]是作者此前工作,但论文未给出链接。 模型权重:未提及公开本文使用的模型权重。 数据集:使用了两个公开数据集Librispeech和EdAcc。论文未提供EdAcc的获取链接,但EdAcc [4]是公开发布的。 Demo:未提及。 复现材料:论文详细描述了评估流程、数据划分、特征提取方法(音素识别器、ECAPA-TDNN),足以让同行按照相同设置进行复现分析。 论文中引用的开源项目: SpeechBrain ECAPA-TDNN [7] Whisper ASR [10] NeMo TTS (FastPitch + HiFiGAN) [11, 12] SpAnE评估框架 [5] private kNN-VC中的音素识别器 [15] g2p模型和CMU发音词典(用于音素转换) 📌 核心摘要 问题:当前评估说话人匿名化系统(隐私保护能力)的标准数据集Librispeech存在严重缺陷:由于是有声书录音,不同说话人朗读的书籍内容差异巨大,导致攻击者可以仅通过识别说话的“词汇内容”来识别身份,即使身份信息(音色等)已被完美匿名化。 方法:作者提出并验证了这一假设。他们采用了一个“完美”的匿名化器(STT-TTS流水线),它转换了所有副语言信息,只保留转录文本。通过设计仅利用音素频率、音素时长或纯音素序列的攻击者,证明了即使匿名化后,Librispeech的说话人仍能被较好地识别(EER低至32.3%),其根源就是泄露的内容。 创新:1) 首次系统性地揭示了Librispeech内容泄露对隐私评估的干扰;2) 提出并证明EdAcc(自发对话数据集)的内容泄露显著更少,是更公平的评估数据集;3) 提出利用EdAcc的丰富元数据(如口音)进行“人口统计学分段”的隐私评估(内/组间EER),以检测匿名化对不同人群的公平性。 主要实验结果:关键数据见下表。实验表明,对于STT-TTS匿名化后的Librispeech,使用音素时长特征攻击的EER(34.5%)与使用频谱图特征(34.8%)几乎相同,证实了攻击完全基于内容。而EdAcc在相同条件下的EER显著更高(45.0%),证明其内容泄露更少。 数据集 特征 原始语音EER(%) STT-TTS匿名化EER(%) Librispeech 频谱图 0.4 34.8 音素+时长 23.7 34.5 纯音素 30.4 32.3 EdAcc 频谱图 6.5 45.9 音素+时长 39.0 45.0 纯音素 42.1 48.5 实际意义:该研究对语音隐私评估社区有重要警示作用,建议在评估匿名化系统时,必须考虑或换用像EdAcc这样内容泄露更少的数据集,以获得更准确、更公平的隐私保护性能估计。其提出的分段评估方法有助于发现匿名化对不同人群的不公平性。 局限性:EdAcc数据集规模远小于Librispeech(22小时 vs 数百小时),可能带来训练数据不足的问题。论文主要诊断了问题,但并未提出直接针对“内容泄露攻击”的新防御方法。内容泄露在EdAcc中依然存在(尽管较弱),并非完全解决。 🏗️ 模型架构 本文并非提出一个新的端到端匿名化模型,而是一项针对评估方法论的分析研究。其核心“架构”是评估流程: ...

2026-04-29 · 更新于 2026-05-19 · 1 min · 192 words

ECSA: Dual-Branch Emotion Compensation for Emotion-Consistent Speaker Anonymization

📄 ECSA: Dual-Branch Emotion Compensation for Emotion-Consistent Speaker Anonymization #语音匿名化 #语音情感识别 #自监督学习 #生成模型 #语音合成 🔥 8.5/10 | 前25% | #语音匿名化 | #生成模型 | #语音情感识别 #自监督学习 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Chenghan Lin(天津大学人工智能学院,认知计算与应用天津市重点实验室) 通讯作者:Longbiao Wang(天津大学人工智能学院,认知计算与应用天津市重点实验室;苏州智研信息技术有限公司),Kong Aik Lee(香港理工大学) 作者列表:Chenghan Lin(天津大学)、Junjie Li(香港理工大学)、Tingting Wang(南京邮电大学通信与信息工程学院)、Meng Ge(天津大学)、Longbiao Wang(天津大学,苏州智研信息技术有限公司)、Kong Aik Lee(香港理工大学)、Jianwu Dang(中国科学院深圳先进技术研究院) 💡 毒舌点评 这篇论文的亮点在于其系统性地解构并攻克了“匿名化必然损伤情感”这一核心矛盾,提出的双分支补偿模块设计思路清晰,从数据集先验(静态)和实例残差(动态)两个层面进行修复,实验结果也确实显著优于同类工作。短板则在于其验证范围较为局限,虽然在IEMOCAP上表现优异,但整个系统在非英语环境下的鲁棒性以及面对更复杂情感(如混合情绪)的处理能力,论文未提供任何数据支撑,使得这个“通用解决方案”的宣称打上了折扣。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开权重。 数据集:论文中使用的VoxCeleb-2, MSP-IMPROV, ESD, LibriSpeech, IEMOCAP均为公开数据集。未提及是否公开了处理后的实验数据或中间产物。 Demo:未提及。 复现材料:论文在“实现细节”部分提供了优化器、学习率、损失函数权重等关键超参数,为复现提供了重要信息。未提供训练日志、检查点或附录。 论文中引用的开源项目:emotion2vec+, ECAPA-TDNN, HuBERT, OHNN, HiFi-GAN。 论文中未提及开源计划。 📌 核心摘要 要解决的问题:现有的说话人匿名化技术(如基于OHNN的方案)在有效隐藏说话人身份的同时,会严重破坏语音中的情感信息,限制了其在医疗、人机交互等情感敏感场景中的应用。 方法核心:提出一个名为ECSA的情感保留说话人匿名化框架。其核心是双分支情感补偿(D-PEC)模块:一个静态补偿器利用数据集层面的情感原型和软标签进行全局先验补偿;一个动态补偿器通过非线性网络挖掘并增强匿名化嵌入中的残差情感线索。此外,在HiFi-GAN声码器训练中引入了情感一致性损失,确保合成语音与补偿后的嵌入在情感空间对齐。 与已有方法相比新在哪里:摒弃了先前方法中易泄露说话人信息的外接情感编码器。首次提出并行处理数据集全局先验(静态分支)和单条语音残差信号(动态分支)的补偿机制。创新性地将情感一致性约束直接集成到声码器训练中,引导生成器利用情感信息。 主要实验结果:在VPC 2024基准测试上,ECSA在情感保留(UAR)上取得了最佳性能(测试集64.21%),显著超越了所有基线(如P3的57.93%)和顶级参赛系统(如T10的60.87%),同时保持了具有竞争力的匿名化强度(EER 39.69%)和内容可懂度(WER 2.52%)。消融实验证明,移除动态分支、静态分支或情感一致性损失均会导致UAR显著下降,尤其是对悲伤类情感的识别率。 实际意义:该研究为隐私保护技术在实际情感计算应用中的落地提供了可行的解决方案,有望推动语音匿名化技术从“仅保护隐私”向“隐私与效用兼得”的方向发展。 主要局限性:实验评估集中于英语数据集(VPC 2024, IEMOCAP),其在其他语言或方言上的有效性未经验证。模型训练依赖多个预训练组件(emotion2vec+, ECAPA-TDNN, HuBERT),其复杂性增加了部署难度。 🏗️ 模型架构 ECSA框架由说话人匿名化前端和情感补偿后端组成,其推理流程如下(参照论文图1): ...

2026-04-29 · 更新于 2026-05-19 · 2 min · 404 words

ICASSP 2026 - 语音匿名化 论文列表

ICASSP 2026 - 语音匿名化 共 10 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 ECSA: Dual-Branch Emotion Compensation for Emotion-Consisten 8.5分 前25% 🥈 Target Speaker Anonymization in Multi-Speaker Recordings 7.6分 前50% 🥉 Content Anonymization for Privacy in Long-Form Audio 7.5分 前25% 4. Content Leakage in Librispeech and its Impact on the Privacy 7.5分 前25% 5. Improving the Speaker Anonymization Evaluation’s Robustness 7.5分 前50% 6. ZK-VSA: Zero-Knowledge Verifiable Speaker Anonymization Leve 7.5分 前25% 7. Speaker Anonymisation for Speech-Based Suicide Risk Detectio 7.5分 前25% 8. PRSA: Preventing Malicious Speaker Recognition and Speech Sy 7.0分 前25% 9. Stream-Voice-Anon: Enhancing Utility of Real-Time Speaker An 7.0分 前25% 10. Identity Leakage Through Accent Cues in Voice Anonymisation 7.0分 前50% 📋 论文详情 🥇 ECSA: Dual-Branch Emotion Compensation for Emotion-Consistent Speaker Anonymization 🔥 8.5/10 | 前25% | #语音匿名化 | #生成模型 | #语音情感识别 #自监督学习 ...

2026-04-29 · 更新于 2026-05-19 · 6 min · 1240 words