Continual Speaker Identity Unlearning with Minimal Interference
📄 Continual Speaker Identity Unlearning with Minimal Interference #语音合成 #自监督学习 #持续学习 🔥 8.3/10 | 前25% | #语音合成 | #自监督学习 | #持续学习 | arxiv 学术质量 6.1/7 | 影响力 1.7/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 Jinju Kim (成均馆大学), Yunsung Kang (成均馆大学), Gyeong-Moon Park (高丽大学), Jong Hwan Ko (成均馆大学)。机构为 Sungkyunkwan University 和 Korea University。 💡 毒舌点评 这篇论文针对“被遗忘权”在零样本语音克隆模型中的实际部署痛点——遗忘请求是顺序到达且数据必须删除——提出了一个精巧的解决方案。优点是问题定义精准且真实,直击先前工作的“一刀切”假设的软肋,并首次定义了“灾难性再学习”这一关键失败模式。方法设计上,CORTIS(对比Fisher信息掩码+累积正交子空间投影)逻辑清晰,两个组件分工明确(定位参数+约束方向),并通过消融实验验证了必要性。实验基线比较合理,展示了方法在3-5次连续请求下的有效性。但必须指出,论文的“新颖性”在一定程度上是“问题新颖性”和“应用新颖性”的结合,而非一个全新的方法论突破。将正则化微调和梯度投影这两个在持续学习中已有的技术进行特定场景的组合应用,工程价值高于理论价值。此外,所有实验都在单一模型(VoiceBox)上进行,声称的“架构无关性”缺乏实证支撑,这在NeurIPS/ICML级别的会议上会被视为一个显著的弱点。 📌 核心摘要 论文正式定义了在现实部署约束(遗忘请求顺序到达且遗忘后数据立即删除)下的零样本文本转语音模型“连续说话人身份遗忘”问题。作者指出,直接顺序应用现有遗忘方法会导致“灾难性再学习”,即新的遗忘操作会使先前已遗忘的说话人身份复活。为解决此问题,提出了CORTIS框架,它包含两个互补组件:1)基于对比Fisher信息的参数掩码,将每个遗忘步骤的更新精确定位到与当前目标说话人最相关的参数子集,同时排除对保留集和先前遗忘说话人重要的参数;2)累积正交子空间投影,将更新梯度投影到先前所有遗忘步骤所用梯度的正交补空间,从方向上阻止参数沿先前遗忘路径漂移。在VoiceBox模型上的实验表明,CORTIS是唯一能在3次(及扩展到5次)连续遗忘请求后,使所有先前遗忘的说话人相似度保持在低位(平均降低75%),同时保持保留集性能具有竞争力的方法。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文中未提及模型权重链接。 数据集:论文中提及使用了LibriHeavy(预训练)、LibriSpeech test-clean(评估)和特定的遗忘说话人子集,但未提供这些数据集的下载链接。 Demo:提供了演示网站 https://cumulativeortis.github.io/。 复现材料:论文在附录中提供了详细的CORTIS实现细节(附录B)、VoiceBox骨干网络实现(附录C)、所有基线的实现细节(附录D)以及评估用的说话人相似度分布(附录E),为复现提供了理论上的细节支持。 论文中引用的关键开源项目:VoiceBox、WavLM-TDCNN、Diffwave vocoder、HuBERT-Large ASR模型,但论文中均未提供这些项目的具体链接。 🏗️ 方法概述和架构 CORTIS框架旨在解决连续遗忘场景下的“灾难性再学习”问题,其核心思想是在参数定位和方向约束两个层面同时施加保护。整体流程如论文图2所示,主要分为两步: ...