自监督学习

📄 Pianist Transformer: Towards Expressive Piano Performance Rendering via Scalable Self-Supervised Pre-Training #音乐生成 #预训练 #自监督学习 #Transformer #SFT 8.1/10 | 创新 1.1/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.1/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 🔥 8.1/10 | 前25% | #音乐生成 | #预训练 | #自监督学习 #Transformer | arxiv 👥 作者与机构 第一作者：Hong-Jie You（南京大学 计算机软件新技术国家重点实验室、人工智能学院） 通讯作者：Yu-Feng Li（南京大学 计算机软件新技术国家重点实验室、人工智能学院） 作者列表：Hong-Jie You（南京大学）、Jie-Jing Shao（南京大学 人工智能学院）、Xiao-Wen Yang（南京大学 人工智能学院）、Lin-Han Jia（南京大学 人工智能学院）、Lan-Zhe Guo（南京大学 智能科学与技术学院）、Yu-Feng Li（南京大学 人工智能学院） 💡 毒舌点评 本文将一个在NLP/CV中已被验证的预训练范式成功迁移到钢琴演奏渲染这一小众领域，并用漂亮的客观/主观双料SOTA数据说明了其有效性，故事逻辑完整。但“范式转变”的帽子扣得略大，本质上仍是“Masked Token Prediction + SFT”的标准配方，且10B-token预训练带来的性能增益在消融中仅依赖“有/无预训练”的二值比较，缺乏更细致的scaling law分析，使得“10B”这个数字更像一个资源配置的结果而非深刻的科学洞察。局限性讨论过于温和，对为何在踏板维度上未能全面领先SOTA避而不谈。 ...

📄 Self-Supervised Flow Matching for Scalable Multi-Modal Synthesis #音视频生成 #流匹配 #自监督学习 #多模态模型 #扩散模型 7.2/10 | 创新 1.5/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.2/10 | 前50% | #音视频生成 | #流匹配 | #自监督学习 #多模态模型 | arxiv 👥 作者与机构 第一作者：Hila Chefer (Black Forest Labs) 与 Patrick Esser (Black Forest Labs)（并列第一作者） 通讯作者：Hila Chefer hila@blackforestlabs.ai, Patrick Esser patrick@blackforestlabs.ai 作者列表：Hila Chefer（Black Forest Labs），Patrick Esser（Black Forest Labs），Dominik Lorenz（Black Forest Labs），Dustin Podell（Black Forest Labs），Vikash Raja（Black Forest Labs），Vinh Tong（Black Forest Labs），Antonio Torralba（MIT, Black Forest Labs），Robin Rombach（Black Forest Labs） 💡 毒舌点评 这篇工作用一个巧妙的双时间步噪声调度在流匹配中灌入了自监督表征学习，彻底摆脱了对冻住外部编码器的依赖，多模态齐头并进的效果让人眼前一亮。然而，音频实验更像顺带的点缀，真正的音频领域读者难以从中获得实质推动力，且没有任何开源承诺，工业界光鲜的“self-flow”目前还止于纸上。 ...

📄 SURF: Separation via Unsupervised Remixing Flow #语音分离 #生成模型 #自监督学习 #无监督学习 6.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 0.9/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 0.9/1.5 ✅ 6.2/10 | 前50% | #语音分离 | #流匹配 | #生成模型 #自监督学习 | arxiv 👥 作者与机构 第一作者：Henry Li (Google), 共同一作：Robin Scheibler (Google DeepMind) 通讯作者：Henry Li (lihenry@google.com) 作者列表：Henry Li (Google)、Robin Scheibler (Google DeepMind)、Efthymios Tzinis (Google)、Matt Shannon (Google DeepMind)、Arnaud Doucet (Google DeepMind)、John R. Hershey (Google DeepMind) 备注：Arnaud Doucet 与 John R. Hershey 为共同高级作者 (equal senior contribution) 💡 毒舌点评 这篇论文用Wake-Sleep给“借鸡生蛋”的Remixing套上了一层概率外衣，又将Flow Matching的生成能力引入无监督分离，想法很漂亮，画面很美好。但现实很骨感：AudioSet上三四个源的场景直接“掉链子”，理论分析的强假设（人口极限B→∞）在实际中脆弱得像纸糊，加上代码闭源、关键超参数缺失，让人严重怀疑这套花哨的pipeline复现起来是不是一场工程噩梦。 ...

📄 VocSim A Training-free Benchmark for Zero-shot Content Identity in Single-source Audio #音频检索 #基准测试 #零样本 #多语言 #低资源 #自监督学习 8.2/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.2/10 | 前25% | #音频检索 | #自监督学习 | #基准测试 #零样本 | arxiv 👥 作者与机构 第一作者：Maris Basha（苏黎世大学神经信息学研究所与 ETH Zurich） 通讯作者：Richard Hahnloser（苏黎世大学神经信息学研究所与 ETH Zurich） 作者列表：Maris Basha（苏黎世大学神经信息学研究所与 ETH Zurich）、Anja Zai（苏黎世大学神经信息学研究所与 ETH Zurich）、Sabine Stoll（苏黎世大学语言进化跨学科研究所）、Richard Hahnloser（苏黎世大学神经信息学研究所与 ETH Zurich） 💡 毒舌点评 这篇工作用一套训练无关的几何视角给冻结音频嵌入做了一次透彻的“体检”，GSR 的边界惩罚设计和跨语料聚合的工程勇气值得肯定，暴露出的低资源语言局部检索崩塌为社区敲响了警钟。但盲测仅限于语音域，让“OOD 泛化”的标题显得过于宏大；公共子集普遍存在的预训练重叠也使得零样本的纯净度打了折扣，而 GSR 与 Silhouette 高达 0.82 的相关性让人不禁要问：新指标的边际贡献究竟在哪里？ ...

📄 LMPAN: A Lightweight Multi-Path Alignment Network for Joint Full-Duplex Acoustic Echo Cancellation and Noise Suppression #回声消除 #语音增强 #自监督学习 6.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.6/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.2/0.5 | 工程 1.2/1.5 ✅ 6.2/10 | 前50% | #语音增强 | #自监督学习 | #回声消除 | arxiv 👥 作者与机构 第一作者：Chengwei Liu（Qwen Business Unit of Alibaba, China） 通讯作者：未明确说明，但根据惯例及作者署名，或为共同通讯作者。Shaofei Xue（Qwen Business Unit of Alibaba / TongYi AI Lab）与 Haoyin Yan（TongYi AI Lab of Alibaba Group）均有可能。 作者列表：Chengwei Liu（Qwen Business Unit of Alibaba）、Shaofei Xue（Qwen Business Unit of Alibaba / TongYi AI Lab）、Haoyin Yan（TongYi AI Lab of Alibaba Group）、Xiaotao Liang（Qwen Business Unit of Alibaba）、Zheng Xue（Qwen Business Unit of Alibaba） 💡 毒舌点评 本文的轻量级多路径对齐和两阶段SSL训练是在极低资源预算下的务实组合，将AEC+NS做到了可与更大参数模型竞争的水平，对下游ASR/VAD的提升也颇具说服力。然而，工作更多是已知组件（GTCRN、WavLM、软对齐）的系统化集成，缺乏原理性洞察。全篇未提供任何代码或模型，连batch size、GPU型号等基础训练配置都隐去，复现几乎不可能。动态目标适应带来的收益不如两阶段训练本身，且反而拉低了AECMOS，论文对此闪烁其词。此外，SERt的消融在模拟数据上进行，结论能否迁移到真实环境存疑。整体像一份精心包装的内部技术报告而非完整学术贡献。 ...

📄 Pmeta-TLA: Backdoor Attacks for Speech Classification Models via Meta-Learning with Timbre Leakage Attack #语音唤醒 #元学习 #自监督学习 #多任务学习 6/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 1.2/1.5 | 清晰 0.5/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.9/1.5 ✅ 6/10 | 前50% | #语音唤醒 | #元学习 | #自监督学习 #多任务学习 | arxiv 👥 作者与机构 第一作者：Yueming Huang（湘潭大学） 通讯作者：未说明 作者列表：Yueming Huang（湘潭大学）、Wenhan Yao（未说明）、Fen Xiao（未说明）、Xiarun Chen（未说明）、Weiping Wen（北京大学） 💡 毒舌点评 论文提出了一种结合帧级音色泄露触发器和元学习的语音后门攻击方法，在关键词检测任务上展示了高攻击成功率和低投毒成本的实验效果，并通过多种防御测试验证了鲁棒性。然而，写作质量令人担忧，存在两个完全重复的消融实验章节，且关键方法细节缺失，代码和模型权重完全闭源，这使得其学术价值严重依赖作者的后续维护和社区的信任。 📌 核心摘要 要解决什么问题：现有语音后门攻击的触发器不够隐蔽，容易被自动质量评估模型或声纹验证模型检测；且多目标攻击成本高，难以一次性高效植入多个后门。 方法核心：提出Pmeta-TLA，其包含两部分：(1) 一种新的触发函数 Timbre Leakage Attack (TLA)，通过自监督模型提取语义向量，利用聚类与最近邻向量替换仅在帧级别上泄露目标音色，生成极难被人类和机器察觉的投毒样本；(2) 一种基于元学习（MAML）和投影冲突梯度（PCGrad）的训练框架，将后门攻击建模为清洁任务与多个后门任务的多任务学习问题，训练模型获得“学会如何植入后门”的元能力，从而能一次性植入多个后门，并可在新触发器上快速微调适应。 新在哪里：(1) TLA首次在帧级别上实现音色泄露，相较于VSVC等整句音色转换的方法更隐蔽；(2) 首次将元学习框架与PCGrad算法结合应用于语音后门攻击，显著降低了多后门攻击所需的投毒样本数量并提升了攻击成功率。 主要实验结果如何：在Google Speech Commands v2的10分类关键词检测任务上，使用四种SOTA模型（ERes2Net, KWS-ViT, EAT-S, CAM++）进行验证： 方法 ERes2Net (ASR/PN) KWS-ViT (ASR/PN) EAT-S (ASR/PN) CAM++ (ASR/PN) PIBA 95.33 / 550 96.46 / 500 95.93 / 550 94.80 / 600 DABA 94.26 / 450 93.33 / 450 92.13 / 500 92.53 / 500 Ultrasonic 95.40 / 400 94.93 / 450 93.87 / 450 93.53 / 500 PBSM 97.13 / 350 98.87 / 400 98.93 / 450 98.20 / 450 VSVC 99.13 / 300 99.27 / 350 98.53 / 350 97.27 / 400 TLA-S (t=1) 98.93 / 350 99.13 / 400 98.60 / 400 97.47 / 450 TLA-M (t=3) 98.80 / (400×3) 98.47 / (450×3) 98.20 / (450×3) 97.13 / (450×3) PMeta-TLA (t=3) 99.67 / (300×3) 99.40 / (320×3) 99.13 / (350×3) 98.20 / (450×3) PMeta-S (t=3+1) 98.53 / 250 98.337 / 260 97.60 / 260 97.07 / 280 PMeta-M (t=3+3) 97.20 / (250×3) 97.60 / (260×3) 96.40 / (260×3) 95.93 / (250×3) PMeta-TLA (t=3) 相比同量级多触发器方法TLA-M，不仅降低了每类所需的投毒样本数，更达到了最高的攻击成功率。在防御测试中，对模型微调、剪枝、STRIP、谱签名和触发器过滤等方法均展示了强鲁棒性。 实际意义是什么：暴露了当前主流的关键词检测模型在面对帧级精细音色触发器时的严重脆弱性，为未来设计更鲁棒、更安全的语音分类系统提供了重要的攻击范式参考。 主要局限性：写作存在严重格式问题；未提供代码与模型权重，几乎不可复现；仅在关键词检测单一任务上验证，说服力有限；元学习和PCGrad结合部分的训练细节缺失，无法判断调参难度。 🔗 开源详情 代码：未提供任何代码仓库链接。 模型权重：未提供任何后门模型或触发函数模型的权重文件。 数据集：使用的Google Speech Commands v2是公开数据集，但用于提取OOD音色的“辅助语音语料库”的详细信息未提供。 Demo：未提供演示链接或页面。 复现材料：无。 论文中引用的开源项目： NISQA [38]、MosNet [37]、RMVPE [48] 等项目在论文中被提及，但未提供具体的开源代码链接。 使用的下游模型如ERes2Net、KWS-ViT、EAT-S、CAM++等均为公开论文的模型架构，但论文未给出其代码实现的具体地址。 🏗️ 方法概述和架构 PMeta-TLA是一种数据投毒后门攻击方法，其创新点主要体现在触发函数设计和训练框架两个层面。 ...

📄 SPARCLE: SPeaker-aware Aligned Representations via Contrastive Language Embeddings #语音合成 #对比学习 #自监督学习 #低资源 #参数高效微调 5.8/10 | 创新 1/2 | 严谨 0.8/1.5 | 实验 0.8/1.5 | 清晰 0.7/1 | 影响 0.8/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1.4/1.5 📝 5.8/10 | 前50% | #语音合成 | #对比学习 | #自监督学习 #低资源 | arxiv 👥 作者与机构 第一作者：Priyam Mazumdar（University of Illinois Urbana-Champaign） 通讯作者：未说明 作者列表：Priyam Mazumdar（University of Illinois Urbana-Champaign）、Yurii Halychanskyi（University of Illinois Urbana-Champaign）、Steven Guo（University of Illinois Urbana-Champaign）、Mark Hasegawa-Johnson（University of Illinois Urbana-Champaign）、Volodymyr Kindratenko（University of Illinois Urbana-Champaign, National Center for Supercomputing Applications） 💡 毒舌点评 本文利用对比学习将Wav2Vec2声学信息注入字符嵌入以替换G2P模块，在极低资源英语TTS上取得了显著的WER下降（如1小时数据从24.7%降至7.5%）。思路直接，工程落地价值清晰。但是，实验对比严重不足，未能与任何基于SSL离散单元或其连续表征直接建模的TTS强基线进行对比，导致无法判断“声学注入”方案相较于完全端到端声学模型的独特价值。音素基线仅使用与下游语音域不匹配的g2pE，这一对比漏洞使得SPARCLE的巨大优势说服力存疑。此外，模型和代码的零开源承诺让社区无法验证其有效性，削弱了研究贡献。 ...

📄 TurnNat: Automatic Evaluation of Turn-Taking Naturalness in Dyadic Spoken Dialogue #语音交互 #自监督学习 #基准测试 #模型评估 7/10 | 创新 0.8/2 | 严谨 1/1.5 | 实验 0.9/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1.2/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 ✅ 7/10 | 前50% | #语音交互 | #Transformer | #自监督学习 #基准测试 | arxiv 👥 作者与机构 第一作者：Hao Zhang（未说明） 通讯作者：Hao Zhang（未说明）、Laureano Moro-Velázquez（未说明） 作者列表：Hao Zhang（未说明）、Thomas Thebaud（未说明）、Georgi Tinchev（未说明）、Venkatesh Ravichandran（未说明）、Laureano Moro-Velázquez（未说明） 💡 毒舌点评 将轮次预测模型重用作自然度评估器是个巧妙的思路，用似然度统一多种时序故障避免了为每种行为单独设计指标。但这种方法论上的重组创新性有限，且实验完全局限于人工构造的局部扰动，从未在真实全双工对话系统的输出上验证。在缺乏与Full-Duplex-Bench等现有行为特定基准直接对比的情况下，宣称的“统一评分”优势仍停留在纸面上，令人怀疑其在实际嘈杂、混合故障场景中的鲁棒性。 📌 核心摘要 论文提出TurnNat，一种基于似然度的自动评估框架，旨在统一量化双人对话中的轮次自然度。其核心是一个仅由自然对话训练得到的因果轮次预测模型，该模型逐帧估计未来2秒内双说话人语音活动的状态分布。通过计算观测到的真实未来活动状态的负对数似然（NLL）来度量时序的非典型性。为避免全局平均稀释局部异常，TurnNat设计了“轮次边界单元”（TBU），在发言起始和结束前的2秒窗口内集中评分，并通过合并NLL均值和尾部高分NLL的均值（TailNLL）聚合为对话级自然度分数。作者构建了一个经人工验证的轮次扰动基准，包含五种局部时序扰动（延迟响应、过早插话等）。实验显示，最佳配置（基于DualTurn的D4变体）在自然-扰动配对判别准确率达到88.0%，相较VAP基线提升7-8个百分点。主要局限性在于：评测对象仅为人工构造的单点扰动，未在真实系统输出上验证，且未与任何现有的行为特定基准进行对比。 ...

📄 AV-SyncBench: Decoupled Benchmarking of Temporal and Semantic Audio-Visual Synchronization #音视频理解 #自监督学习 #对比学习 #音频事件检测 8.5/10 | 创新 1.5/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.2/1.5 | 开源 1.2/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 🔥 8.5/10 | 前25% | #音视频理解 | #自监督学习 | #对比学习 #音频事件检测 | arxiv 👥 作者与机构 第一作者：Tianhong Zhou（阿里巴巴集团；清华大学） 通讯作者：Jun Song（阿里巴巴集团） 作者列表：Tianhong Zhou（阿里巴巴集团；清华大学）、Mingyang Han（未说明）、Boyu Li（未说明）、Yuxuan Jiang（未说明）、Jiaxin Ye（未说明）、Dongxiao Wang（未说明）、Haoxiang Shi（未说明）、Kunpeng Wang（未说明）、Jun Song（阿里巴巴集团）、Cheng Yu（未说明）、Bo Zheng（未说明） 💡 毒舌点评 亮点是将音视频评估中被长期混淆的时序对齐与语义一致性进行系统性解耦，并基于野生视频构建了五类变量隔离的挑战任务，直击当前多模态模型训练中的维度偏置。短板是语义编辑完全依赖外部生成模型（DDSP、OpenVoice），但未对编辑产物的“声学纯度”进行定量控制或消融，使“纯语义”假设在物理声学层面站得不够稳；同时，数据集仅3,269个视频，基准规模偏小，且0.64秒切片的选择缺乏理论或实验依据，长期使用的鲁棒性存疑。 ...

📄 Disentangling Speaker and Language Effects in Cross-Lingual Speaker Verification for Iberian Languages #说话人验证 #迁移学习 #自监督学习 #多语言 #数据集 5.6/10 | 创新 1.1/2 | 严谨 0.9/1.5 | 实验 0.7/1.5 | 清晰 0.6/1 | 影响 0.7/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 0.3/1.5 📝 5.6/10 | 前50% | #说话人验证 | #迁移学习 | #自监督学习 #多语言 | arxiv 👥 作者与机构 第一作者：Pol Buitrago（Barcelona Supercomputing Center, Universitat Politècnica de Catalunya） 通讯作者：Pol Buitrago（Barcelona Supercomputing Center, Universitat Politècnica de Catalunya） 作者列表：Pol Buitrago（Barcelona Supercomputing Center, Universitat Politècnica de Catalunya）、Javier Hernando（Universitat Politècnica de Catalunya） 💡 毒舌点评 本文尝试用一套漂亮的同说话人双语评测集来解耦跨语言 SV 中的语言与说话人混淆效应，研究动机清晰且评测设计确有巧思。然而全文仅围着 mHuBERT-147 一个模型打转，连 ECAPA-TDNN 或 WavLM 的影子都没见着，结论的普适性几乎无从谈起；西班牙语-加利西亚语同说话人评测集仅 21 人，却据此得出"语言效应仍占主导"这样的大结论，说服力堪忧。更让人捏把汗的是，CLTM 定义中训练/测试说话人身份的具体关系始终含混不清，而这么关键的变量一旦控制不好，因果推断怕是站不住脚。 ...