自监督学习

📄 Bridging the Stability-Expressivity Gap: Synthetic Data Scaling and Preference Alignment for Low-Resource Spoken Language Models #语音合成 #后训练 #自监督学习 #低资源 #多语言 8/10 | 创新 1.4/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 1.2/1.5 | 开源 0.5/1.5 | 复现 0.4/0.5 | 工程 1.1/1.5 🔥 8/10 | 前25% | #语音合成 | #后训练 | #自监督学习 #低资源 | arxiv 👥 作者与机构 第一作者：Yizhong Geng（北京邮电大学） 通讯作者：Xiaoyu Shen（Eastern Institute of Technology, Ningbo） 作者列表：Yizhong Geng（北京邮电大学）、Yanliang Li（Beijing Logic Intelligence Technology）、Jinghan Yang（北京邮电大学）、Tianhan Jiang（University of California, USA）、Boxun An（Northwestern University, USA）、Ya Li（北京邮电大学）、Xiaoyu Shen（Eastern Institute of Technology, Ningbo） 💡 毒舌点评 本文敏锐地抓住低资源SLM中合成数据泛滥引发的“越稳定越单调”的分布塌缩现象，并将Flow-Matching架构的内在解耦设计巧妙地转化为无需人工标注的自对齐信号，思路相当漂亮。然而，TDSC对目标语言ASR模块的硬依赖限制了其在最极端的语言上的用武之地，且整个pipeline的计算开销在资源受限场景下的性价比分析仍然缺席。 ...

📄 HyperPotter: Spell the Charm of High-Order Interactions in Audio Deepfake Detection #音频伪造检测 #自监督学习 #图神经网络 7.9/10 | 创新 1.1/2 | 严谨 1/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 1/1.5 | 开源 1.4/1.5 | 复现 0.5/0.5 | 工程 0.7/1.5 ✅ 7.9/10 | 前25% | #音频伪造检测 | #自监督学习 | #图神经网络 | arxiv 👥 作者与机构 第一作者：Qing Wen（浙江大学区块链与数据安全全国重点实验室，浙江大学上海高等研究院） 通讯作者：Zhongjie Ba（浙江大学，杭州高新技术产业开发区（滨江）区块链与数据安全研究院），Peng Cheng（浙江大学，杭州高新技术产业开发区（滨江）区块链与数据安全研究院） 作者列表：Qing Wen（同上），Haohao Li（浙江大学），Zhongjie Ba（浙江大学），Peng Cheng（浙江大学），Miao He（浙江大学），Li Lu（浙江大学），Kui Ren（浙江大学） 💡 毒舌点评 本文利用O-信息理论优雅地诊断了音频深伪检测中的高阶交互缺失问题，并祭出超图与原型学习这对组合拳，立意颇有新意，实验覆盖也堪称广博。然而，方法本质上仍是Wav2Vec2-AASIST的“嫁接增强版”，原型引导与关系放大的协同缺乏深层理论论证，更像依赖工程直觉的拼装。更致命的是，在强压缩场景下性能反而开倒车，作者对何时该用高阶、何时该信冗余仍语焉不详，让整个框架的“协同”假设显得脆弱而不可控。 📌 核心摘要 要解决的问题：现有音频深伪检测方法依赖局部或成对关系，忽视了由多个频谱-时间分量联合涌现的高阶协同交互（HOIs）。论文旨在显式建模HOIs，以捕获更具泛化性的伪造痕迹。 方法核心：提出HyperPotter框架，以超图（hypergraph）代替传统成对图。利用由类感知原型库引导的模糊C均值（FCM）聚类构建软超边捕获高阶关系，并设计了关系伪影放大模块以增强微弱伪造线索。 与已有方法相比的新在哪里：首次引入O-信息量化音频深伪检测中的冗余-协同模式，为高阶关系建模提供理论动机。将对称成对的图学习扩展为非成对的超图学习，并创新性地引入跨批次原型记忆机制，为FCM超边构建注入长期结构先验。 主要实验结果：在仅用ASVspoof2019 LA训练的条件下，HyperPotter在13个测试集上相比Wav2Vec2-AASIST基线，平均相对EER降低12.68%，在性能改善的11个集上，该降幅高达22.15%。具体而言，In‑the‑Wild EER从7.58%降至5.72%，FoR从4.24%降至3.89%，LibriVoc EER从6.96%降至2.55%。但在重度编解码场景ASVspoof2021 LA（2.48%→3.94%）和ASVspoof5（13.38%→16.04%）上性能出现明显退化。 实际意义：证明了高阶关系建模能有效捕获可迁移的伪造痕迹，作为一种“协同专家”，它可在多专家系统中与“冗余专家”互补，提升复杂场景下的整体检测鲁棒性。 主要局限性：强编解码/信道失真会“掩盖”高阶依赖，导致该方法退化成噪声源；模型在参数量近乎不变的情况下，训练和推理开销显著增加，部署友好度差。 🔗 开源详情 代码：https://github.com/HyperPotter/HyperPotter 模型权重：论文及GitHub仓库声明提供了预训练模型，位于上述仓库中。 数据集：论文使用多个公开数据集（ASVspoof 2019 LA, 2021 LA/DF, 2024/5, In-the-Wild, FoR, Codecfake, ADD 2022/2023 系列, LibriVoc, SONAR 等），需遵循各数据集官方协议获取。 复现材料：GitHub仓库提供代码、预训练模型及详细附录（超参、增强策略），复现可行性高。 关键依赖项目： Wav2Vec2-AASIST (基线): https://github.com/TakHemlata/Wav2Vec2-AASIST XLS-R: https://github.com/facebookresearch/fairseq/tree/main/examples/wav2vec RawNet2: https://github.com/asvspoof-challenge/2021/tree/main/LA/Baseline-RawNet2 RawBoost: https://github.com/TakHemlata/RawBoost MUSAN: https://www.openslr.org/17/ 🏗️ 方法概述和架构 HyperPotter将音频深伪检测形式化为图级分类任务。 ...

📄 NeuroCLUS: A Foundation Model with Functional Clustering for Intracranial Neural Decoding #语音识别 #自监督学习 #预训练 #图神经网络 #医疗音频 6/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 0.5/1.5 | 开源 0.5/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 ✅ 6/10 | 前50% | #语音识别 | #自监督学习 | #预训练 #图神经网络 | arxiv 👥 作者与机构 第一作者：Hui Zheng（Independent Researcher） 通讯作者：Hui Zheng（icml2026.neuroclus@gmail.com） 作者列表：Hui Zheng（Independent Researcher）、Hai-Teng Wang（Independent Researcher） 💡 毒舌点评 这项工作敏锐地捕捉到了现有iEEG基础模型在tokenization粒度上的核心矛盾——要么太细（单通道）要么太粗（全脑聚合），提出的两阶段功能聚类策略直击要害，在Du-IN语音生成任务上甚至大幅超越了专门的SOTA模型（65.92% vs 62.70%），这点值得称赞。然而，完全忽略解码任务中至关重要的时序动态聚类（即功能模块可能随时间漂移这一基本神经科学事实），仅用静态的功能依赖图指导token聚合，导致模型对复杂认知过程的适应性存疑；同时“独立研究者”的身份与高达10k小时的预训练数据和8张A100的算力需求存在一定张力，缺少代码和模型权重也使得“SOTA”声称暂时难以验证。 ...

📄 OmniVideo-R1: Reinforcing Audio-visual Reasoning with Query Intention and Modality Attention #音视频问答 #强化学习 #后训练 #对比学习 #自监督学习 7.5/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.3/1.5 | 清晰 0.8/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.4/0.5 | 工程 1.2/1.5 ✅ 7.5/10 | 前25% | #音视频问答 | #强化学习 | #后训练 #对比学习 | arxiv 👥 作者与机构 第一作者：Zhangquan Chen（清华大学，THU；实习于腾讯HY） 通讯作者：Ruqi Huang（清华大学深圳国际研究生院，sz.tsinghua.edu.cn）、Jiale Tao（腾讯HY，jialetao.std@gmail.com） 作者列表：Zhangquan Chen（清华大学）、Jiale Tao（腾讯HY）、Ruihuang Li（腾讯HY）、Yihao Hu（湖南大学，HNU）、Ruitao Chen（腾讯HY）、Zhantao Yang（腾讯HY）、Xinlei Yu（新加坡国立大学，NUS）、Haodong Jing（西安交通大学，XJTU）、Manyuan Zhang（香港中文大学，CUHK）、Shuai Shao（腾讯HY）、Biao Wang（腾讯HY）、Qinglin Lu（腾讯HY）、Ruqi Huang（清华大学深圳国际研究生院） 💡 毒舌点评 这篇论文精准地抓住了“多模态模型一加音频就变傻”的痛点，提出的两阶段RL框架，特别是用自监督时间-字幕对齐来驱动查询密集型局部定位，设计思路相当巧妙，拿掉了过程级标注这个昂贵的门槛。然而，死穴和亮点一样突出：整个奖励函数几乎把身家性命都押在了外部judge模型的质量上，论文对judge偏差传播和reward hacking的风险几乎没有展开讨论，这让人对训练信号的可靠性打上一个大大的问号；更致命的是，所有代码、模型权重和训练数据均未开源，号称“第一个RL框架”却把复现门槛拉满，使得那些漂亮的SOTA数字目前只能被视为“纸上SOTA”，在第三方验证之前说服力大打折扣。 ...

📄 Pianist Transformer: Towards Expressive Piano Performance Rendering via Scalable Self-Supervised Pre-Training #音乐生成 #预训练 #自监督学习 #Transformer #SFT 8.1/10 | 创新 1.1/2 | 严谨 1.1/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.1/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 0.8/1.5 🔥 8.1/10 | 前25% | #音乐生成 | #预训练 | #自监督学习 #Transformer | arxiv 👥 作者与机构 第一作者：Hong-Jie You（南京大学 计算机软件新技术国家重点实验室、人工智能学院） 通讯作者：Yu-Feng Li（南京大学 计算机软件新技术国家重点实验室、人工智能学院） 作者列表：Hong-Jie You（南京大学）、Jie-Jing Shao（南京大学 人工智能学院）、Xiao-Wen Yang（南京大学 人工智能学院）、Lin-Han Jia（南京大学 人工智能学院）、Lan-Zhe Guo（南京大学 智能科学与技术学院）、Yu-Feng Li（南京大学 人工智能学院） 💡 毒舌点评 本文将一个在NLP/CV中已被验证的预训练范式成功迁移到钢琴演奏渲染这一小众领域，并用漂亮的客观/主观双料SOTA数据说明了其有效性，故事逻辑完整。但“范式转变”的帽子扣得略大，本质上仍是“Masked Token Prediction + SFT”的标准配方，且10B-token预训练带来的性能增益在消融中仅依赖“有/无预训练”的二值比较，缺乏更细致的scaling law分析，使得“10B”这个数字更像一个资源配置的结果而非深刻的科学洞察。局限性讨论过于温和，对为何在踏板维度上未能全面领先SOTA避而不谈。 ...

📄 Self-Supervised Flow Matching for Scalable Multi-Modal Synthesis #音视频生成 #流匹配 #自监督学习 #多模态模型 #扩散模型 7.2/10 | 创新 1.5/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 0.4/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 1/1.5 ✅ 7.2/10 | 前50% | #音视频生成 | #流匹配 | #自监督学习 #多模态模型 | arxiv 👥 作者与机构 第一作者：Hila Chefer (Black Forest Labs) 与 Patrick Esser (Black Forest Labs)（并列第一作者） 通讯作者：Hila Chefer hila@blackforestlabs.ai, Patrick Esser patrick@blackforestlabs.ai 作者列表：Hila Chefer（Black Forest Labs），Patrick Esser（Black Forest Labs），Dominik Lorenz（Black Forest Labs），Dustin Podell（Black Forest Labs），Vikash Raja（Black Forest Labs），Vinh Tong（Black Forest Labs），Antonio Torralba（MIT, Black Forest Labs），Robin Rombach（Black Forest Labs） 💡 毒舌点评 这篇工作用一个巧妙的双时间步噪声调度在流匹配中灌入了自监督表征学习，彻底摆脱了对冻住外部编码器的依赖，多模态齐头并进的效果让人眼前一亮。然而，音频实验更像顺带的点缀，真正的音频领域读者难以从中获得实质推动力，且没有任何开源承诺，工业界光鲜的“self-flow”目前还止于纸上。 ...

📄 SURF: Separation via Unsupervised Remixing Flow #语音分离 #生成模型 #自监督学习 #无监督学习 6.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1/1.5 | 清晰 0.7/1 | 影响 0.9/1.5 | 开源 0.2/1.5 | 复现 0.3/0.5 | 工程 0.9/1.5 ✅ 6.2/10 | 前50% | #语音分离 | #流匹配 | #生成模型 #自监督学习 | arxiv 👥 作者与机构 第一作者：Henry Li (Google), 共同一作：Robin Scheibler (Google DeepMind) 通讯作者：Henry Li (lihenry@google.com) 作者列表：Henry Li (Google)、Robin Scheibler (Google DeepMind)、Efthymios Tzinis (Google)、Matt Shannon (Google DeepMind)、Arnaud Doucet (Google DeepMind)、John R. Hershey (Google DeepMind) 备注：Arnaud Doucet 与 John R. Hershey 为共同高级作者 (equal senior contribution) 💡 毒舌点评 这篇论文用Wake-Sleep给“借鸡生蛋”的Remixing套上了一层概率外衣，又将Flow Matching的生成能力引入无监督分离，想法很漂亮，画面很美好。但现实很骨感：AudioSet上三四个源的场景直接“掉链子”，理论分析的强假设（人口极限B→∞）在实际中脆弱得像纸糊，加上代码闭源、关键超参数缺失，让人严重怀疑这套花哨的pipeline复现起来是不是一场工程噩梦。 ...

📄 VocSim A Training-free Benchmark for Zero-shot Content Identity in Single-source Audio #音频检索 #基准测试 #零样本 #多语言 #低资源 #自监督学习 8.2/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 0.8/1 | 影响 0.8/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 8.2/10 | 前25% | #音频检索 | #自监督学习 | #基准测试 #零样本 | arxiv 👥 作者与机构 第一作者：Maris Basha（苏黎世大学神经信息学研究所与 ETH Zurich） 通讯作者：Richard Hahnloser（苏黎世大学神经信息学研究所与 ETH Zurich） 作者列表：Maris Basha（苏黎世大学神经信息学研究所与 ETH Zurich）、Anja Zai（苏黎世大学神经信息学研究所与 ETH Zurich）、Sabine Stoll（苏黎世大学语言进化跨学科研究所）、Richard Hahnloser（苏黎世大学神经信息学研究所与 ETH Zurich） 💡 毒舌点评 这篇工作用一套训练无关的几何视角给冻结音频嵌入做了一次透彻的“体检”，GSR 的边界惩罚设计和跨语料聚合的工程勇气值得肯定，暴露出的低资源语言局部检索崩塌为社区敲响了警钟。但盲测仅限于语音域，让“OOD 泛化”的标题显得过于宏大；公共子集普遍存在的预训练重叠也使得零样本的纯净度打了折扣，而 GSR 与 Silhouette 高达 0.82 的相关性让人不禁要问：新指标的边际贡献究竟在哪里？ ...

📄 LMPAN: A Lightweight Multi-Path Alignment Network for Joint Full-Duplex Acoustic Echo Cancellation and Noise Suppression #回声消除 #语音增强 #自监督学习 6.2/10 | 创新 1.2/2 | 严谨 1/1.5 | 实验 1.1/1.5 | 清晰 0.6/1 | 影响 0.9/1.5 | 开源 0/1.5 | 复现 0.2/0.5 | 工程 1.2/1.5 ✅ 6.2/10 | 前50% | #语音增强 | #自监督学习 | #回声消除 | arxiv 👥 作者与机构 第一作者：Chengwei Liu（Qwen Business Unit of Alibaba, China） 通讯作者：未明确说明，但根据惯例及作者署名，或为共同通讯作者。Shaofei Xue（Qwen Business Unit of Alibaba / TongYi AI Lab）与 Haoyin Yan（TongYi AI Lab of Alibaba Group）均有可能。 作者列表：Chengwei Liu（Qwen Business Unit of Alibaba）、Shaofei Xue（Qwen Business Unit of Alibaba / TongYi AI Lab）、Haoyin Yan（TongYi AI Lab of Alibaba Group）、Xiaotao Liang（Qwen Business Unit of Alibaba）、Zheng Xue（Qwen Business Unit of Alibaba） 💡 毒舌点评 本文的轻量级多路径对齐和两阶段SSL训练是在极低资源预算下的务实组合，将AEC+NS做到了可与更大参数模型竞争的水平，对下游ASR/VAD的提升也颇具说服力。然而，工作更多是已知组件（GTCRN、WavLM、软对齐）的系统化集成，缺乏原理性洞察。全篇未提供任何代码或模型，连batch size、GPU型号等基础训练配置都隐去，复现几乎不可能。动态目标适应带来的收益不如两阶段训练本身，且反而拉低了AECMOS，论文对此闪烁其词。此外，SERt的消融在模拟数据上进行，结论能否迁移到真实环境存疑。整体像一份精心包装的内部技术报告而非完整学术贡献。 ...

📄 Pmeta-TLA: Backdoor Attacks for Speech Classification Models via Meta-Learning with Timbre Leakage Attack #语音唤醒 #元学习 #自监督学习 #多任务学习 6/10 | 创新 1.2/2 | 严谨 0.9/1.5 | 实验 1.2/1.5 | 清晰 0.5/1 | 影响 1/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.9/1.5 ✅ 6/10 | 前50% | #语音唤醒 | #元学习 | #自监督学习 #多任务学习 | arxiv 👥 作者与机构 第一作者：Yueming Huang（湘潭大学） 通讯作者：未说明 作者列表：Yueming Huang（湘潭大学）、Wenhan Yao（未说明）、Fen Xiao（未说明）、Xiarun Chen（未说明）、Weiping Wen（北京大学） 💡 毒舌点评 论文提出了一种结合帧级音色泄露触发器和元学习的语音后门攻击方法，在关键词检测任务上展示了高攻击成功率和低投毒成本的实验效果，并通过多种防御测试验证了鲁棒性。然而，写作质量令人担忧，存在两个完全重复的消融实验章节，且关键方法细节缺失，代码和模型权重完全闭源，这使得其学术价值严重依赖作者的后续维护和社区的信任。 📌 核心摘要 要解决什么问题：现有语音后门攻击的触发器不够隐蔽，容易被自动质量评估模型或声纹验证模型检测；且多目标攻击成本高，难以一次性高效植入多个后门。 方法核心：提出Pmeta-TLA，其包含两部分：(1) 一种新的触发函数 Timbre Leakage Attack (TLA)，通过自监督模型提取语义向量，利用聚类与最近邻向量替换仅在帧级别上泄露目标音色，生成极难被人类和机器察觉的投毒样本；(2) 一种基于元学习（MAML）和投影冲突梯度（PCGrad）的训练框架，将后门攻击建模为清洁任务与多个后门任务的多任务学习问题，训练模型获得“学会如何植入后门”的元能力，从而能一次性植入多个后门，并可在新触发器上快速微调适应。 新在哪里：(1) TLA首次在帧级别上实现音色泄露，相较于VSVC等整句音色转换的方法更隐蔽；(2) 首次将元学习框架与PCGrad算法结合应用于语音后门攻击，显著降低了多后门攻击所需的投毒样本数量并提升了攻击成功率。 主要实验结果如何：在Google Speech Commands v2的10分类关键词检测任务上，使用四种SOTA模型（ERes2Net, KWS-ViT, EAT-S, CAM++）进行验证： 方法 ERes2Net (ASR/PN) KWS-ViT (ASR/PN) EAT-S (ASR/PN) CAM++ (ASR/PN) PIBA 95.33 / 550 96.46 / 500 95.93 / 550 94.80 / 600 DABA 94.26 / 450 93.33 / 450 92.13 / 500 92.53 / 500 Ultrasonic 95.40 / 400 94.93 / 450 93.87 / 450 93.53 / 500 PBSM 97.13 / 350 98.87 / 400 98.93 / 450 98.20 / 450 VSVC 99.13 / 300 99.27 / 350 98.53 / 350 97.27 / 400 TLA-S (t=1) 98.93 / 350 99.13 / 400 98.60 / 400 97.47 / 450 TLA-M (t=3) 98.80 / (400×3) 98.47 / (450×3) 98.20 / (450×3) 97.13 / (450×3) PMeta-TLA (t=3) 99.67 / (300×3) 99.40 / (320×3) 99.13 / (350×3) 98.20 / (450×3) PMeta-S (t=3+1) 98.53 / 250 98.337 / 260 97.60 / 260 97.07 / 280 PMeta-M (t=3+3) 97.20 / (250×3) 97.60 / (260×3) 96.40 / (260×3) 95.93 / (250×3) PMeta-TLA (t=3) 相比同量级多触发器方法TLA-M，不仅降低了每类所需的投毒样本数，更达到了最高的攻击成功率。在防御测试中，对模型微调、剪枝、STRIP、谱签名和触发器过滤等方法均展示了强鲁棒性。 实际意义是什么：暴露了当前主流的关键词检测模型在面对帧级精细音色触发器时的严重脆弱性，为未来设计更鲁棒、更安全的语音分类系统提供了重要的攻击范式参考。 主要局限性：写作存在严重格式问题；未提供代码与模型权重，几乎不可复现；仅在关键词检测单一任务上验证，说服力有限；元学习和PCGrad结合部分的训练细节缺失，无法判断调参难度。 🔗 开源详情 代码：未提供任何代码仓库链接。 模型权重：未提供任何后门模型或触发函数模型的权重文件。 数据集：使用的Google Speech Commands v2是公开数据集，但用于提取OOD音色的“辅助语音语料库”的详细信息未提供。 Demo：未提供演示链接或页面。 复现材料：无。 论文中引用的开源项目： NISQA [38]、MosNet [37]、RMVPE [48] 等项目在论文中被提及，但未提供具体的开源代码链接。 使用的下游模型如ERes2Net、KWS-ViT、EAT-S、CAM++等均为公开论文的模型架构，但论文未给出其代码实现的具体地址。 🏗️ 方法概述和架构 PMeta-TLA是一种数据投毒后门攻击方法，其创新点主要体现在触发函数设计和训练框架两个层面。 ...