参数高效微调

📄 WAXAL-NET: Finetuned Edge ASR Across 19 African Languages #语音识别 #低资源 #参数高效微调 8/10 | 创新 2/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.5/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 0/1.5 🔥 8/10 | 前25% | #语音识别 | #参数高效微调 | #低资源 | arxiv 👥 作者与机构 Victor Tolulope Olufemi1,2, Oreoluwa Babatunde2, Ramsey Njema1, Bolarinwa Gbotemi2, Wanchi Lucia Yen1, John Uzodinma1, Sunday Ajayi1, Oluwademilade Williams2, Kausar Moshood2, Innocent Elendu Anyaele1, Akebert Arefaine1, Candace Hunzwi1, Wongel Dawit Daniel1, Emmilly Namuganga1, Cleophas Kadima1, Athanase Bahizire1, Onitsiky Ranaivoson1, Emmanuel Aaron1, Nicholaus Ladislaus1, Idris Muhammed1, Jonathan Enoch Simenya1, Martin Koome1, Matewos Tegete Endaylalu1, Peter Ifeoluwa Adeyemo1, Hondi Prisca Birindwa1, Ukachi Agnes Eze-Mbey1, Yacoba Oduro-Yeboah1, Pericles Adjovi1, Mikel K. Ngueajio1, Toluwani Aremu3, Prasenjit Mitra1。 1CMU Africa, 2LyngualLabs, 3MBZUAI。 ...

语音/音乐/音频论文速递 2026-06-02 共分析 35 篇论文 ⚡ 今日概览 📥 抓取 35 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 9篇 █████████ #语音合成 5篇 █████ #自监督学习 2篇 ██ #多模态模型 2篇 ██ #音频分类 2篇 ██ #计算机视觉 1篇 █ #音乐推荐 1篇 █ #语音编辑 1篇 █ 📊 论文评分排行榜（35 篇，按分数降序） 排名 论文 总分 分档 主任务 🥇 Project SPARROW and the Future of Conservation Technolo 10.0分 前50% #计算机视觉 🥈 Multimodal Music Recommendation System using LLMs 10.0分 前50% #音乐推荐 🥉 Sympatheia: Emotionally Adaptive Voice Assistant with C 9.6分 前25% #语音合成 4. MOSS-Audio Technical Report 9.2分 前25% #语音识别 5. UniVocal: Unified Speech-Singing Code-Switching Synthes 8.9分 前25% #语音合成 6. PolySpeech-100: A Large-Scale Benchmark for Speech Unde 8.8分 前50% #语音识别 7. SpeechEditBench: A Bilingual Multi-Attribute Benchmark 8.7分 前25% #语音编辑 8. Context-aware child-directed speech detection from long 8.5分 前25% #自监督学习 9. RRP-Voice: A Longitudinal Dataset and Benchmark for Rec 8.3分 前50% #数据集 10. MURMUR: An Efficient Inference System for Long-Form ASR 8.3分 前50% #语音识别 11. Local Diagnostics of Continuous Normalizing Flow for Ou 8.1分 前50% #语音合成 12. WAXAL-NET: Finetuned Edge ASR Across 19 African Languag 8.0分 前25% #语音识别 13. Dynamic Interaction-Aware and Causality-Disentangled Fr 7.8分 前25% #多模态模型 14. Temporally-Aligned Evaluation for Audio-Driven Talking 7.6分 前25% #语音合成 15. HAIM: Human-AI Music Datasets for AI Music Production T 7.5分 前50% - 16. Spiking and Event-driven Neuromorphic Mamba Models for 7.5分 前50% #语音识别 17. JenBridge: Adaptive Long-Form Video Soundtracking acros 7.3分 前25% #音乐生成 18. MelT: GEMM-Native NDFT for Efficient Single-Stage Audio 7.3分 前50% #信号处理基础 19. Description and Discussion on DCASE 2026 Challenge Task 7.2分 前50% #无监督学习 20. SALSA: Speech Aware LLM Adaptation via Learned Steering 7.2分 前25% #语音识别 21. Advancing Electrolaryngeal Speech Enhancement Through S 7.1分 前50% #语音增强 22. DUET: Unified Dual-Space Emotion Control for Diffusion 7.1分 前25% #语音合成 23. When Tabular Foundation Models Transfer Across Modaliti 7.1分 前50% #音频分类 24. Echo: A Joint-Embedding Predictive Architecture for Spe 7.0分 前50% #语音识别 25. AnyMo: Scaling Any-Modality Conditional Motion Generati 7.0分 前50% #多模态模型 26. Kinship Verification Using Voice 6.9分 前50% #声纹识别 27. Quality Audio Prototyping: a prototype system for unifi 6.9分 前50% #音频检索 28. A Lightweight Slot-Attention Framework for Multi-Instru 6.7分 前50% #音乐信息检索 29. A 1000-hour EEG-EMG-audio dataset of Japanese speech pr 6.5分 前50% - 30. DAStatFormer: A Hybrid Multibranch Transformer with Sta 6.4分 前50% #音频事件检测 31. Parameter-efficient Dual-encoder Architecture with Diff 6.4分 前25% #音频分类 32. Beyond the Mouth: Upper-Face Affective Cues in Audiovis 5.5分 前50% #语音识别 33. SN-WER: Script-Normalized WER for Multi-Script Indic AS 5.3分 前50% #语音识别 34. Privacy-preserving Prosody Representation Learning 4.9分 前50% #自监督学习 35. AI Slop or AI-enhancement? Student perceptions of AI-ge 3.7分 后50% - 📋 论文列表 🥇 Project SPARROW and the Future of Conservation Technology 10.0/10 | 创新 2.0/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1.0/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

📄 Direct Preference Optimization for English-Mandarin Code-Switching Speech Recognition in Audio LLMs #语音识别 #语音合成 #多模态模型 #数据增强 #低资源 #参数高效微调 #多语言 ✅ 7.2/10 | 前50% | #语音识别 | #数据增强 | #语音合成 #多模态模型 | arxiv 学术质量 7.5/7 | 影响力 7.0/2 | 可复现性 0.3/2 | 置信度 中 👥 作者与机构 论文作者为 Nguyen Quang Trung, Cheng Yi Lewis Sun, Minh Duc He, Yingxu Shuo, Ai Ti Aw。机构包括 Institute for Infocomm Research (I2R), A*STAR, Singapore 和 Nanyang Technological University, Singapore。 ...

语音/音乐/音频论文速递 2026-05-30 共分析 6 篇论文 ⚡ 今日概览 📥 抓取 6 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 2篇 ██ #语音情感识别 1篇 █ #强化学习 1篇 █ #Transformer 1篇 █ 📊 论文评分排行榜（6 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 A Multi-Probe Audit of Clinical-Interview Depression De 9.6分 前10% #语音情感识别 🥈 EchoDistill:Alignment Noisy-to-Clean Self-Distillation 9.1分 前50% #强化学习 🥉 MIRAGE: Adaptive Multimodal Gating for Whole-Brain fMRI 8.2分 前50% #Transformer 4. Direct Preference Optimization for English-Mandarin Cod 7.2分 前50% #语音识别 5. Raon-Speech Technical Report 6.5分 前25% #语音识别 6. PiAnnotate: A Web Annotation Tool for Piano Fingering, 6.0分 前50% - 📋 论文列表 🥇 A Multi-Probe Audit of Clinical-Interview Depression Detection Benchmarks 🔥 9.6/10 | 前10% | #语音情感识别 | #迁移学习 | #音频信号处理 #预训练语言模型 | arxiv ...

📄 ChildVox: A Speech, Audio, and Large Audio-Language Model Benchmark in Understanding and Characterizing Sound across Childhood #自监督学习 #参数高效微调 #语音识别 #音频分类 #说话人日志 #数据集 🔥 8/10 | 前25% | #语音识别 | #自监督学习 | #参数高效微调 #音频分类 | arxiv 学术质量 5.3/7 | 影响力 1.8/2 | 可复现性 0.9/2 | 置信度 中 👥 作者与机构 作者：Tiantian Feng, Anfeng Xu, Xuan Shi, Aditya Kommineni, Shakhrul Iman Siam, Megan Micheletti, Zhonghao Shi, Helen Tager-Flusberg, Mi Zhang, Lynn K. Perry, Catherine Lord, Daniel Messinger, Shrikanth Narayanan 机构：南加州大学，俄亥俄州立大学，加州大学洛杉矶分校，哈佛大学，波士顿大学，迈阿密大学 ...

📄 MusTBENCH: Benchmarking and Advancing Temporal Grounding in Music LLMs #音乐生成 #音频问答 #强化学习 #多模态模型 #参数高效微调 ✅ 7.5/10 | 前50% | #音乐生成 | #强化学习 | #音频问答 #多模态模型 | arxiv 学术质量 4.9/7 | 影响力 1.8/2 | 可复现性 0.8/2 | 置信度 中 👥 作者与机构 作者：Daeyoung Kwon, Qiyu Wu, Shinobu Kuriya, Junghyun Koo, Shuyang Cui, Zhi Zhong, Wei-Hsiang Liao, Hiromi Wakaki, Yuki Mitsufuji 机构：首尔大学，索尼集团，索尼AI 💡 毒舌点评 这篇工作像一位认真但略显保守的工程师：它发现了一个重要的问题（音乐LLM缺乏时序定位能力），并搭建了一套完整、系统但不够性感的解决方案（构建基准+提出四阶段训练流程）。优点是踏实、全面，消融实验做得像实验报告一样工整。缺点是缺乏令人眼前一亮的“啊哈”时刻：MusTBench的构建严重依赖自动化的、可能存在噪声的管道（用模型预测边界和情绪），这让人对其“专家验证”的成色打个折扣；提出的MusT训练流程本质上是现有技术（LoRA、时间戳描述、SFT、GRPO）在音乐时序任务上的有序组合，创新性有限。最令人不满的是，对于一篇强调“时序定位”重要性的论文，竟然完全没有提供模型计算开销（训练/推理时间、显存）的数据，这在实际应用中是关键考量。此外，强化学习部分使用的奖励函数设计（指数衰减、软F1）参数（如15秒尺度、σ=15）的选择缺乏理论或充分消融支撑，显得有些“拍脑袋”。总的来说，这是一篇扎实的系统性工作，但未能将问题的重要性与解决方案的独创性匹配起来。 📌 核心摘要 本文针对当前大型音频语言模型（LALMs）在音乐理解中缺乏精确时序定位能力的问题，做出了三项贡献：1）识别并明确了“音乐时序定位”这一关键能力缺失；2）提出了MusTBench，一个由音乐专家验证的、包含五个时序定位问答任务的基准；3）提出了MusT，一个包含编码器适应、LLM适应、监督微调和强化学习优化的四阶段训练流程，有效提升了模型的时序定位性能。 🔗 开源详情 代码：论文在摘要结尾提及“Code and benchmark data will be available soon”，但未提供任何具体的代码仓库链接（如GitHub）。 模型权重：论文未提及任何已发布的模型权重下载链接或HuggingFace/ModelScope页面。 数据集：论文详细描述了“MusTBench”基准的构建过程，但正文中仅指出其数据“will be available soon”，未提供具体的下载链接、托管平台或开源协议。 Demo：论文中未提及。 复现材料：论文在附录（§A.4和§A.5.2）提供了详细的训练配置和超参数表格（Table 11），包括各阶段的学习率、批大小、训练数据量、LoRA设置等。此外，附录包含具体的实现细节（如动态采样、损失函数、奖励函数公式）。但这些材料无法替代缺失的代码和数据集。 论文中引用的开源项目： MERT (音频编码器)：论文引用 Li et al. (2024)，未提供直接项目链接。 LoRA (高效微调)：论文引用 Hu et al. (2022)，未提供直接项目链接。 Qwen2.5 Omni (基础模型)：论文引用 Xu et al. (2025)，未提供直接项目链接。 其他工具与数据集：论文提及使用了 librosa, madmom, Essentia (音频分析库)以及 Slakh2100, MTG-Jamendo, OpenMIC-2018, MusicCaps (数据集)，但均未提供具体版本或获取链接。 🏗️ 方法概述和架构 本文提出的MusT模型是基于Qwen2.5 Omni架构的扩展。其核心设计是引入了一个新的“时序感知音乐编码器”（MusT encoder）与原有的Qwen音频编码器构成双编码器系统，并通过一个四阶段训练流程来系统性地增强模型的时序定位能力。架构与流程如下： ...

语音/音乐/音频论文速递 2026-05-29 共分析 20 篇论文 ⚡ 今日概览 📥 抓取 20 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音合成 5篇 █████ #语音识别 5篇 █████ #音频生成 2篇 ██ #基准测试 1篇 █ #多模态模型 1篇 █ #音频分类 1篇 █ #音频深度伪造检测 1篇 █ #语音情感识别 1篇 █ 📊 论文评分排行榜（20 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 DirectorBench: Diagnosing Long-Form Video Generation wi 9.8分 前25% #基准测试 🥈 Benchmarking Single-Factor Physical Video-to-Audio Gene 9.0分 前25% #音频生成 🥉 Audio Jailbreaks in Large Audio-Language Models: Taxono 8.9分 前25% #多模态模型 4. HoliTok:A Coutinuous Holistic Tokenization with Robust 8.6分 前25% #语音合成 5. Dial HEALTHDIAL for Advice: A Multilingual and Multi-Pa 8.6分 前25% #语音合成 6. Mitigating Stethoscope-Induced Shortcuts in Respiratory 8.5分 前25% #音频分类 7. Audio Deepfake Detection with Half-Truth Localisation U 8.4分 前50% #音频深度伪造检测 8. ChildVox: A Speech, Audio, and Large Audio-Language Mod 8.0分 前25% #语音识别 9. State-Anchored Complete-View Distillation for Robust Co 8.0分 前50% #语音情感识别 10. VideoFDB: Evaluating Full-Duplex Vision-Speech Capabili 7.9分 前25% #语音合成 11. Native Audio-Visual Alignment for Generation 7.8分 前50% #音频生成 12. OmniInteract: Benchmarking Real-World Streaming Interac 7.8分 前50% #语音识别 13. MusTBENCH: Benchmarking and Advancing Temporal Groundin 7.5分 前50% #音乐生成 14. Archon: A Unified Multimodal Model for Holistic Digital 7.5分 前50% #语音合成 15. MELD: Mel-Spectrogram-Based Speech Language Modeling wi 7.3分 前50% #语音合成 16. The WER Trap: Shattering the Illusion of Unified Tokens 7.0分 前50% #语音识别 17. Decoding Strategies for Diffusion-Based ASR: A Systemat 6.8分 前50% #语音识别 18. COMET: Concept Space Dissection of the Modality Gap in 6.5分 前50% #音频检索 19. AgentHijack: Benchmarking Computer Use Agent Robustness 5.6分 前50% - 20. Data-Efficient On-Policy Distillation for Automatic Spe 5.1分 前50% #语音识别 📋 论文列表 🥇 DirectorBench: Diagnosing Long-Form Video Generation with Personalized Multi-Agent Evaluation 🔥 9.8/10 | 前25% | #音视频 | #多智能体评估 | #视频生成 #多模态生成评估 | arxiv ...

📄 Bandwidth-Efficient and Privacy-Preserving Edge-Cloud Many-to-Many Speech Translation #语音翻译 #多语言 #大语言模型 #课程学习 #参数高效微调 🔥 8.1/10 | 前25% | #语音翻译 | #课程学习 | #多语言 #大语言模型 | arxiv 学术质量 5.1/7 | 影响力 1.5/2 | 可复现性 1.5/2 | 置信度 高 👥 作者与机构 作者：Yexing Du, Kaiyuan Liu, Youcheng Pan, Bo Yang, Ming Liu, Bing Qin, Yang Xiang 机构：哈尔滨工业大学（深圳），鹏城实验室 💡 毒舌点评 这篇论文试图在一个“不可能三角”——隐私、带宽、性能——上找到一个实用的平衡点，其工程野心和目标是值得肯定的。ESRT框架通过将推理拆分，将重量级的LLM留在云端，仅在边缘传输压缩的特征，这是一个直观且有效的工程解决方案。论文在FLEURS数据集上展示了强大的实验结果，尤其是ESRT-4B模型以较小的参数量超越了之前许多更大的模型，证明了其训练策略的有效性。开源代码和模型也值得鼓励。 然而，其核心创新点——边缘-云分割和特征压缩——在概念上并非开创性的，更偏向于系统优化和工程实现。论文声称的“隐私保护”主要基于信息压缩导致的重建困难（见图10），这是一种弱化的安全假设，而非经过严格密码学或对抗攻击验证的保障。对于顶会论文而言，这种论证略显单薄。实验虽然全面，但缺少在真实、动态的网络环境和多样化的边缘硬件上进行端到端延迟和功耗测试，这使得“边缘计算”的宣称有些理想化。整体而言，这是一篇扎实的系统论文，但理论深度和安全验证的严谨性有待加强。 📌 核心摘要 本文提出了ESRT（Edge-cloud Speech Recognition and Translation），一个隐私保护且带宽高效的边缘-云协同多方语音转文本翻译（S2TT）框架。该框架采用分割推理架构：在边缘设备部署轻量级的Whisper语音编码器和基于Q-Former的语音适配器，仅将高度压缩的声学特征（40或80个token）传输至云端，由云端大型语言模型（LLM，基于MiLMMT/Gemma-3）完成翻译解码。为支持45种语言的多方翻译并克服英语中心偏见，论文引入了改进的多任务加权课程学习策略（分三阶段，动态整合ASR、SMT、SRT任务）。在FLEURS数据集上的实验表明，ESRT-4B和ESRT-12B在45×44个翻译方向上达到了当时的最先进（SOTA）性能，显著优于多种基线模型，并证明了框架在隐私（防止声纹泄露）和带宽（高达15.6倍压缩）方面的有效性。 🔗 开源详情 代码：https://github.com/yxduir/esrt 模型权重：论文中承诺开源模型，并指向同一GitHub仓库（https://github.com/yxduir/esrt），但未单独列出HuggingFace或ModelScope等托管平台的权重下载链接。 数据集： FLEURS: https://huggingface.co/datasets/google/fleurs CommonVoice 24: https://datacollective.mozillafoundation.org/datasets?q=common+voice CoVoST-2: https://github.com/facebookresearch/covost Demo：论文中未提及。 复现材料：论文中提供了详细的训练配置（表I, II, III, V），并声称开源训练和推理框架。完整的训练脚本、依赖环境及详细文档可能包含在代码仓库中，但未提供独立的复现指南链接。 论文中引用的开源项目： Whisper: 来自OpenAI，论文中未提供GitHub链接。 NLLB-200: 作为对比基线，论文中未提供项目链接。 LLaMAX3: 作为对比基线，论文中未提供项目链接。 SeamlessM4T-V2: 作为对比基线，论文中未提供项目链接。 MiLMMT: 作为基础LLM，源自Gemma-3，论文中未提供MiLMMT的具体代码链接。 Gemma-3: 作为基础模型，论文中未提供其具体链接。 LoRA: 作为微调方法，论文中未提供具体实现仓库链接。 Q-Former: 作为语音适配器的核心组件，论文中未提供其原始实现仓库链接。 🏗️ 方法概述和架构 ESRT的核心是边缘-云协同的分割推理架构（如图3所示），旨在平衡性能、隐私和带宽。 ...

📄 Diffusion Large Language Models for Visual Speech Recognition #参数高效微调 #数据增强 ✅ 7.0/10 | 前25% | #语音识别 | #参数高效微调 | #数据增强 | arxiv 学术质量 7.0/7 | 影响力 7.0/2 | 可复现性 1.0/2 | 置信度 高 👥 作者与机构 作者：Jeong Hun Yeo, Chae Won Kim, Hyeongseop Rha, Yong Man Ro†（†通讯作者） 机构：韩国科学技术院（KAIST）集成视觉语言实验室（Integrated Vision Language Lab） 💡 毒舌点评 本文是一篇“站在巨人肩膀上”的应用型工作。其核心想法——将扩散大语言模型（DLLM）引入视觉语音识别（VSR）以解决自回归解码的局限——是直接且合理的。实验结果（19.5% WER）也确实刷新了LRS3-only设置下的SOTA，证明了该范式在此任务上的有效性。然而，审稿人必须指出：1) 创新性深度有限，主要贡献是将现有DLLM解码策略（置信度解掩码）和训练技巧（两阶段训练）应用到VSR领域，而非提出全新的模型架构或理论；2) 实验的严谨性和全面性存在明显短板，消融实验严重不足，跨数据集验证薄弱；3) 部分关键实现细节（如阈值、训练超参数）缺失，影响了可复现性。总体而言，这是一篇扎实的系统工程工作，但在作为一篇NeurIPS/ICML/ICLR级别的论文时，其理论创新和实验的完备性还有提升空间。 📌 核心摘要 本文针对视觉语音识别（VSR）中自回归解码器因固定从左到右生成顺序而无法有效处理视觉模糊性的局限，提出了首个基于扩散大语言模型（DLLM）的VSR框架（DLLM-VSR）。该方法将转录过程建模为在固定长度画布上的迭代掩码去噪，允许灵活顺序解码。核心设计包括：1) 基于置信度的解掩码策略，优先解码并固定高置信度token，将其作为双向上下文来指导模糊位置的预测；2) 为适配VSR而设计的两阶段掩码去噪训练策略，第一阶段专注于文本内容对齐，第二阶段学习长度建模（填充padding token）；3) 一种长度引导的候选解码方法，利用视频时长预测多个可能的转录长度假设，并行解码后通过联合重排序选择最佳结果。在LRS3数据集上，DLLM-VSR仅使用其标注数据训练便达到了19.5%的词错误率（WER），建立了新的最优性能。 🔗 开源详情 代码：https://bit.ly/DLLM-VSR （已提供，可访问） 模型权重：论文中未提及是否开源预训练的DLLM-VSR模型权重。 数据集：论文中提及使用LRS3和LRS2数据集，但未提供下载地址或开源协议链接（LRS3/LRS2通常需要申请）。 Demo：论文中未提及。 复现材料：论文提供了代码，但未明确说明是否包含完整的训练配置、脚本、环境说明以及两阶段训练的具体参数设置。 论文中引用的开源项目： Dream (基于Qwen2.5): https://github.com/ArtificialAnalysis/Dream LLaDA: https://github.com/ArtificialAnalysis/LLaDA LaViDa: https://github.com/ArtificialAnalysis/LaViDa Dimple: https://github.com/ArtificialAnalysis/Dimple DreamOn: https://github.com/ArtificialAnalysis/DreamOn DAEDAL: https://github.com/ArtificialAnalysis/DAEDAL Block Diffusion: https://github.com/ArtificialAnalysis/Block-Diffusion wav2vec 2.0: https://github.com/facebookresearch/wav2vec Whisper: https://github.com/openai/whisper Qwen2.5: https://github.com/QwenLM/Qwen2.5 🏗️ 方法概述和架构 本文提出的DLLM-VSR框架（如图2所示）旨在将扩散大语言模型的灵活解码能力应用于视觉语音识别任务。其整体架构包含一个冻结的视觉编码器、一个长度适配器、两个投影层以及一个基于LoRA适配的DLLM解码器。核心创新在于解码方式和训练策略的重新设计。 ...

📄 OmniRetriever: Any-to-Any Audio-Video-Text Retrieval via Fusion-as-Teacher Distillation #音频检索 #对比学习 #知识蒸馏 #参数高效微调 🔥 9.2/10 | 前25% | #音频检索 | #对比学习 | #知识蒸馏 #参数高效微调 | arxiv 学术质量 6.1/7 | 影响力 1.5/2 | 可复现性 1.6/2 | 置信度 高 👥 作者与机构 作者: Yunze Liu, Chi-Hao Wu, Enmin Zhou, Junxiao Shen 机构: Memories.ai Research 💡 毒舌点评 优点：论文精准地指出了一个实际存在但被忽视的问题——统一AVT编码器的联合嵌入\(z_{TVA}\)在训练中未被监督。提出的“融合即教师蒸馏”方法简洁、直观且有效，尤其是\(\mathcal{L}_D\)损失贡献巨大。构建的OmniRetriever-Bench基准填补了评估多模态查询方向的关键空白，对社区有明确贡献。实验设计周密，包括了跨骨干验证、损失权重敏感性分析等，增强了结论的说服力。 缺点：论文在视频-文本任务上并未达到顶尖水平，其主要优势局限于音频相关的检索方向。方法的核心创新在于损失函数的设计，架构上是基于现有骨干（WAVE-7B）的适配器微调，新颖性更多体现在训练范式而非网络结构。提出的新基准测试（OmniRetriever-Bench）仅提供标识符和字幕，未公开媒体文件，限制了其广泛使用和独立验证。部分技术细节，如模态轮换硬负例的具体实现逻辑，描述可进一步清晰化。此外，虽然方法通用，但对语音/音乐领域的直接贡献（如理解语音内容、音乐情感）有限，其影响力更偏向于通用的多模态表示学习。 📌 核心摘要 本文针对现有统一音频-视频-文本（AVT）编码器训练中联合嵌入\(z_{TVA}\)未被监督的关键缺陷，提出了“融合即教师蒸馏”（Fusion-as-Teacher Distillation）训练范式。该方法利用模型自身前向传播产生的、经停止梯度处理的联合嵌入\(z_{TVA}\)作为教师信号，通过InfoNCE损失（) \mathcal{L}_D \(）指导单模态嵌入（\(z_T, z_V, z_A\)）的学习。同时，引入Tuple-InfoNCE损失（) \mathcal{L}_T \(）配合模态轮换的硬负例，直接监督联合嵌入\(z_{TVA}\)，防止其退化。该方法在开源WAVE-7B骨干上实例化为OmniRetriever-7B模型。在六个零样本检索基准测试中，OmniRetriever-7B在Clotho和SoundDescs音频-文本检索任务上显著超越闭源Gemini Embedding 2（R@1提升13.3-18.0），并接近专门音频-文本检索模型（CLAP家族）水平。论文同时发布了首个覆盖全部12个音频-视频-文本检索方向的评估基准OmniRetriever-Bench，并在该基准上取得了SOTA结果。 🔗 开源详情 代码：论文摘要和结论声明将发布代码，但未提供具体链接。 模型权重：论文摘要和结论声明将发布模型权重，但未提供具体链接（如HuggingFace, ModelScope）。 数据集： 训练数据集：论文提及训练数据由以下公开数据集采样构成，且不重新分发训练子集： InternVid (链接) InternVid-FLT (链接) Panda-70M (项目页面) PVD (链接) 另有一小部分内部收集数据。 评估基准：论文发布OmniRetriever-Bench，包含3,782个经人工校对的三元组。发布时将提供评估流程、字幕文本、源视频标识符和片段区间，但不重新分发底层媒体文件。 复现材料：论文在附录中提供了极其详尽的复现信息，包括但不限于： 附录A & B：骨干架构、LoRA配置、所有训练超参数。 附录C：端到端推理延迟。 附录D：损失权重敏感性分析。 附录E：训练语料描述与统计。 附录F & H：OmniRetriever-Bench构建方法、许可证与统计。 附录G：后处理压缩分析。 附录I：外部基准完整结果。 附录J：OmniRetriever-Bench方向消融分析。 附录L：Omni-Embed-Nemotron-3B跨骨干验证。 附录M：字幕改写鲁棒性分析。 附录N：\(\mathcal{L}_T\)种子稳定性分析。 论文中引用的关键开源项目：CLIP, ImageBind, LanguageBind, WAVE, Omni-Embed-Nemotron, SigLIP/SigLIP-2, Whisper, BEATs, CLAP (多种), InternVideo2, LoRA, DeepSpeed。 🏗️ 方法概述和架构 OmniRetriever的核心是一个统一的AVT嵌入器\(f_\theta\)，它能够分别处理文本（T）、视频（V）、音频（A）单模态输入，生成对应嵌入\(z_T, z_V, z_A\)，并能同时处理三元组输入，生成联合嵌入\(z_{TVA}\)。其训练目标由三个损失函数构成： ...