论文速递

📄 Benchmarking Single-Factor Physical Video-to-Audio Generation #音频生成 #多模态模型 🔥 9/10 | 前25% | #音频生成 | #多模态模型 | arxiv 学术质量 6.4/7 | 影响力 1.5/2 | 可复现性 1.1/2 | 置信度 高 👥 作者与机构 作者：Tingle Li (UC Berkeley, NVIDIA), Siddharth Gururani (NVIDIA), Kevin J. Shih (NVIDIA), Gantavya Bhatt (University of Washington), Sang-gil Lee (NVIDIA), Zhifeng Kong (NVIDIA), Arushi Goel (NVIDIA), Gopala Anumanchipalli (UC Berkeley), Ming-Yu Liu (NVIDIA)。注意：Tingle Li, Siddharth Gururani, Kevin J. Shih 为共同第一作者（Equal contribution）。 机构：UC Berkeley, NVIDIA, University of Washington。 项目主页：https://research.nvidia.com/labs/cosmos-lab/flatsounds/ ...

📄 ChildVox: A Speech, Audio, and Large Audio-Language Model Benchmark in Understanding and Characterizing Sound across Childhood #自监督学习 #参数高效微调 #语音识别 #音频分类 #说话人日志 #数据集 🔥 8/10 | 前25% | #语音识别 | #自监督学习 | #参数高效微调 #音频分类 | arxiv 学术质量 5.3/7 | 影响力 1.8/2 | 可复现性 0.9/2 | 置信度 中 👥 作者与机构 作者：Tiantian Feng, Anfeng Xu, Xuan Shi, Aditya Kommineni, Shakhrul Iman Siam, Megan Micheletti, Zhonghao Shi, Helen Tager-Flusberg, Mi Zhang, Lynn K. Perry, Catherine Lord, Daniel Messinger, Shrikanth Narayanan 机构：南加州大学，俄亥俄州立大学，加州大学洛杉矶分校，哈佛大学，波士顿大学，迈阿密大学 ...

📄 COMET: Concept Space Dissection of the Modality Gap in Audio-Text Multimodal Contrastive Embeddings #多模态模型 #对比学习 ✅ 6.5/10 | 前50% | #音频检索 | #对比学习 | #多模态模型 | arxiv 学术质量 5/7 | 影响力 1/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 论文标题：COMET: Concept Space Dissection of the Modality Gap in Audio-Text Multimodal Contrastive Embeddings 作者：Yonggang Zhu, Liting Gao, Aidong Men, Wenwu Wang 机构： 北京邮电大学 人工智能学院 英国萨里大学 视觉、语音与信号处理中心 (CVSSP) 通讯作者：Wenwu Wang 资助信息：China Scholarship Council (202506470003) 💡 毒舌点评 这篇论文试图为CLAP模型中已知的模态间隙问题提供一个新的“概念分解”视角，并由此提出一个无训练的嵌入压缩方法PLSHead。优点在于它整合分析了嵌入空间结构、相似性计算机制和现有投影解码方法，理论推导有一定新意。然而，作为一篇顶会投稿，其“创新性”需要打折扣：1）核心工具PLS-SVD是成熟的统计方法，其在CLAP上的应用属于工程组合；2）提出的PLSHead方法本质是启发式的截断，关键参数K的选择缺乏理论指导；3）实验部分大量篇幅复现和比较已有的投影解码（PD）方法，并宣称其PLSHead可“替代”PD，但实际上在零样本字幕任务中并未显著超越使用完整记忆库的PD。此外，论文声称“首次提出统一的概念分解框架”，但相关工作列举了多种多模态嵌入分解方法（如SpLiCE, CCA+匹配），对“首次”的claim需更严谨。总体而言，工作扎实但突破性有限，更像是一篇细致的分析性文章。 ...

📄 Data-Efficient On-Policy Distillation for Automatic Speech Recognition #语音识别 #知识蒸馏 #低资源 #模型压缩 📝 5.1/10 | 前50% | #语音识别 | #知识蒸馏 | #低资源 #模型压缩 | arxiv 学术质量 3.1/7 | 影响力 1.5/2 | 可复现性 0.5/2 | 置信度 中 👥 作者与机构 作者：Yu Lin, Yiming Wang, Runyuan Cai, Xiaodong Zeng 机构：AutoArk-AI 💡 毒舌点评 这篇论文像一个精心调校的“数据榨汁机”：用一个强大的教师模型（Qwen-ASR）和一套还算巧妙的蒸馏流水线（TD+OPD），硬生生地从100k小时的数据里榨出了能超越Qwen3-ASR-0.6B（声称用20M小时训练）的性能。这确实很酷，证明了在模型规模受限时，“名师出高徒”这条路走得通。但作者似乎对“榨汁机”本身的创新点有些语焉不详——核心的OPD方法基本是从文本领域搬过来的，而真正起效的“教师数据适应”（TD）阶段为何有效，只给了个VUSS指标当“黑盒诊断”，缺乏深入的机理分析。实验结果虽亮眼，但对比的公平性存疑（Qwen3-ASR-0.6B的训练配方未知），且缺乏多次实验的稳定性报告和更多鲁棒性测试。总的来说，这是一份扎实的“应用报告”和“有效性验证”，但在“机制揭秘”和“方法创新”上还有明显的提升空间。 📌 核心摘要 本文研究了如何在100k小时音频数据预算下，提升一个0.6B参数的ASR模型（Ark-ASR）的性能。核心方法是结合“教师数据适应”（TD）和“在策略蒸馏”（OPD）。TD阶段使用教师生成的2k小时伪标签数据对Ark-Base模型进行初步适应；随后，OPD阶段在原始100k小时数据上，利用冻结的Qwen-ASR教师模型对学生生成的转录序列提供密集反馈，通过匹配师生模型在联合Top-kk支持集上的分布来优化学生模型。主要结果是，Ark-Base+TD+OPD模型在五个中英文ASR基准测试中的四个上，超越了同规模（0.6B）的Qwen3-ASR-0.6B基线模型，且所用的监督音频数据量仅为后者声称的1/200。论文还提出“有效联合支持集大小”（VUSS）作为诊断工具，表明TD阶段提升了师生模型局部支持集的重叠度，使后续的OPD更有效。论文结论指出，SFT结合OPD是提升小型ASR模型数据效率的实用路径。 🔗 开源详情 代码：论文中未提及代码开源计划。 模型权重：论文中未提及。 数据集：论文使用了以下公开数据集，但未提供具体下载链接：AISHELL-1（开源中文语音语料库）、WenetSpeech（大规模多领域中文语料库，含Test_Net和Test_Meeting）、LibriSpeech（标准英文语音识别语料库，含test-clean和test-other）。 Demo：论文中未提及。 复现材料：论文未提供训练配置、检查点或完整复现信息。 引用的开源项目：论文引用了Whisper、Conformer、Deep Speech、Distil-Whisper等项目，但未提供其代码仓库链接。 补充链接（自动提取）： 代码仓库：https://github.com/zai-org/GLM-ASR HuggingFace：https://huggingface.co/docs/transformers/model_doc/glmasr 🏗️ 方法概述和架构 Ark-ASR的架构是一个音频条件的因果语言模型，由音频分支和解码器两部分构成。音频分支的设计遵循GLM-ASR编码器：首先使用一个Whisper风格的音频编码器将语音特征（如Log-Mel滤波器组）转换为帧级声学隐状态；接着，通过层归一化和时间合并操作对这些状态进行规整；最后，一个多层感知机（MLP）适配器将声学状态投影到语言模型的隐藏维度。解码器部分是一个Qwen2因果语言模型。在推理和训练时，适配后的音频嵌入会替换ASR提示中占位符位置的嵌入，形成混合的音频-文本嵌入序列，该序列由因果解码器和语言模型头处理，自回归地生成转录令牌。 训练流程（Ark-ASR OPD）如下：对于一个音频批次，1) 学生生成：学生模型在自身音频条件下生成转录，不记录梯度。生成的令牌序列经过清理（去除ASR停止令牌和屏蔽的非ASR令牌范围）后解码为文本。2) 教师评分：冻结的Qwen-ASR教师模型在教师强制模式下，接收相同的音频和学生生成的文本前缀，输出转录位置上的令牌级逻辑值。3) 学生再评分与对齐：学生模型在相同的生成转录下再次前向传播（此次带梯度），使其逻辑值在学生实际访问的状态上与教师反馈对齐。损失函数是联合Top-kk KL损失（公式1）： ...

📄 Decoding Strategies for Diffusion-Based ASR: A Systematic Evaluation of Confidence-Based Thresholding #扩散模型 #自回归模型 ✅ 6.8/10 | 前50% | #语音识别 | #扩散模型 | #自回归模型 | arxiv 学术质量 4.6/7 | 影响力 1.2/2 | 可复现性 1/2 | 置信度 中 👥 作者与机构 Jeong Hun Yeo: KAIST (韩国科学技术院)，通讯/主要联系作者。 Minsu Kim: Google DeepMind (东京)，合作者（论文注明贡献为咨询角色）。 Hyeongseop Rha: KAIST。 Yong Man Ro: KAIST，通讯作者。 💡 毒舌点评 这是一篇“工整”但缺乏突破性的实证分析论文。作者们非常聪明地选择了一个“安全区”——用已有的扩散语言模型解码策略，在另一个领域（ASR）进行“搬家”式验证，并套用了一套听起来高大上的分析框架（NLL不确定性轨迹）。论文最大的问题在于创新性的严重不足：三种解码策略本身均非本文提出，核心贡献仅在于“比较”和“解释”。将论文包装成“系统评估”虽有一定价值，但本质上是在填补一个由先前研究（主要是DLM在NLP中的应用）留下的、并非关键的知识空白。实验仅在单一、干净的LibriSpeech数据集上进行，严重限制了结论的普适性和影响力，作者自己也承认了这点，但审稿人必须强调这极大地削弱了其作为“系统评估”的分量。分析部分看似精细，但核心洞察（ASR置信度分数高度集中）更像是一种现象观察而非深刻的机制解析。总而言之，这是一篇合格的、中规中矩的领域应用分析，但离顶会要求的“significant contribution”尚有距离。 📌 核心摘要 本文针对基于扩散语言模型（DLM）的自动语音识别（ASR）解码策略进行了系统性评估。研究比较了三种解码方案：固定数量解码（top-k）、静态置信度阈值解码和动态置信度阈值解码，在准确率（WER）与速度（RTF）的权衡上，阈值策略（尤其是静态阈值）显著优于固定数量解码。作者提出使用基于负对数似然（NLL）的不确定性轨迹来量化分析并行解码的逐轮进展。研究发现，ASR任务中置信度分数高度集中于高值区域（>90%的令牌置信度超过0.9），这解释了阈值策略为何能高效利用早期高置信度令牌，从而加速解码。静态阈值策略在块大小为4、阈值\(C=0.95\)时，达到了接近自回归基线的WER（2.81% vs. 2.78%），同时速度快1.7倍。 🔗 开源详情 代码：论文指出可通过其arXiv页面（https://arxiv.org/abs/2605.29613v1）上的“Code”按钮访问作者提供的代码仓库。但在论文正文、参考文献或附录中均未直接给出代码仓库的URL。 模型权重： Whisper-medium.en：在HuggingFace Hub公开，链接如 https://huggingface.co/openai/whisper-medium.en。 LLaDA-8B-Instruct：在HuggingFace Hub公开，链接如 https://huggingface.co/MLNLPCN/LLaDA-8B-Instruct。 论文训练的Whisper-LLaDA模型：未提供下载链接。 数据集： LibriSpeech：公开数据集，可从 https://www.openslr.org/12 获取。 GSM8K：公开数据集，可从 https://huggingface.co/datasets/gsm8k 获取。 复现材料：论文提供了主要的训练超参数（100k步，8xA6000 GPU），但未提供���整的训练脚本、详细配置或预训练检查点。完整复现强烈依赖作者未在文中详述的代码仓库。 🏗️ 方法概述和架构 本文采用并评估的基线DLM-ASR系统为 Whisper-LLaDA。其核心架构包含以下组件： ...

📄 Dial HEALTHDIAL for Advice: A Multilingual and Multi-Parallel Spoken Dialogue Dataset for Knowledge-Grounded Information Seeking #数据集 #数据增强 #多语言 #低资源 #语音合成 #语音识别 🔥 8.6/10 | 前25% | #语音合成 | #数据增强 | #数据集 #多语言 | arxiv 学术质量 5.3/7 | 影响力 1.3/2 | 可复现性 2/2 | 置信度 高 👥 作者与机构 Songbo Hu1, Yinhong Liu1, Ej Zhou1*, Evgeniia Razumovskaia1, Xiaobin Wang2, Alexander Fraser3, Ivan Vulić1†, Anna Korhonen1† 1语言技术实验室，剑桥大学，英国 2独立研究者 3计算、信息与技术学院，慕尼黑工业大学，德国 *共同第一作者，†共同通讯作者 💡 毒舌点评 这篇论文做了一件“正确但保守”的事：为多语言对话系统构建了一个大规模、高质量的基准数据集。其方法论清晰，开源彻底，是社区需要的基础设施。然而，主要问题在于其“合成”本质和“管道式”评估框架。用LLM生成对话再由人录音，虽然解决了隐私和成本问题，但得到的终究是“假设性”的健康咨询，与真实世界复杂、混乱的患者交互相去甚远。更关键的是，所有基准测试都基于传统的ASR->检索->LLM->TTS管道，这固然是当前的技术现实，但使得数据集的核心价值——支持原生语音对话模型研究——大打折扣。论文在揭示跨语言性能差异上做得不错，但这更多是现有模型（如Whisper, GPT）多语言能力不均衡的反映，而非数据集本身的独特发现。总体而言，这是一篇扎实的资源论文，但未能在方法论或系统评估上带来突破性视角，更像是一份详尽的“使用说明书”。 ...

📄 DirectorBench: Diagnosing Long-Form Video Generation with Personalized Multi-Agent Evaluation #基准测试 #大语言模型 🔥 9.8/10 | 前25% | #基准测试 | #大语言模型 | arxiv 学术质量 6.4/7 | 影响力 1.7/2 | 可复现性 1.7/2 | 置信度 高 👥 作者与机构 第一作者：Jiamin Chen 机构：ByteDance Inc., City University of Hong Kong 通讯作者：Wangchunshu Zhou (chunshu@bytedance.com) arXiv ID: 2605.30090 💡 毒舌点评 这篇论文精准地戳中了当前长视频生成评估的痛点——大家都在卷单帧质量或短片，但长视频真正的败笔往往在镜头间的“缝合”和“转场”，以及千人千面的用户偏好被粗暴地平均化。DirectorBench 提供了一个系统、可诊断且个性化的评估框架，这比给出一个单一的、看起来很漂亮但毫无解释力的总分要有用得多。作者的实验设计逻辑清晰，三个RQ层层递进，得出了关于工作流设计比模型选择更重要、瓶颈在“单元间”等具有指导意义的结论。然而，该基准自身的可靠性验证（评估者间一致性、工具准确性）尚未充分展示，且个性化评估的深度（如何影响瓶颈识别）还有挖掘空间。总的来说，这是一个扎实且及时的工作，为长视频生成的迭代改进提供了关键的诊断工具。 📌 核心摘要 本文提出了DirectorBench，一个用于诊断长视频生成的个性化多智能体评估基准。该基准旨在克服现有评估方法聚焦短片视觉质量、忽略工作流故障诊断和用户偏好差异的局限。核心设计是将评估形式化为 \(f(\mathbf{m}, \mathbf{u}, \mathcal{G}) \rightarrow \mathcal{R}\)，即根据结构化元数据（\(\mathbf{m}\)）和用户配置（\(\mathbf{u}\)）来评估生成系统（\(\mathcal{G}\)）并产出诊断报告（\(\mathcal{R}\)）。Benchmark由80个结构化元数据条目、7个用户配置文件和40个检查点标准构成，涵盖脚本、视觉、音频、跨模态和稳定性五大维度。其核心创新在于：1) 诊断式评估：通过动态激活适用的检查点，定位具体的失败瓶颈（如镜头间过渡质量差），而非仅输出聚合分数；2) 个性化评估：引入用户配置文件，表明同一生成内容在不同用户偏好下质量评分存在显著差异，单一通用分数无法捕捉这种变化。通过对4种工作流、6个基础LLM和7个用户配置的实验，发现：工作流架构是生成质量的主要决定因素；当前各工作流的共同瓶颈在于单元间的过渡和跨模态一致性，而非单帧质量；基础LLM的选择主要影响叙事推理和跨模态对齐；个性化评估揭示了显著的用户依赖型质量差异。人工评估验证了DirectorBench在维度层面与人类判断的对齐。 🔗 开源详情 代码：https://github.com/jiaminchen-1031/DirectorBench 模型权重：未提供（评估使用的基座大语言模型均为闭源模型，如GPT-5.4等）。 数据集：https://huggingface.co/datasets/Jiamin1031/DirectorBench Demo：未提及 复现材料：论文提供了详细的复现材料，包括： 元数据条目：80个结构化元数据条目（完整示例见附录A）。 用户配置文件：7个详细的用户配置文件规范（见附录B，包含优先级权重、硬约束和用户品味描述）。 检查点分类法：40个检查点的完整分类注册表（见附录C，组织为维度、子指标、检查点）。 内容分析属性：用于动态检查点激活的18个内容分析属性列表（见附录D）。 评估流水线：基于LangGraph的多智能体评估流水线的详细描述（DAG结构、四个阶段）。 论文中引用的开源项目（未提供具体GitHub链接）： ViMax：一个开源的“分解-拼接”视频生成流水线。 MovieAgent：一个开源的角色感知视频生成规划器。 PySceneDetect：用于镜头分割。 OpenCV：用于视频处理和边界度量计算。 Librosa：用于音频特征提取。 MobileViCLIP-Small：用于文本-视频相似度计算。 Sentence-BERT：用于文本-音频语义相似度计算。 LangGraph：用于构建评估流水线的有向无环图（DAG）。 ffprobe/ffmpeg：用于视频探测和音频提取。 🏗️ 方法概述和架构 DirectorBench的评估框架（如图1所示）是一个分层、多阶段的系统，其核心是将“生成-评估”循环形式化。框架的核心组件和流程如下： ...

📄 HoliTok:A Coutinuous Holistic Tokenization with Robust Dual Capabilities of Speech Generation and Understanding #语音合成 #语音识别 #自监督学习 #知识蒸馏 #多任务学习 #模型压缩 🔥 8.6/10 | 前25% | #语音合成 | #自监督学习 | #语音识别 #知识蒸馏 | arxiv 学术质量 5.7/7 | 影响力 1.8/2 | 可复现性 1.1/2 | 置信度 高 👥 作者与机构 作者: Bohan Li, Shi Lian, Hankun Wang, Yiwei Guo, Yu Xi, Zhihan Li, Da Zheng, Colin Zhang, Kai Yu. 机构: 1. 上海交通大学 X-LANCE 实验室；2. 小红书 Hi-lab。 ...

📄 MELD: Mel-Spectrogram-Based Speech Language Modeling with Discrete Latent Variables #语音合成 #语音识别 #变分推断 ✅ 7.3/10 | 前50% | #语音合成 | #变分推断 | #语音识别 | arxiv 学术质量 5.9/7 | 影响力 1.4/2 | 可复现性 0/2 | 置信度 中 👥 作者与机构 Sung-Lin Yeh\(^{1}\), Wei Zhou\(^{2}\), Gil Keren\(^{3}\), Duc Le\(^{3}\), Zhong Meng\(^{3}\), Hao Tang\(^{3}\), Jay Mahadeokar\(^{3}\), Ozlem Kalinli\(^{3}\), Alexandre Mourachko\(^{3}\) (\(^{1}\)University of Edinburgh, \(^{2}\)Google DeepMind, \(^{3}\)Meta Superintelligence Labs) 📌 核心摘要 本文提出了MELD（Mel-Spectrogram-Based Discrete Latent Language Model），一种基于梅尔频谱图和离散潜变量的语音语言模型框架。其核心创新在于联合优化一个量化编码器和一个自回归语言模型，直接对连续的梅尔频谱帧进行建模，从而避免了传统两阶段方法（先训练独立的编码器/编解码器，再训练语言模型）中编码器无法感知下游任务目标的问题。MELD通过引入离散潜变量空间进行采样，有效缓解了直接自回归建模梅尔频谱时常见的静音延长和单词遗漏问题。模型在单一框架内通过不同的控制令牌（<TTS> 和 <STT>）支持零样本文本到语音（TTS）合成和语音到文本（STT）识别任务，并在LibriSpeech数据集上展示了相比基线方法（如Codec-LM、MELLE、dMel）的优势，特别是在STT性能和联合TTS-STT建模方面。 ...

📄 Mitigating Stethoscope-Induced Shortcuts in Respiratory Sound Classification under Federated Domain Generalization with Causality-Inspired Interventions #联邦学习 #数据增强 #多模态模型 #音频分类 🔥 8.5/10 | 前25% | #音频分类 | #联邦学习 | #数据增强 #多模态模型 | arxiv 学术质量 5.5/7 | 影响力 1.5/2 | 可复现性 1.5/2 | 置信度 中 👥 作者与机构 未提及论文作者和机构信息。 💡 毒舌点评 这篇论文试图解决一个实际且重要的问题——呼吸声分类模型在跨听诊器设备时的性能下降，并提出了一个包含因果干预、反事实文本增强和梯度对齐的联邦学习框架（BTS-CAFE）。其核心动机（打破设备风格与病理内容的虚假关联）是合理的。然而，评审感觉论文在几个关键方面存在不足：1) “首次提出”的声明过于绝对，对相关工作的综述和定位不够严谨；2) 实验设置虽模拟了联邦场景，但“单客户端”的评估与实际大规模联邦应用存在差距；3) 作者声称的“最佳”性能有时仅比次优方法高零点几，统计显著性存疑；4) 讨论部分对局限性的挖掘流于表面，未深入探讨方法在更复杂异质场景下的潜在失效模式。总体而言，这是一份扎实的工作，但在深度和说服力上仍有提升空间。 📌 核心摘要 本文针对呼吸声分类（RSC）模型因听诊器设备异质性导致的分布偏移问题，提出了一个联邦域泛化（FedDG）框架BTS-CAFE。其核心观察是，听诊器特有的设备风格（S）与疾病相关内容（C）在表征中高度纠缠，传统的确定性风格移除方法会损害病理信息。为此，BTS-CAFE集成了三个关键组件：1）因果启发式的生成式设备风格干预网络（GIN），通过可控的增益、随机分组卷积和频率掩码进行内容保持的风格扰动，近似于因果干预 do(S)；2）反事实文本增强，中和文本元数据中可能携带的设备捷径；3）基于单样本全模型梯度的对齐正则化，鼓励跨客户端的设备不变决策边界。基于CLAP多模态预训练模型，该方法在ICBHI和SPRSound数据集的“留一设备外”（LODO）联邦验证设置下，相比传统数据增强和联邦学习基线，在域外（OOD）性能上取得了一致的提升。 🔗 开源详情 代码：论文中未提及具体代码仓库链接。文中明确声明“Code will be released upon publication”。 模型权重：未提及。 数据集： ICBHI：论文引用了原始数据集 [24]，但未提供获取链接。通常可通过PhysioNet获取。 SPRSound：论文引用了数据集 [30]，未提供获取链接。 Demo：未提及。 复现材料：提供了关键训练配置（学习率、轮次、硬件）、评估协议（LODO, Score指标）和超参数。但未提供模型权重或完整代码包。 论文中引用的开源项目： CLAP：提供了HuggingFace链接 https://huggingface.co/laion/clap。 AST, BTS, FedAvg, FedSR, FedIIR, PromptFL, FedCAug, CutMix, Mixup, RepAugment, SpecAugment：仅提供了文献引用，未提供代码仓库链接。 🏗️ 方法概述和架构 BTS-CAFE框架构建在BTS多模态音频-语言预训练模型之上，旨在解决联邦学习（FL）场景下，由客户端（每个客户端使用单一听诊器设备）异质性引起的域偏移问题。其核心思想是，通过因果启发式的干预和正则化，使全局模型学习与设备风格S无关、只依赖疾病内容C的表征，从而泛化至未见设备d⋆。整个框架包含以下三个核心组件，它们在本地训练循环中协同作用： ...