ONOTE: Benchmarking Omnimodal Notation Processing for Expert-level Music Intelligence

📄 ONOTE: Benchmarking Omnimodal Notation Processing for Expert-level Music Intelligence #基准测试 #模型评估 #音乐理解 #多模态模型 #跨模态 🔥 8.0/10 | 前25% | #基准测试 | #模型评估 | #音乐理解 #多模态模型 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Menghe Ma(北京邮电大学) 通讯作者:Haoran Luo(南洋理工大学) 作者列表: Menghe Ma*(北京邮电大学) Siqing Wei*(北京邮电大学) Yuecheng Xing*(北京邮电大学) Yaheng Wang(北京邮电大学) Fanhong Meng(中国音乐学院) Peijun Han(中国音乐学院) Luu Anh Tuan(南洋理工大学) Haoran Luo†(南洋理工大学) (*表示共同第一作者,†表示通讯作者) 💡 毒舌点评 亮点:论文一针见血地指出了当前多模态音乐AI“看得懂谱但不懂乐理”的致命短板,并用一套滴水不漏的确定性评估流水线(规范音高投影+序列对齐)把“LLM当评委”的主观泡沫彻底挤干,建立了一个干净、可复现的评测标尺。短板:虽然评估范式设计精巧,但基准数据集规模(1120个样本)和任务复杂度(如AST仅10秒音频)可能不足以完全模拟真实世界中长篇、复杂乐曲的处理挑战,其结论的普适性有待更大规模验证。 🔗 开源详情 代码:提供GitHub仓库链接:https://github.com/T12knightally/ONOTE 模型权重:未提及。本文为基准测试,不涉及发布自身模型。 数据集:提供HuggingFace数据集链接:https://huggingface.co/datasets/Weisiqing123/ONOTE Demo:未提及。 复现材料:附录A详细描述了数据集构建流程;附录B提供了完整的任务执行和评分评估提示词;附录C详细说明了评估指标的实现细节。这些构成了完整的复现材料。 论文中引用的开源项目:论文在相关工作和实验中引用了多个开源项目/模型,如MuseCoco、ChatMusician、MuseScore、ABC编译器等,但未明确列出其作为ONOTE实现的直接依赖。 📌 核心摘要 问题:当前多模态大模型在音乐符号处理(Omnimodal Notation Processing, ONP)领域存在严重缺陷:研究碎片化、模型存在严重的符号偏差(偏向五线谱)、且普遍依赖不可靠的“LLM-as-a-Judge”评估方法,掩盖了模型在音乐理论推理上的系统性失败。 方法核心:提出ONOTE基准,包含四个任务(视觉乐谱理解VSU、跨格式符号转换CNC、音频转符号AST、符号音乐生成SMG),覆盖五线谱、简谱、吉他谱三种系统。其核心是设计了一条“确定性与反偏差评估流水线”,通过“规范音高投影”将所有输出统一映射为一维音高序列,再利用编辑距离进行客观的序列对齐精度计算。 新意:与以往专注于单一转录任务或使用主观评估的基准不同,ONOTE首次提供了覆盖音乐符号处理全生命周期的、多符号系统的综合评估框架,并彻底摒弃了主观评分,实现了评估的客观化与标准化。 主要实验结果:对多个前沿全模态模型(如Qwen、Gemini系列)的评测显示,模型在VSU任务上表现优异(如Gemini-3.1-flash-lite-preview在五线谱VSU达99%),但在需要深层音乐理论推理的CNC和AST任务上表现急剧下降(如上述模型五线谱CNC仅17.29%)。这证实了模型“感知准确”与“理解逻辑”之间的巨大鸿沟。 实际意义:为音乐AI研究社区提供了统一、严谨的评估标准,能够客观诊断模型的推理弱点,推动开发更具音乐认知深度、而非仅进行表面模式匹配的AI系统。 主要局限性:1) 基准数据集规模相对有限(1120个样本),可能无法覆盖所有音乐风格和复杂度;2) 任务设置(如AST仅10秒)偏向简化场景;3) 作为评估基准,其本身不提出新模型,价值依赖于社区的采纳和应用。 🏗️ 模型架构 本文并非提出一个新的端到端模型,而是定义了一个评估框架(Benchmark)。其核心架构是确定性评估流水线,流程如下: ...

2026-04-23 · 更新于 2026-05-21 · 1 min · 207 words

Reducing the Offline-Streaming Gap for Unified ASR Transducer with Consistency Regularization

📄 Reducing the Offline-Streaming Gap for Unified ASR Transducer with Consistency Regularization #语音识别 #端到端 #流式处理 #统一音频模型 #模型评估 ✅ 7.5/10 | 前25% | #语音识别 | #端到端 | #流式处理 #统一音频模型 | arxiv 学术质量 7.5/7 | 选题价值 0.8/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者:Andrei Andrusenko (NVIDIA, Armenia) 通讯作者:未说明 作者列表: Andrei Andrusenko (NVIDIA, Armenia) Vladimir Bataev (NVIDIA, Armenia) Lilit Grigoryan (NVIDIA, Armenia) Nune Tadevosyan (NVIDIA, Armenia) Vitaly Lavrukhin (NVIDIA, Armenia) Boris Ginsburg (NVIDIA, USA) 💡 毒舌点评 亮点:MCR-RNNT正则化方法设计巧妙,通过强制离线和流式模式在RNNT联合网络输出层面保持一致,有效缓解了低延迟下的性能崩塌,且其实现的Triton内核保证了训练效率。短板:尽管在多个延迟点上取得了SOTA,但在极端低延迟(如0.16s)场景下,统一模型仍略逊于专门为流式优化的基线,表明“统一”与“极致性能”之间仍存在根本性张力。 ...

2026-04-23 · 更新于 2026-05-21 · 2 min · 231 words

SpeechParaling-Bench: A Comprehensive Benchmark for Paralinguistic-Aware Speech Generation

📄 SpeechParaling-Bench: A Comprehensive Benchmark for Paralinguistic-Aware Speech Generation #基准测试 #语音大模型 #语音合成 #多语言 #模型评估 ✅ 7.5/10 | 前25% | #基准测试 | #模型评估 | #语音大模型 #语音合成 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Ruohan Liu (南京大学) 通讯作者:Chaoyou Fu (南京大学) 作者列表: Ruohan Liu (南京大学) Shukang Yin (南京大学) Tao Wang (南京大学) Dong Zhang (小米) Weiji Zhuang (小米) Shuhuai Ren (小米) Ran He (南京大学) Caifeng Shan (南京大学) Chaoyou Fu (南京大学) 💡 毒舌点评 亮点:这篇论文把“副语言生成评估”这个模糊地带彻底标准化了,从不到50个特征扩展到100多个,还设计了从静态控制到动态变化再到情境适应的递进式任务,评估流水线也用上了“成对比较”来对抗主观性,工程上相当完备。短板:数据全靠合成,用TTS生成的“用户查询”和真实人类说话的副语言信息可能差了十万八千里,这导致整个基准测试的生态位有点尴尬——它测的是模型对“合成指令”的服从度,而非对“真实人类语音”的理解力。 ...

2026-04-23 · 更新于 2026-05-21 · 1 min · 200 words

Utterance-Level Methods for Identifying Reliable ASR-Output for Child Speech

📄 Utterance-Level Methods for Identifying Reliable ASR-Output for Child Speech #语音识别 #模型评估 #儿童语音 #多语言 ✅ 7.5/10 | 前25% | #语音识别 | #模型评估 | #儿童语音 #多语言 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:Gus Lathouwers (guslathouwers@gmail.com) 通讯作者:未说明(论文中未明确指定通讯作者,但提供了所有作者邮箱) 作者列表: Gus Lathouwers (Centre for Language Studies, Radboud University, Netherlands) Lingyun Gao (Centre for Language Studies, Radboud University, Netherlands) Catia Cucchiarini (Centre for Language Studies, Radboud University, Netherlands) Helmer Strik (Department of Language and Communication, Radboud University, Netherlands) 💡 毒舌点评 亮点在于方法设计非常务实,针对朗读和对话场景分别提出“与原文匹配”和“LLM分类”两种可解释性强的启发式规则,且“模型一致性过滤”策略能以较低的召回率换取极高的精确率(>97.4%),为自动筛选可靠转录提供了可靠工具。短板是开源精神不足,论文中提到的GitHub链接为无效占位符,且关键的对话文本分割流程(英文CSLU数据)依赖外部标点工具,细节未充分公开,严重影响了结果的可复现性。 ...

2026-04-23 · 更新于 2026-05-21 · 2 min · 223 words

Detecting Hallucinations in SpeechLLMs at Inference Time Using Attention Maps

📄 Detecting Hallucinations in SpeechLLMs at Inference Time Using Attention Maps #语音识别 #语音翻译 #大语言模型 #模型评估 ✅ 评分:7.5/10 | arxiv 👥 作者与机构 第一作者:Jonas Waldendorf (University of Edinburgh) *论文标注“Work completed during an internship at Amazon AGI” 通讯作者:Evgenii Tsymbalov (Amazon AGI) *根据邮箱 etsymba@amazon.de 推断 其他作者:Bashar Awwad Shiekh Hasan (Amazon AGI) 💡 毒舌点评 亮点:论文巧妙地将文本LLM幻觉检测的注意力分析思路“翻译”到了语音领域,设计了四个抓住语音模态特性的指标,像给模型装了个“注意力心电图”来诊断“幻觉心律不齐”,在干净数据上效果拔群。 槽点:但这个“诊断仪”有点“偏科”,在ASR和S2TT两个任务间几乎无法通用,得重新训练,而且严重依赖一个高精度但低召回的自动标注器来打标签,相当于用一套有漏检的评分标准来训练医生,让人对其泛化能力打个问号。 🔗 开源详情 代码:论文提到代码在GitHub上开源(“GitHub Issue”),但未提供具体URL。推断为部分开源。 模型权重:未提及开源训练好的逻辑回归检测器权重。 数据集:使用公开数据集(VoxPopuli, CALLHOME, Fleurs),但自动标注的幻觉标签数据集未提及单独发布。 在线Demo:未提及。 依赖的开源工具:使用了scikit-learn训练逻辑回归,XCOMET-XL和多种多语言模型(xlm-roberta-base, paraphrase-multilingual-MiniLM, mDeBERTa-v3-xnli)进行评估和标签生成。 📌 核心摘要 本文旨在解决语音大模型(SpeechLLMs)在推理时产生的“幻觉”问题,即生成与输入音频不符的流畅文本。现有方法依赖昂贵的黄金标准输出,而文本LLM的方法无法捕捉音频特有信号。为此,作者提出了四个基于注意力图的轻量级指标(AudioRatio, AudioConsistency, AudioEntropy, TextEntropy),用于捕捉与幻觉相关的病态注意力模式(如注意力回退到音频开头、对角线结构退化)。在Qwen-2-Audio和Voxtral-3B模型上,使用这些指标训练逻辑回归分类器。实验表明,在域内ASR数据(VoxPopuli)上,该方法显著优于不确定性估计和先前注意力基线(PR-AUC提升高达+0.23)。研究发现,仅需约100个注意力头即可获得强性能,且能改善跨域泛化。然而,方法效果依赖于模型和任务,在嘈杂数据(CALLHOME)上泛化能力下降,且在ASR上训练的模型无法直接用于语音翻译(S2TT),突显了幻觉模式的任务特异性。 🏗️ 模型架构 本文并未提出一个新的端到端SpeechLLM架构,而是设计了一个基于注意力特征的轻量级幻觉检测器,该检测器作为插件,在现有的SpeechLLM(如Qwen-2-Audio, Voxtral-3B)推理时并行工作。 ...

2026-04-22 · 更新于 2026-05-21 · 2 min · 290 words

HalluAudio: A Comprehensive Benchmark for Hallucination Detection in Large Audio-Language Models

📄 HalluAudio: A Comprehensive Benchmark for Hallucination Detection in Large Audio-Language Models #基准测试 #模型评估 #音频大模型 🔥 评分:9.0/10 | arxiv 👥 作者与机构 第一作者: Feiyu Zhao(天津大学,智能与计算学院) 通讯作者: Jianguo Wei(天津大学,智能与计算学院) 其他作者: Yiming Chen(华硕智能云服务,新加坡;与第一作者贡献相等),Wenhuan Lu(天津大学,智能与计算学院),Daipeng Zhang(天津大学,智能与计算学院),Xianghu Yue(天津大学,智能与计算学院) 💡 毒舌点评 亮点: 这篇论文堪称“音频大模型照妖镜”,首次系统性地给当前火热的LALMs做了一次全面的“幻觉体检”,设计了各种刁钻的“听力测试题”(对抗性提示、混合音频),揭露了它们“一本正经胡说八道”或“该答却拒答”的多种病症,为领域提供了急需的诊断工具。 槽点: 主要是个“体检报告”而非“治疗方案”,它精确诊断了问题但并未提出新的缓解方法。另外,部分任务(如单词顺序判断)可能过于依赖模板,模型或许能通过“猜”而非真正“听”来应付。 🔗 开源详情 代码: 已开源。GitHub地址:https://github.com/Feiyuzhao25/halluaudio 数据集: HalluAudio基准测试数据集已随代码开源,包含所有QA对和音频引用。 模型权重: 本文不涉及新模型的训练,因此不提供模型权重。评估的是已有的公开或闭源模型。 在线Demo: 论文中未提及在线Demo。 依赖的开源工具/模型: 评估中使用了多个开源LALM,如Qwen-Audio, Qwen2-Audio, Llama-Omni, MiMo-Audio等(详见附录D)。 📌 核心摘要 这篇论文旨在解决大型音频语言模型(LALM)中普遍存在的“幻觉”问题(即生成与音频证据不符的内容)缺乏系统性评估工具的难题。为此,作者构建并发布了HalluAudio,这是首个大规模、多领域(语音、环境声、音乐)、多任务(二分类、多选、属性验证、开放生成)的人工验证音频幻觉检测基准,包含超过5700个精心设计的QA对。其关键方法是通过对比性/对抗性提示和混合音频条件来系统性地诱发幻觉,并设计了一套包含准确性、是/否偏差、错误拒绝率和错误类型分析的多维度评估框架。通过对12个主流开源和闭源LALM的全面评估,论文发现:1)幻觉是普遍且领域依赖的系统性问题;2)即使在标准基准上表现优异的模型,在HalluAudio上也可能因声学定位、时序推理或音乐属性理解等缺陷而失败;3)模型存在显著的是/否回答偏差和不合理的拒绝行为。这项工作为评估和提升LALM的可靠性提供了关键的基础设施和深入的实证洞察。 🏗️ 模型架构 注意: 本文的核心贡献是提出一个评估基准(Benchmark),而非一个新的模型架构。因此,本节将详细描述该基准测试的整体架构和评估流程。 整体架构(评估管线): 如图1所示,HalluAudio的评估是一个模块化、端到端��流程,旨在系统性地引发、测量和分析LALM中的幻觉。 输入层: 从语音(Common Voice)、环境声(FSD50K)、音乐(GTZAN, Mridangam)数据集中选择音频片段。 任务构建层: 对每个音频,使用参数化提示模板生成问题。模板包含可替换的槽位(如单词、标签),通过填充有效或无效的属性来生成“可回答”或“故意不可回答”的查询,以诱发不同类型的幻觉。 模型推理层: 将构建好的“音频-问题”对输入到待评估的LALMs中,采用零样本协议,模型输出为文本。 输出标准化层: 由于模型输出形式多样(如“是的”、“Yes.”、“确实如此”),需要通过文本处理(小写化、去标点、关键词匹配)将其标准化为结构化标签(如Yes, No, 数字, Refusal)。 有效性检查与行为分析层: 将标准化后的输出与标准答案进行比对,计算各项指标(准确率、是/否偏差、错误拒绝率等),并进行细粒度的错误类型分析(如幻觉性肯定回答、错误的任务 grounding 答案、错误拒绝)。 关键设计选择理由: 参数化模板: 确保生成大规模、可控且与音频内容精确对齐的QA对。 对比性/对抗性构造: 通过最小化修改(如改变单词顺序、引入噪声)创建正负对比样本,以孤立出引发幻觉的具体触发器。 多领域覆盖: 确保评估的全面性,因为模型在不同音频域(语言 vs. 非语言)可能表现出不同的幻觉模式。 多维度指标: 超越简单的准确率,诊断模型的行为偏差(如盲目肯定)和保守性偏差(如过度拒绝)。 💡 核心创新点 首个大规模、多领域音频幻觉基准: 提出了HalluAudio,这是第一个专门针对音频(涵盖语音、环境声、音乐)的、大规模(>5K QA对)、经过人工验证的幻觉检测基准,填补了该领域的关键空白。 系统性的幻觉诱导方法: 创新性地设计了对比性任务(如单词顺序、声音共存)和对抗性/无效查询(如询问不存在的说话者性别、随机声音标签),以主动、可控地触发模型的各类幻觉行为(虚构、证据矛盾、无根据肯定)。 多维度诊断评估框架: 提出了一套超越准确率的评估指标,包括是/否偏差测试(Yes-p Ratio, Unrelated Ratio, Conditional Accuracy)和错误拒绝率,能够细粒度地区分模型的不同失败模式(如感知错误、推理错误、过度保守)。 深入的跨模型与跨领域实证分析: 对12个具有代表性的开源和闭源LALM进行了首次大规模、跨领域的对比评估,揭示了幻觉行为的领域特异性(如语音中的结构幻觉、环境声中的感知幻觉)和模型特异性,为未来模型改进提供了明确方向。 🔬 细节详述 数据集构建: 来源: 语音(Common Voice)、环境声(FSD50K)、音乐(GTZAN, Mridangam Strokes, Mridangam Tonics)。 规模: 总计5720个QA对。其中,语音域任务最丰富(包括重叠检测、词序、计数、无效查询等),环境声音侧重存在性与共现性,音乐侧重乐器/流派识别与比较。 流程: 五步管线:1) 音频选择;2) 模板生成;3) 对比/对抗构造;4) 人工验证(三轮,Cohen‘s κ=0.91);5) 打包与平衡。 关键设计: 包含2662个对比性任务和621个明确的对抗性/无效查询,57.4%的数据旨在通过控制扰动或证据缺失来探测幻觉。 评估指标: 准确性: 标准任务准确率。 是/否偏差测试: Yes-p Ratio: 在二元问题中回答“Yes”的比例。 Unrelated Ratio: 在回答错误的样本中,模型给出与问题无关答案的比例。 Conditional Accuracy: 基于预测类别(Yes/No)划分的条件准确率。 错误拒绝率: 模型拒绝回答可回答问题的比例。 评估模型: 共12个模型,包括2个闭源(GPT-4o-Audio, Gemini-2.5-Flash)和10个开源模型(如Qwen系列、Llama-Omni系列、MiMo-Audio、Step-Audio-2等)。 关键发现(实验数据): 语音域: MiMo-Audio和Step-Audio-2在时序任务上表现优异(如重叠检测准确率>96%),而Qwen-Audio、Pengi等在某些子任务上低于50%。Phi-4在噪声和性别扰动下性能下降。 环境声域: MiMo-Audio和Qwen2.5-Omni在时序比较任务上领先。Audio Flamingo3和Pengi在多标签识别上表现不佳。模型在“随机错误”提示下行为分化:一些自信地幻觉,另一些则过度拒绝。 音乐域: GPT-4o-Audio和MiMo-Audio相对稳健,而Pengi和Qwen2-Audio在流派/乐器识别上接近随机水平。在计数和排序任务上,模型普遍表现不佳(如Gemini-2.5-Flash低于15%)。 是/否偏差: Qwen系列模型在跨域任务中表现出强烈的肯定回答倾向。在环境声任务中,这种偏差最明显。 错误拒绝: Gemini-2.5-Flash和Qwen2-Audio表现出最严重的过度拒绝倾向,尤其在结构复杂的任务(计数、速度比较)和感知不确定的任务(声音共存)中。 📊 实验结果 主要指标对比(表格数据复述): ...

2026-04-22 · 更新于 2026-05-21 · 2 min · 305 words

MTR-DuplexBench: Towards a Comprehensive Evaluation of Multi-Round Conversations for Full-Duplex Speech Language Models

📄 MTR-DuplexBench: Towards a Comprehensive Evaluation of Multi-Round Conversations for Full-Duplex Speech Language Models #语音对话系统 #基准测试 #语音大模型 #实时处理 #模型评估 ✅ 评分:7.5/10 | arxiv 👥 作者与机构 第一作者:He Zhang(清华大学) 通讯作者:论文未明确指定通讯作者。根据作者列表和脚注(Equal contribution. Corresponding author.),He Zhang 和 Wenqian Cui 可能为共同第一作者,且其中一人为通讯作者,但未明确区分。 其他作者: Wenqian Cui(香港中文大学) Haoning Xu(香港中文大学) Xiaohui Li(华为技术有限公司) Lei Zhu(华为技术有限公司) Haoli Bai(华为技术有限公司) Shaohua Ma(清华大学) Irwin King(香港中文大学) 💡 毒舌点评 亮点:这篇论文精准地抓住了全双工语音模型评测中的“阿喀琉斯之踵”——如何在连续、重叠的对话流中进行公平、可复现的轮次级评估。其提出的轮次分割算法像一把精准的手术刀,试图将混沌的对话流解剖成可分析的片段,这份工程和评测的巧思值得点赞。 槽点:然而,作为一个“裁判员”,自己不开源(代码、数据、评估脚本),却要求大家按照你的新规则来比赛,这多少有点“只许州官放火”的味道。而且,全文高度依赖GPT-4o当“裁判的裁判”,让人不禁怀疑这到底是评测FD-SLMs,还是在变相测试GPT-4o的“打分”能力。 🔗 开源详情 论文中未提及任何开源计划。未提供代码、模型权重、评测数据集或评估脚本的获取方式。这是一个重大缺陷,限制了该基准的可复现性和社区采纳度。 📌 核心摘要 这篇论文旨在解决当前全双工语音语言模型(FD-SLMs)评测体系的一个关键缺陷:缺乏对多轮、连续对话能力的系统性评估。现有基准多关注单轮交互或特定对话特性(如打断),忽略了模型在多轮语境下维持指令遵循、安全等核心能力的一致性。为此,作者提出了MTR-DuplexBench,一个全新的多轮全双工对话评测基准。其核心贡献是设计了一套全双工轮次分割方法,通过结合语音活动检测、GPT-4o语义理解和聚类算法,将连续的对话音频自动、稳定地切分为离散的“轮次”,从而解决了“边界模糊”和“上下文不一致”的评测难题。该基准构建了覆盖四大维度的评测集:对话质量(使用自然对话数据)、对话特性(如平滑交接、打断等)、指令遵循和安全(使用合成数据)。实验以Moshi模型为基线,揭示了其在多轮交互中性能(如成功率、延迟)普遍衰减的规律,证明了该基准的有效性。主要局限性在于评测高度依赖外部大模型(GPT-4o),且未开源任何资源,可能影响其可复现性和广泛应用。 🏗️ 模型架构 注意:本论文的核心贡献是评测基准(Benchmark),而非提出新的语音模型。因此,“模型架构”部分描述的是其评测框架的整体架构和工作流程。 评测框架的核心是实现对FD-SLMs进行轮次级(turn-by-turn) 的自动化评估。其完整流程如下: 输入:双通道音频(用户和助手),以及待评测的FD-SLM。 轮次分割模块(核心创新): 信息提取:使用Whisper-timestamped和Silero VAD,从两个通道的音频中提取带有时间戳的语音段转录文本。 GPT-4o语义分割:将提取出的所有语音段按时间排序后,输入给GPT-4o,利用其语义理解能力判断用户发言的起止点,生成候选轮次边界。此步骤重复6次以获取多个候选结果。 多数投票与聚类:将6次分割结果进行聚类。如果两个候选轮次在时间上重叠超过30%,则将它们合并为一个新候选轮次,其起止时间取所有合并轮次的中位数。仅保留被投票超过1次(即至少在2次GPT分割中出现)的轮次。 最终重叠解决:合并所有在时间上仍有重叠的候选轮次,得到最终的用户轮次划分(FinalTurns)。 上下文对齐与推理: 根据分割出的用户轮次[C.start, C.end],为助手分配响应时间段[C.start, C_next.end]。 关键设计:在助手的响应时间段内,将下一用户轮次的音频静音,并将该时间段内助手通道的历史音频替换为真实(Ground Truth)语音。这确保了模型在推理时,其上下文(历史对话)与评测场景严格一致,避免了因模型早期回答偏离真实对话而导致的“上下文漂移”问题。 将处理后的、对齐的音频流输入待评测的FD-SLM,获取其在当前轮次的响应。 多维度评估: 对模型在每个轮次的输出,根据不同的评测维度(对话质量、对话特性等),调用相应的评估流程和指标(如GPT-score、成功率、延迟、拒绝率)进行打分。 输出:模型在各个评测维度、各个轮次上的量化得分。 💡 核心创新点 全双工轮次分割方法论: ...

2026-04-22 · 更新于 2026-05-21 · 2 min · 237 words

Voice of India: A Large-Scale Benchmark for Real-World Speech Recognition in India

📄 Voice of India: A Large-Scale Benchmark for Real-World Speech Recognition in India #语音识别 #模型评估 #多语言 #低资源 🔥 评分:8.5/10 | arxiv 👥 作者与机构 第一作者:Kaushal Bhogale (印度马德拉斯理工学院,计算机科学与工程系,cs22d006@cse.iitm.ac.in) 通讯作者:Mitesh M. Khapra (印度马德拉斯理工学院,计算机科学与工程系)(推断:作为资深作者和项目主导者) 其他作者: Manas Dhir, Amritansh Walecha, Manmeet Kaur, Vanshika Chhabra, Aaditya Pareek, Hanuman Sidh, Sagar Jain, Bhaskar Singh, Utkarsh Singh, Tahir Javed, Shobhit Banga (印度马德拉斯理工学院,计算机科学与工程系) (部分作者可能同时隶属 Josh Talks, India,但论文中未明确个人与机构的对应关系,此处统一列出) 💡 毒舌点评 亮点:这论文像给印度ASR领域做了一次彻底的“体检”,把现有模型在真实世界(电话、方言、乡村)的“体面”扒得干干净净,用数据和地图说话,指出了“高WER重灾区”和“公平性幻觉”,堪称一份犀利的行业诊断报告。 槽点:最核心的“体检报告”(数据)自己藏着不给看,只给看化验单(结果),让同行想复现、想基于此深入研究都无从下手,这“闭源”操作在学术圈属实有点“不讲武德”。 🔗 开源详情 代码:论文中未提及开源评估代码或工具。 模型权重:论文评估的模型包括商业API和开源模型,但基准本身不涉及新模型训练。 数据集:明确声明为闭源基准(closed source benchmark)。数据不公开,仅提供详细的构建方法和评估结果。 预训练权重:不适用。 在线Demo:未提及。 引用的开源项目:论文提到了依赖的模型和工具,如Whisper, Indic Conformer, OmniASR, Meta MMS, SpeechBrain VoxLingua107, DNSMOS, WebRTC VAD等。 📌 核心摘要 这篇论文旨在解决现有印度语言语音识别(Indic ASR)基准不反映真实场景、评估方法不公平的核心问题。为此,作者构建了“Voice of India”大规模基准,其数据源自3.6万名说话者的非脚本化电话对话,覆盖15种主要印度语言和139个地区集群,总计536小时。关键创新在于采用了考虑拼写变体的“正字法知情词错率”(OIWER)评估指标,并构建了“方言格”(Lattice)来容纳合理的转录变体。通过在14个先进ASR系统(包括商业API和开源模型)上的评估,论文揭示了几个关键发现:1)即使最佳模型在多种语言上也未达到20%的实用WER阈值;2)性能存在显著的地理偏差,印度北部“印地语带”和都市区表现远优于南部和语言多样地区;3)现有公开基准(如FLEURS)会高估模型性能;4)模型在女性语音上略有优势,但对年轻说话者和特定方言(如Bhojpuri)表现不佳。该基准为开发更鲁棒、公平的印度语音识别系统提供了关键的评估工具和明确的改进方向。 ...

2026-04-22 · 更新于 2026-05-21 · 2 min · 385 words

A state-space representation of the boundary integral equation for room acoustic modelling

📄 A state-space representation of the boundary integral equation for room acoustic modelling #空间音频 #信号处理 #模型评估 🔥 评分:8.0/10 | arxiv 👥 作者与机构 (根据论文摘要信息及常见研究机构推断) 第一作者:Randall Ali(推断:比利时鲁汶大学(KU Leuven)ESAT-PSI实验室) 通讯作者:Toon van Waterschoot(推断:比利时鲁汶大学(KU Leuven)ESAT-PSI实验室 / 代尔夫特理工大学(TU Delft)) 其他作者: Thomas Dietzen(推断:比利时鲁汶大学(KU Leuven)ESAT-PSI实验室) Matteo Scerbo(推断:意大利米兰理工大学(Politecnico di Milano)) Enzo De Sena(推断:伦敦大学金史密斯学院(Goldsmiths, University of London)) 💡 毒舌点评 这篇论文的亮点在于它用一套极其优美和统一的数学语言(状态空间算子理论),把房间声学里几个“老死不相往来”的模型(边界元、延迟网络、几何声学)给“串”起来了,理论贡献堪称“数学魔术”。槽点也同样突出:全文都在“纸上谈兵”,没有一行代码、一个仿真结果来证明这个漂亮的框架到底好不好用、快不快,让人不禁想问:“所以,然后呢?代码在哪?” 🔗 开源详情 论文中未提及任何关于代码、模型或数据集的开源计划。所有内容均为理论推导和讨论。 📌 核心摘要 本文旨在解决传统房间声学建模中多种方法(如边界元法、延迟网络、几何声学)彼此独立、缺乏统一理论基础的问题。作者提出了一种名为边界积分算子状态空间(BIOSS) 的新框架。该框架的核心是将描述声场的边界积分方程重新表述为一个状态空间模型,其中状态是房间边界上的声压分布函数,系统动态由一组积分算子(而非传统的矩阵)描述。通过数学推导,作者展示了BIOSS模型可以等价地转换为具有反馈或前馈结构的传递函数形式。这一框架的主要贡献在于其强大的统一能力:作者证明了BIOSS与边界元模型、延迟网络以及部分几何声学模型之间存在数学等价性,为理解这些模型的内在联系提供了理论基础。此外,论文提出,未来可将状态空间理论中的可控性、可观测性等概念应用于房间声学,以开发新的声场推断和控制方法。主要的局限性在于,本文仅提出了纯理论框架,缺乏任何实验验证或计算实现,其实际效果和效率有待后续研究证实。 🏗️ 模型架构 BIOSS模型并非一个用于具体任务的“神经网络”架构,而是一个描述房间声场动态的数学物理模型。其核心思想是将连续空间、连续时间的物理系统(房间声场)用状态空间理论重新参数化。 整体输入输出流程: 输入:位于房间内部的声源产生的声压(或速度势)。 内部状态:定义在房间边界(表面)上的声压分布函数 p(x, t),其中 x 是边界上的空间坐标。这是一个无限维的函数,是模型的核心。 系统动态:由一组积分算子 A, B, C, D 描述。这些算子作用于状态函数 p(x, t),决定其如何随时间演化,并如何产生输出。 输出:房间内任意接收点处的声压,或边界上的声压本身。 主要组件与连接: ...

2026-04-21 · 更新于 2026-05-21 · 2 min · 251 words

Anonymization, Not Elimination: Utility-Preserved Speech Anonymization

📄 Anonymization, Not Elimination: Utility-Preserved Speech Anonymization #语音匿名化 #流匹配 #扩散模型 #模型评估 #音频安全 🔥 评分:8.5/10 | arxiv 👥 作者与机构 第一作者:Yunchong Xiao*, Yuxiang Zhao*(上海交通大学,计算机科学与技术学院,X-LANCE实验室) 通讯作者:Jiachun Liao(南湖实验室,大数据技术研究中心),Xie Chen(上海交通大学,计算机科学与技术学院,X-LANCE实验室) 其他作者: Ziyang Ma(上海交通大学,计算机科学与技术学院,X-LANCE实验室) Shuai Wang(南京大学,智能科学与技术学院) Kai Yu(上海交通大学,计算机科学与技术学院,X-LANCE实验室) 💡 毒舌点评 这篇论文的亮点在于把“匿名化”和“消除”分得门儿清,用流匹配生成千变万化的新“声纹”,而不是粗暴地抹掉或替换,还煞有介事地设计了从头训练下游模型的评估协议,这比那些拿预训练模型在匿名数据上跑个分就完事的“表面功夫”扎实多了。槽点嘛,内容匿名化部分对“语言风格”这种更隐蔽的PII保护力度似乎还不够,而且这么复杂的两阶段框架,真要部署到实时系统里,估计得把服务器累得够呛。 🔗 开源详情 代码:论文中提到“GitHub Issue”,并在摘要后提供了“GitHub”链接(但未在提供的文本中显示具体URL)。论文正文也提到“Please view the build logs for errors. Generated by L A T E xml.”,表明其HTML版本由LaTeXML生成,但这不是代码仓库。推断代码已开源或计划开源,具体地址需查看原论文PDF或arXiv页面。 模型权重:论文中未明确提及是否公开预训练模型权重(如骨干网络、匿名器、SECA管道中的各组件)。 数据集:实验使用公开数据集:LibriSpeech, LibriTTS, IEMOCAP, WikiAnn。论文未提及发布新的数据集。 预训练权重:论文中引用了多个预训练模型:HuBERT-large, CAM++, ECAPA-TDNN (用于评估), Flair NER, F5-TTS, Whisper-large-v3 (用于评估), Emotion2Vec (用于评估)。这些均非本文作者训练。 在线 Demo:论文中未提及。 依赖的开源项目:PyTorch, icefall (ASR训练配方), F5-TTS仓库, SpeechBrain (ECAPA-TDNN), HuggingFace Transformers/Models (多个模型), RMVPE等。 📌 核心摘要 这篇论文针对语音数据隐私保护中“隐私泄露”与“数据效用损失”的核心矛盾,提出了一个新颖的两阶段框架。首先,为解决语音匿名化(保护“谁在说”)中身份多样性不足和可控性差的问题,提出了基于流匹配的说话人嵌入匿名器(F3-VA),它能生成多样且与原始说话人充分分离的新身份。其次,为解决内容匿名化(保护“说了什么”)中传统删除/替换方法导致的声学不连续问题,提出了基于生成式语音编辑的管道(SECA),能无缝替换个人隐私信息。更重要的是,论文提出了一种更真实的效用评估协议,即通过在匿名化数据上从头训练ASR、TTS和SER模型来评估其作为训练资源的价值,而非仅在预训练模型上测试。实验表明,该框架在VoicePrivacy Challenge基线对比中,在提供更强隐私保护(更高的声学和内容验证等错误率)的同时,显著降低了下游任务性能的损失。 ...

2026-04-21 · 更新于 2026-05-21 · 3 min · 568 words