Game-Time: Evaluating Temporal Dynamics in Spoken Language Models

📄 Game-Time: Evaluating Temporal Dynamics in Spoken Language Models #基准测试 #模型评估 #语音大模型 #全双工通信 ✅ 7.5/10 | 前25% | #语音对话系统 | #基准测试 | #模型评估 #语音大模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Kai-Wei Chang1(麻省理工学院),En-Pei Hu2(台湾大学) (*表示共同第一作者) 通讯作者:未说明 (论文中未明确标注通讯作者) 作者列表:Kai-Wei Chang (麻省理工学院), En-Pei Hu (台湾大学), Chun-Yi Kuan (台湾大学), Wenze Ren (台湾大学), Wei-Chih Chen (台湾大学), Guan-Ting Lin (台湾大学), Yu Tsao (中央研究院), Shao-Hua Sun (台湾大学), Hung-yi Lee (台湾大学), James Glass (麻省理工学院) 💡 毒舌点评 亮点:选题精准地击中了当前语音对话模型“懂内容,不懂时间”的痛点,并创新性地将儿童语言学习中的“游戏化”概念引入评测框架设计,思路新颖且系统。短板:实验规模(模型数量与评测样本)相对有限,且高度依赖外部工具(如Whisper转录、Gemini作为Judge)进行评估,使得评测流程的自主性与结果的绝对可靠性存在一定折扣。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 245 words

Hashing-Baseline: Rethinking Hashing in the Age of Pretrained Models

📄 Hashing-Baseline: Rethinking Hashing in the Age of Pretrained Models #音频检索 #图像检索 #预训练 #基准测试 #模型评估 🔥 8.0/10 | 前25% | #音频检索 #音频分类 | #预训练 | #音频检索 #图像检索 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:未说明(论文作者列表顺序为并列贡献) 通讯作者:未说明 作者列表:Ilyass Moummad(INRIA, LIRMM, Université de Montpellier, France),Kawtar Zaher(INRIA, LIRMM, Université de Montpellier, France;Institut National de l’Audiovisuel, France),Lukas Rauch(University of Kassel, Germany),Alexis Joly(INRIA, LIRMM, Université de Montpellier, France) 💡 毒舌点评 亮点在于论文极其简洁地证明了“大力出奇迹”的道理:利用强大的预训练模型(如DINOv2、CLAP)的冻结嵌入,搭配几个无需训练的经典降维与二值化“零件”(PCA、随机正交投影),就能在图像和音频检索任务上达到与昂贵训练的深度哈希方法相竞争的性能,这为实际应用提供了一个极其简单且强大的基线。短板在于方法本身的创新性有限,本质上是现有技术的拼接,且虽然提出了音频哈希基准,但在更大规模、更贴近真实场景的跨域检索任务上的验证仍然不足。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 268 words

ICASSP 2026 - 基准测试 论文列表

ICASSP 2026 - 基准测试 共 5 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 StyleBench: Evaluating Speech Language Models on Conversatio 8.5分 前25% 🥈 LongSpeech: A Scalable Benchmark for Transcription, Translat 7.8分 前25% 🥉 Savgbench: Benchmarking Spatially Aligned Audio-Video Genera 7.5分 前50% 4. Streamingbench: Assessing the Gap for MLLMs to Achieve Strea 7.5分 前25% 5. Can Large Audio Language Models Understand Audio Well? Speec 7.0分 前25% 📋 论文详情 🥇 StyleBench: Evaluating Speech Language Models on Conversational Speaking Style Control 🔥 8.5/10 | 前25% | #基准测试 | #模型评估 | #语音大模型 #语音情感识别 ...

2026-04-29 · 更新于 2026-07-29 · 4 min · 748 words

Leveraging prediction entropy for Automatic prompt weighting in Zero-Shot Audio-Language Classification

📄 Leveraging prediction entropy for Automatic prompt weighting in Zero-Shot Audio-Language Classification #音频分类 #零样本 #多模态模型 #基准测试 #模型评估 ✅ 7.5/10 | 前25% | #音频分类 | #零样本 | #多模态模型 #基准测试 学术质量 6.2/7 | 选题价值 1.3/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者:Karim El Khoury† (ICTEAM, UCLouvain, Belgium), Maxime Zanella† (ICTEAM, UCLouvain, Belgium; ILIA, UMons, Belgium), Tiffanie Godelaine† (ICTEAM, UCLouvain, Belgium) (论文注明†表示贡献均等) 通讯作者:未说明 作者列表:Karim El Khoury (ICTEAM, UCLouvain, Belgium), Maxime Zanella (ICTEAM, UCLouvain, Belgium; ILIA, UMons, Belgium), Tiffanie Godelaine (ICTEAM, UCLouvain, Belgium), Christophe De Vleeschouwer (ICTEAM, UCLouvain, Belgium), Benoît Macq (ICTEAM, UCLouvain, Belgium) 💡 毒舌点评 本文提出的“熵最小化”加权策略,是一个将视觉领域思路巧妙迁移到音频-语言模型提示集成的优雅解决方案,其轻量级(可忽略的计算开销)和无需标注数据的特性使其具备即插即用的实用价值。然而,整篇论文的创新和验证都高度绑定在一个较为陈旧的模型(CLAP-2022)上,缺乏在新近、更强大的音频-语言模型(如Audio-MAE, Pengi)上的验证,这极大地限制了其贡献的通用性和时效性。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 290 words

LongSpeech: A Scalable Benchmark for Transcription, Translation and Understanding in Long Speech

📄 LongSpeech: A Scalable Benchmark for Transcription, Translation and Understanding in Long Speech #基准测试 #数据集 #语音识别 #语音翻译 #多语言 ✅ 7.8/10 | 前25% | #基准测试 | #数据集 | #语音识别 #语音翻译 学术质量 5.5/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Fei Yang(上海交通大学;阿里巴巴国际数字商务) 通讯作者:Chenyang Lyu(阿里巴巴国际数字商务) 作者列表: Fei Yang(上海交通大学;阿里巴巴国际数字商务) Xuanfan Ni(阿里巴巴国际数字商务) Renyi Yang(代尔夫特理工大学;阿里巴巴国际数字商务) Jiahui Geng(林雪平大学) Qing Li(格罗宁根大学) Chenyang Lyu(阿里巴巴国际数字商务) Yichao Du(阿里巴巴国际数字商务) Longyue Wang(阿里巴巴国际数字商务) Weihua Luo(阿里巴巴国际数字商务) Kaifu Zhang(阿里巴巴国际数字商务) 💡 毒舌点评 亮点:论文直面语音模型从“短句能手”到“长卷大师”转型过程中的评测荒漠,构建了一个任务全面、数据量级宏大(10万+段,每段约10分钟)的“压力测试场”,其“内容分离”和“时序定位”等任务设计尤其刁钻,能有效暴露模型在长上下文推理上的短板。短板:作为基准,其自身的“创新”更多是工程整合与任务设计,论文对实验结果的剖析深度略显不足(例如,为何某些模型在特定任务上崩溃?),且完全依赖GPT-4作为某些任务的评估器,引入了“用更贵的模型评估便宜的模型”的黑箱与成本问题。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文评估了多个现有模型,但未提及公开自己训练的模型权重。 数据集:论文明确表示“The benchmark will be made publicly available to the research community.”,即数据集计划开源,但未给出具体的下载链接或平台(如Hugging Face)。 Demo:论文中未提及。 复现材料:论文提供了数据构建的方法论和流程描述,这是重要的复现材料。但未提供数据预处理脚本、评估脚本或具体的超参数配置。 引用的开源项目:论文引用了被评估的音频语言模型的代码库或技术报告,如Whisper [1], Qwen2-Audio [5], Kimi-Audio [6], AudioFlamingo3 [9], Voxtral [10], DashengLM [11]。也引用了评估工具如GPT-4-Turbo [14]和指标库如ROUGE [13]。 📌 核心摘要 解决问题:现有语音基准测试(如LibriSpeech)主要针对短音频,无法有效评估模型处理真实世界长时音频(如会议、讲座)的能力,特别是在需要跨片段理解、推理和跟踪复杂信息时。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 250 words

Measuring Prosody Diversity in Zero-Shot TTS: A New Metric, Benchmark, and Exploration

📄 Measuring Prosody Diversity in Zero-Shot TTS: A New Metric, Benchmark, and Exploration #语音合成 #模型评估 #基准测试 #自监督学习 🔥 8.0/10 | 前25% | #语音合成 | #模型评估 | #基准测试 #自监督学习 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Yifan Yang(上海交通大学 X-LANCE实验室,蚂蚁关键人工智能实验室,江苏语言计算重点实验室) 通讯作者:Xie Chen(上海交通大学 X-LANCE实验室,上海创新研究院) 作者列表:Yifan Yang(上海交通大学 X-LANCE实验室,蚂蚁关键人工智能实验室,江苏语言计算重点实验室),Bing Han(上海交通大学 X-LANCE实验室,蚂蚁关键人工智能实验室,江苏语言计算重点实验室),Hui Wang(南开大学),Long Zhou(腾讯混元),Wei Wang(上海交通大学 X-LANCE实验室,蚂蚁关键人工智能实验室,江苏语言计算重点实验室),Mingyu Cui(腾讯混元),Xu Tan(腾讯混元),Xie Chen(上海交通大学 X-LANCE实验室,上海创新研究院) *注:原文作者姓名“Mingyu Cui”在页脚签名中显示为“Mingyu Cui”,但参考文献中显示为“Mingyu Cui”。此处按页脚信息记录。 💡 毒舌点评 这篇论文最大的价值在于为“韵律多样性”这个有点玄学的概念建立了一套扎实的客观评估体系(DS-WED指标+ProsodyEval数据集),让社区有了统一的比较标尺,而不仅仅是依赖主观听感或片面的F0/MCD指标。但必须指出,其构建的“黄金标准”ProsodyEval数据集仅覆盖了7个模型和英语语音,其泛化到更多语言、更嘈杂或更具表现力场景的有效性尚未验证,这是其作为通用基准的主要短板。 🔗 开源详情 代码:是,提供了代码仓库链接:https://github.com/yfyeung/DS-WED。 模型权重:论文未提及公开其训练的任何模型权重(如DS-WED评估流水线中使用的k-means聚类模型)。所评测的各TTS系统为第三方开源模型,论文中提供了其官方链接。 数据集:是,提供了ProsodyEval评测数据集的访问链接:https://prosodyeval.github.io。 Demo:未提及在线演示。 复现材料:论文提供了详细的评测设置(如DS-WED使用的SSL层、聚类数)、基准测试所用的语音来源(LibriSpeech test-clean, Seed-TTS test-en),以及消融实验的具体配置。 论文中引用的开源项目:Silero-VAD (用于语音活动检测)、HuBERT、WavLM (用于语音表示)、以及所评测的TTS系统(XTTS-v2, CosyVoice, MaskGCT, E2 TTS, F5-TTS, ZipVoice)。 📌 核心摘要 问题:零样本语音合成(TTS)中韵律多样性(即同一文本不同合成结果间的语调、节奏等差异)对自然表现力至关重要,但缺乏与人类感知高度相关、且能全面捕捉韵律信息的客观评估指标。 方法核心:提出ProsodyEval人类标注数据集和DS-WED(离散语音加权编辑距离)指标。DS-WED首先使用自监督模型(如HuBERT)对语音进行离散化得到语义token序列,然后通过计算两段语音token序列间的加权编辑距离来量化韵律差异。 创新点:1) DS-WED相比传统声学指标(如log F0 RMSE、MCD)与人类评分相关性显著更高;2) 提供了首个系统性的零样本TTS韵律多样性基准测试;3) 发现了生成范式(AR vs NAR)、持续时间控制、强化学习(DPO)等因素对韵律多样性的关键影响。 实验结果:在ProsodyEval数据集上,DS-WED与人类平均意见分(PMOS)的平均皮尔逊相关系数达0.77,远高于MCD(0.66)和log F0 RMSE(0.30)。基准测试显示,自回归(AR)模型在韵律多样性上普遍优于基于流匹配的非自回归(NAR)模型,但MaskGCT(掩码生成模型)表现突出。此外,DPO对齐会降低韵律多样性(例如CosyVoice 2下降18.8%)。具体数据见下表: 表1:不同指标与人工评分PMOS的相关性对比(平均皮尔逊系数及其95%置信区间) ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 293 words

Mitigating Shared-Private Branch Imbalance via Dual-Branch Rebalancing for Multimodal Sentiment Analysis

📄 Mitigating Shared-Private Branch Imbalance via Dual-Branch Rebalancing for Multimodal Sentiment Analysis #多模态模型 #对比学习 #跨模态 #情感分析 #基准测试 ✅ 7.5/10 | 前25% | #多模态模型 | #对比学习 | #跨模态 #情感分析 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者:Chunlei Meng(复旦大学智能机器人与先进制造学院) 通讯作者:Chun Ouyang(复旦大学智能机器人与先进制造学院,邮箱标为*) 作者列表:Chunlei Meng(复旦大学)、Jiabin Luo(北京大学)、Pengbin Feng(南加州大学)、Zhenglin Yan(复旦大学)、Chengyin Hu(中国石油大学北京克拉玛依校区)、Zhongxue Gan(复旦大学)、Chun Ouyang(复旦大学) 💡 毒舌点评 亮点:论文对现有共享-私有分解方法中“分支不平衡”问题的诊断非常精准,提出的两个针对性模块(处理共享冗余的TSF和防止私有特征稀释的AGPR)逻辑清晰,并通过可视化证据(如t-SNE、注意力分布)有力支持了其论点。短板:整体框架模块较多,增加了理解和调参的复杂度;此外,方法在很大程度上依赖于作为基础的“标准多模态解码”阶段,对该阶段质量的敏感性未被充分探讨。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:使用的是公开的CMU-MOSI, CMU-MOSEI和MIntRec数据集,但论文未提供具体获取或预处理脚本。 Demo:未提及。 复现材料:提供了详细的模型架构图(图2)、主要损失函数公式(公式2, 3, 12-14, 20-22)和部分训练超参数(batch size=128, weight decay=1e-4, Adam, 5-fold CV, patience=6)。但关键细节如学习率、特征维度、各模块具体层数/隐藏维度、损失权重\(\alpha_1, \alpha_2, \beta_1, \beta_2\)的具体取值等未说明。 论文中引用的开源项目:提到了使用的预训练模型(BERT)和基础编码器(TCN),但未具体说明其来源或版本。 📌 核心摘要 问题:论文指出,在多模态情感分析的共享-私有分解框架中,模态异质性并未被消除,而是导致了“共享-私有分支不平衡”:共享分支积累冗余且偏向主导模态的模式,而私有分支在交互中逐渐同质化,丧失判别性。 方法核心:提出双分支再平衡框架(DBR)。它在标准多模态解码(MD)后,用时序-结构分解(TSF) 模块在共享分支中分离并自适应融合时序与结构信息,抑制冗余;用锚点引导的私有路由(AGPR) 模块在私有分支中保留模态特异性并调控跨模态借用;最后用双向再平衡融合(BRF) 模块将两个正则化后的分支进行上下文感知的集成。 创新点:与现有方法侧重于更干净的分解或更强的交互不同,DBR首次将“分支不平衡”作为统一问题进行诊断和协同治理,其创新在于提出了一套针对性的“再平衡”机制,而非简单增加交互强度。 实验结果:在CMU-MOSI、CMU-MOSEI和MIntRec三个基准上,DBR在所有评估指标上均超越了现有方法。例如,在MOSI上,DBR的Acc-7达到49.26%,比次优方法高2.18%;在MOSEI上,Acc-7达到55.62%,MAE降至0.526。消融实验显示,移除任一模块(TSF, AGPR, BRF)均会导致性能下降,其中AGPR影响最大。 实际意义:该工作为解决多模态表示学习中的信息冗余与特异性丧失提供了新的视角和有效框架,有助于提升模型对复杂情感的理解鲁棒性,对情感计算、人机交互等领域有推动作用。 主要局限性:框架由多个模块组成,增加了计算和实现的复杂性(尽管效率分析显示其每轮时间与近期SOTA相当);论文主要关注情感分析任务,方法在其他多模态任务上的泛化能力有待验证。 🏗️ 模型架构 DBR框架建立在一个标准的多模态解码(MD)阶段之上,整体流程为:多模态特征编码与解码 -> 双分支(共享/私有)再平衡 -> 双向融合与预测。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 335 words

MMEB-V3: Measuring the Performance Gaps of Omni-Modality Embedding Models

📄 MMEB-V3: Measuring the Performance Gaps of Omni-Modality Embedding Models #基准测试 #模型评估 #多模态模型 #跨模态 #音频检索 ✅ 7.5/10 | 前25% | #基准测试 | #模型评估 | #多模态模型 #跨模态 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Haohang Huang (Eastern Institute of Technology, Ningbo) 通讯作者:Rui Meng (Google AI Research) 作者列表:Haohang Huang¹, Xuan Lu¹², Mingyi Su⁴, Xuan Zhang⁵, Ziyan Jiang⁶, Ping Nie⁴, Kai Zou⁷, Tomas Pfister³, Wenhu Chen⁴, Wei Zhang (未说明), Xiaoyu Shen¹, Rui Meng³ ¹Eastern Institute of Technology, Ningbo ²Shanghai Jiao Tong University ³Google AI Research ⁴University of Waterloo ⁵NUS (National University of Singapore) ⁶UCSB (University of California, Santa Barbara) ⁷Netmind.ai 💡 毒舌点评 亮点: 论文敏锐地指出了当前多模态嵌入模型在“指令约束模态”这一实际应用中的关键缺陷,并构建了一个覆盖音频、智能体任务的庞大基准(MMEB-V3)和精巧的诊断数据集(OmniSET)来系统性验证这一问题,研究动机扎实,分析深入。 短板: 本文的核心贡献是一个“评测基准”和“诊断分析”,而非提出一个新的多模态嵌入模型或解决该问题的创新算法,这使其更像一篇扎实的“系统工程与分析”论文,而非突破性的“方法创新”论文。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 385 words

Multi-Layer Attentive Probing Improves Transfer of Audio Representations for Bioacoustics

📄 Multi-Layer Attentive Probing Improves Transfer of Audio Representations for Bioacoustics #生物声学 #自监督学习 #迁移学习 #基准测试 #模型评估 ✅ 7.5/10 | 前25% | #生物声学 | #自监督学习 #迁移学习 | #自监督学习 #迁移学习 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:未说明(论文按作者列表排序,未明确标注第一作者) 通讯作者:未说明(论文未明确标注通讯作者) 作者列表:Marius Miron, David Robinson, Masato Hagiwara, Titouan Parcollet, Jules Cauzinille, Gagan Narula, Milad Alizadeh, Ellen Gilsenan-McMahon, Sara Keen, Emmanuel Chemla, Benjamin Hoffman, Maddie Cusimano, Diane Kim, Felix Effenberger, Jane K. Lawton, Aza Raskin, Olivier Pietquin, Matthieu Geist (均来自Earth Species Project) 💡 毒舌点评 论文系统性地揭示了在生物声学任务中,简单的线性探针会系统性低估优秀编码器的能力,这为改进该领域的模型评估标准提供了有力证据。然而,研究主要集中在对已有模型的“再评估”,而非提出新的编码器或解决更具挑战性的任务,创新维度略显单一。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 254 words

MusiCRS: Benchmarking Audio-Centric Conversational Recommendation

📄 MusiCRS: Benchmarking Audio-Centric Conversational Recommendation #音乐推荐 #多模态模型 #基准测试 #音频检索 ✅ 7.5/10 | 前25% | #音乐推荐 | #多模态模型 | #基准测试 #音频检索 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:未说明(作者列表无顺序指示) 通讯作者:未说明 作者列表:Rohan Surana(University of California, San Diego, USA)、Amit Namburi(University of California, San Diego, USA)、Gagan Mundada(University of California, San Diego, USA)、Abhay Lal(University of California, San Diego, USA)、Zachary Novack(University of California, San Diego, USA)、Julian McAuley(University of California, San Diego, USA)、Junda Wu(University of California, San Diego, USA) 💡 毒舌点评 亮点:本文提出的MusiCRS基准,是首个系统性地将真实Reddit音乐对话与可访问的音频片段(YouTube链接)对齐的工作,填补了音乐对话推荐评估中“对话”与“音频”同时缺失的空白,实验设计严谨,对比维度(模态、流派)清晰。 短板:论文最核心的发现(多模态组合性能常不如单模态)更像一个值得深究的“问题揭示”而非“方案贡献”,且477个对话的规模对于支撑一个健壮的基准来说略显单薄,部分生成模型的Ranking结果与检索模型的差距暗示了任务定义与模型范式可能存在错配。 ...

2026-04-29 · 更新于 2026-07-29 · 2 min · 253 words