PitchBench: Measuring Pitch Hearing in Audio-Language Models
📄 PitchBench: Measuring Pitch Hearing in Audio-Language Models #基准测试 🔥 9.7/10 | 前25% | #基准测试 | #基准测试 | arxiv 学术质量 6/7 | 影响力 1.8/2 | 可复现性 1.9/2 | 置信度 高 👥 作者与机构 Milan Liessens Dujardin (University of California, Berkeley), Song-Ze Yu (University of California, Berkeley), Craver Corbyn Thomas-Smith (Thoughtful Lab), David M. Chan (University of California, Berkeley), Karina Nguyen (Thoughtful Lab)。Equal contribution。 💡 毒舌点评 这篇论文指出了一个实际存在的问题(ALMs音高感知评估的缺失),并设计了一个系统化的解决方案(PitchBench)。其价值在于“诊断”而非“宣称”——它并不声称模型已经很好或很坏,而是提供了一套工具来精确测量它们到底能听到什么、不能听到什么。主要弱点在于其诊断工具本身(合成数据)的“生态效度”存疑,以及评估的模型可能并非当下最顶尖的系统,这使得部分结论的时效性和普适性打折扣。然而,其开源和模块化的设计为未来研究铺平了道路,这在很大程度上弥补了上述不足。 📌 核心摘要 本文介绍了PitchBench,一个用于系统测量音频语言模型(ALMs)音高感知能力的评估套件。该基准包含28个实验,分解为三个层级:原子音高感知(单音识别)、上下文音高感知(在序列、和弦及各种声学条件下)和旋律音高感知(在复调织体中追踪旋律线)。通过评估6个前沿ALMs(Gemini 3.1 Pro, Gemini 3 Flash, GPT-4o audio, Qwen-3.5 Omni Plus, Qwen-3.5 Omni Flash, Audio Flamingo Next Instruct),研究发现当前模型的音高感知能力普遍不可靠且脆弱。性能在不同音源、音符时长和记谱格式之间差异巨大,且对轻微的声学变换(如失谐)极为敏感。在最具挑战性的多声部旋律识别任务(F1, F2)上,所有模型准确率均为零。论文同时开源了生成数据和评估的Python包。 ...