BFCL Audio: An Audio Function Calling Evaluation for Large Language Models
📄 BFCL Audio: An Audio Function Calling Evaluation for Large Language Models #基准测试 #语音交互 #多模态模型 #模型比较 7.7/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1/1.5 | 清晰 1/1 | 影响 0.8/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 1.2/1.5 ✅ 7.7/10 | 前25% | #语音交互 | #多模态模型 | #基准测试 #模型比较 | arxiv 👥 作者与机构 第一作者:Huanzhi Mao(University of California, Berkeley) 通讯作者:Huanzhi Mao(University of California, Berkeley) 作者列表:Huanzhi Mao(University of California, Berkeley)、Aditya Ghai(University of California, Berkeley)、Imra Dawoodani(University of California, Berkeley)、Tony A Ginart(Salesforce AI Research)、Shishir G Patil(University of California, Berkeley)、John Emmons(Salesforce AI Research)、Joseph E. Gonzalez(University of California, Berkeley) 💡 毒舌点评 首次系统评估音频function calling,其可控合成管道和无需LLM裁判的自动评分机制,为语音Agent的鲁棒性问题提供了清晰的归因分析。但工作本质上仍是现有BFCL基准向语音模态的延伸,且完全依赖合成数据,在真实场景的生态效度和结论的泛化性上存在硬伤。 ...