Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge

📄 Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge #语音对话系统 #端到端 #基准测试 #多模态模型 ✅ 6.5/10 | 前25% | #语音对话系统 | #端到端 | #基准测试 #多模态模型 | arxiv 学术质量 4.0/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:未说明(作者列表按姓氏字母顺序排列,未明确指出第一作者) 通讯作者:未说明(论文中未明确标注通讯作者,但提供了共同联系邮箱) 作者列表:Chengyou Wang (Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China)、Hongfei Xue (同上)、Guojian Li (同上)、Zhixian Zhao (同上)、Shuiyuan Wang (未说明具体单位,仅列姓名)、Shuai Wang (未说明具体单位,仅列姓名)、Xin Xu (未说明具体单位,仅列姓名)、Hui Bu (AISHELL, China)、Lei Xie (Audio, Speech and Language Processing Group (ASLP@NPU), School of Computer Science, Northwestern Polytechnical University, Xi’an, China) 💡 毒舌点评 本文为全双工语音对话系统的研究提供了一套详尽、实用的“考试大纲”和“模拟题库”,其数据集构建和评测框架设计是当前该领域急需的公共产品,对推动后续研究非常有益;但作为一篇“综合性研究”,它更像是一个挑战赛报告和资源发布文档,缺乏自身提出的、经过严格验证的新型模型或核心算法,学术增量主要体现在“评测”而非“建模”上。 ...

2026-04-27 · 更新于 2026-05-20 · 2 min · 318 words

Listening with Time: Precise Temporal Awareness for Long-Form Audio Understanding

📄 Listening with Time: Precise Temporal Awareness for Long-Form Audio Understanding #音频大模型 #音频场景理解 #基准测试 #强化学习 #数据集 🔥 8.0/10 | 前25% | #音频场景理解 | #音频大模型 | #基准测试 #强化学习 | arxiv 学术质量 5.8/7 | 选题价值 1.5/2 | 复现加成 0.7 | 置信度 高 👥 作者与机构 第一作者:Mingchen Shao(西北工业大学) 通讯作者:Lei Xie(西北工业大学) 作者列表:Mingchen Shao(西北工业大学)、Hang Su(独立研究者)、Wenjie Tian(西北工业大学)、Bingshen Mu(西北工业大学)、Zhennan Lin(西北工业大学)、Lichun Fan(独立研究者)、Zhenbo Luo(独立研究者,清华大学相关)、Jian Luan(独立研究者)、Lei Xie(西北工业大学) 💡 毒舌点评 这篇论文的亮点在于其“庖丁解牛”式的系统设计:面对长音频时间感知这一老大难问题,没有硬磕模型本身,而是从数据、评测、推理范式三个层面给出了一套“组合拳”,尤其是构建全球-局部时间线的TWA-CoT思路清晰有效。然而,其短板也很明显:框架的计算开销和多轮推理的延迟使其在实时或流式场景下的应用面临挑战,且最终性能的天花板依然受限于所采用的骨干模型(Qwen3-Omni)的基础能力。 🔗 开源详情 代码:论文承诺开源,并提供了GitHub仓库链接:https://github.com/alanshaoTT/LAT-Audio-Repo。 模型权重:论文提及基于Qwen3-Omni-30B进行训练,但未明确说明最终模型权重是否开源。根据仓库名推测,模型权重可能也会开源。 数据集:LAT-Chronicle数据集和LAT-Bench基准承诺开源,但未说明具体获取方式(如需申请或直接下载)。 Demo:论文中未提及提供在线演示。 复现材料:论文提供了详细的三阶段训练策略、关键超参数(学习率、批大小、组大小)、奖励函数设计以及数据集的构成统计,复现材料较为充分。 引用的开源项目/工具: 骨干模型:Qwen3-Omni-30B-A3B-Instruct (Team, 2025c) 训练框架:Swift (Zhao et al., 2025) 对比模型/工具:Audio-Flamingo3 (Goel et al., 2025)、Gemini系列 (Team, 2025a)、Step-Audio-R1.1 (Tian et al., 2025)、Time-Audio (Wang et al., 2026) 评估指标:FENSE (Zhou et al., 2022; Dinkel et al., 2025) 原子标注中使用的模型:Gemini-2.5-Pro、LLM-ForceAligner (Mu et al., 2026) 强化学习算法:Group Relative Policy Optimization (Shao et al., 2024) 📌 核心摘要 本文针对大型音频语言模型在长音频理解任务(尤其是需要精确时间感知的任务)中性能显著下降的问题,提出了一套综合解决方案。 ...

2026-04-27 · 更新于 2026-05-20 · 2 min · 377 words

TTS-PRISM: A Perceptual Reasoning and Interpretable Speech Model for Fine-Grained Diagnosis

📄 TTS-PRISM: A Perceptual Reasoning and Interpretable Speech Model for Fine-Grained Diagnosis #语音质量评估 #指令微调 #基准测试 #开源工具 #语音合成 ✅ 7.5/10 | 前25% | #语音质量评估 | #指令微调 | #基准测试 #开源工具 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:未说明(论文作者列表未明确排序,但根据邮箱 xi-wang24@mails.tsinghua.edu.cn 和作者列表首位推测,第一作者可能为 Xi Wang)。 通讯作者:未说明(论文作者列表未明确标注,根据邮箱 zywu@sz.tsinghua.edu.cn 推测,通讯作者可能为 Zhiyong Wu)。 作者列表:Xi Wang (1, 2), Jie Wang (3), Xingchen Song (2), Baijun Song (1), Jingran Xie (1), Jiahe Shao (1), Zijian Lin (1), Di Wu (1), Meng Meng (1), Jian Luan (2), Zhiyong Wu (1)。 机构列表:1. 清华大学,中国;2. 小米公司 MiLM Plus,中国;3. 东京大学,日本。 💡 毒舌点评 这篇论文像一个严谨的“语音体检医生”,为TTS系统量身定做了一套包含12个指标的“体检表”和基于大模型生成数据的“训练集”,确实让评估从“整体印象”走向了“分项诊断”。但尴尬的是,这位“医生”自己在“发音”这个最基础的体检项目上却可能受制于自身的“学术出身”(ASR预训练偏差),体检结论的权威性打了点折扣。 ...

2026-04-27 · 更新于 2026-05-20 · 2 min · 326 words

语音/音频论文速递 2026-04-27

语音/音频论文速递 2026-04-27 共分析 13 篇论文 ⚡ 今日概览 📥 抓取 13 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音乐信息检索 2篇 ██ #语音识别 2篇 ██ #音频生成 1篇 █ #发音错误检测 1篇 █ #说话人识别 1篇 █ #音乐理解 1篇 █ #音频场景理解 1篇 █ #语音质量评估 1篇 █ 📊 论文评分排行榜(13 篇,按分数降序) 排名 论文 评分 分档 主任务 🥇 UniSonate: A Unified Model for Speech, Music, and Sound 8.5分 前25% #音频生成 🥈 Beyond Acoustic Sparsity and Linguistic Bias: A Prompt- 8.5分 前25% #发音错误检测 🥉 DM-ASR: Diarization-aware Multi-speaker ASR with Large 8.0分 前25% #说话人识别 4. Transformer-Based Rhythm Quantization of Performance MI 8.0分 前25% #音乐信息检索 5. Audio Effect Estimation with DNN-Based Prediction and S 8.0分 前25% #音乐理解 6. Listening with Time: Precise Temporal Awareness for Lon 8.0分 前25% #音频场景理解 7. TTS-PRISM: A Perceptual Reasoning and Interpretable Spe 7.5分 前25% #语音质量评估 8. Spectrographic Portamento Gradient Analysis: A Quantita 7.5分 前25% #音乐信息检索 9. Advancing automatic speech recognition using feature fu 7.0分 前25% #语音识别 10. Identifying and typifying demographic unfairness in pho 7.0分 前50% #语音识别 11. Full-Duplex Interaction in Spoken Dialogue Systems: A C 6.5分 前25% #语音对话系统 12. Audio Video Verbal Analysis (AVVA) for Capturing Classr 6.0分 前50% #音频问答 13. Earable Platform with Integrated Simultaneous EEG Sensi 5.5分 后50% #音频事件检测 📋 论文列表 🥇 UniSonate: A Unified Model for Speech, Music, and Sound Effect Generation with Text Instructions 🔥 8.5/10 | 前25% | #音频生成 | #流匹配 | #扩散模型 #统一音频模型 | arxiv ...

2026-04-27 · 更新于 2026-05-20 · 8 min · 1673 words

AUDITA: A New Dataset to Audit Humans vs. AI Skill at Audio QA

📄 AUDITA: A New Dataset to Audit Humans vs. AI Skill at Audio QA #音频问答 #基准测试 #模型评估 #数据集 ✅ 6.5/10 | 前50% | #音频问答 | #基准测试 | #模型评估 #数据集 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:Tasnim Kabir(未说明) 通讯作者:未说明 作者列表:Tasnim Kabir(未说明)、Dmytro Kurdydyk(未说明)、Aadi Palnitkar(未说明)、Liam Dorn(未说明)、Ahmed Haj Ahmed(未说明)、Jordan Lee Boyd-Graber(未说明) 💡 毒舌点评 亮点在于,AUDITA通过引入人类作者和精心设计的“陷阱”问题,直击当前音频问答模型“投机取巧”的痛点,其IRT分析也为评估模型能力提供了更细腻的视角。短板是,作为一篇以数据集为核心的论文,其贡献主要在于“发现问题”而非“解决问题”,且实验部分主要评估现有模型,未提出新的模型架构或训练方法,创新边界相对清晰。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文未提及提供模型权重。 数据集:论文提出AUDITA数据集,但摘要中未说明具体的公开获取方式(如网站、下载链接)。根据论文标题和内容推断,数据集是其核心产出,预计会公开。 Demo:论文中未提及在线演示。 复现材料:论文中未提及训练细节、配置、检查点等复现材料。作为基准测试论文,其复现主要依赖于使用其公开的数据集和标准模型。 论文中引用的开源项目:摘要中未提及。 📌 核心摘要 要解决什么问题:现有的音频问答(Audio QA)基准测试存在缺陷,模型可以通过短时线索、词汇先验、数据集偏差或绕过音频直接使用文本/元数据等“捷径”策略来取得高分,无法真正评估模型的音频推理能力。 方法核心是什么:提出AUDITA,一个大规模、真实世界的音频问答基准数据集。其核心在于问题由人类作者(Trivia作者)撰写,设计了具有挑战性的干扰项和长程时间依赖性,确保问题无法仅凭孤立的文本或声音线索回答,从而迫使模型进行真正的音频推理。 与已有方法相比新在哪里:与现有主要关注声音事件分类或基于字幕查询的基准不同,AUDITA强调“音频推理”而非“表面声学识别”。它通过人类作者设计复杂问题、引入IRT(项目反应理论)分析模型潜在能力与题目难度,提供了更严格的评估框架。 主要实验结果如何:人类平均准确率为32.13%,表明任务具有挑战性但人类可以理解。相比之下,最先进的音频问答模型平均准确率低于8.86%,性能差距显著。论文通过IRT分析进一步量化了模型和数据的系统性缺陷。 模型/群体 平均准确率 人类 32.13% 最先进模型 < 8.86% 实际意义是什么:AUDITA为音频问答领域提供了一个更严格的“试金石”,能够揭示当前模型在复杂、真实音频推理任务上的不足,推动社区研发具备真正听觉理解和推理能力的模型。 主要局限性是什么:论文中未说明AUDITA数据集的具体规模(如音频数量、问题数量);实验部分主要是对现有模型进行基准测试,未提出新的模型或方法来解决所揭示的问题;数据集的获取方式和开源细节在摘要中未详细说明。 🏗️ 模型架构 论文中未提及具体的模型架构。本文的核心贡献是提出一个新的评测基准(数据集),而非一个新的模型。因此,本节内容不适用。 ...

2026-04-24 · 更新于 2026-05-20 · 1 min · 132 words

Do LLM Decoders Listen Fairly? Benchmarking How Language Model Priors Shape Bias in Speech Recognition

📄 Do LLM Decoders Listen Fairly? Benchmarking How Language Model Priors Shape Bias in Speech Recognition #语音识别 #语音大模型 #鲁棒性 #基准测试 ✅ 7.5/10 | 前25% | #语音识别 | #语音大模型 | #鲁棒性 #基准测试 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Srishti Ginjala(The Ohio State University) 通讯作者:未说明 作者列表:Srishti Ginjala(The Ohio State University, Columbus, OH, USA)、Eric Fosler-Lussier(The Ohio State University, Columbus, OH, USA)、Christopher W. Myers(Air Force Research Laboratory, USA)、Srinivasan Parthasarathy(The Ohio State University, Columbus, OH, USA) 💡 毒舌点评 这篇论文的亮点在于其极其系统和扎实的实验设计,通过控制变量(三代架构、五个人口统计轴、十二种退化条件)揭示了LLM解码器对ASR公平性影响的复杂图景,尤其是“严重退化压缩公平差距”和“静音注入放大Whisper口音偏见”等反直觉发现极具启发性。但短板在于,它本质上是一个大规模基准测试和现象分析,而非提出一种解决公平性问题的新方法,其结论的普适性受限于仅评估了英语语音和特定的合成退化条件。 ...

2026-04-24 · 更新于 2026-05-20 · 2 min · 333 words

Evaluation of Automatic Speech Recognition Using Generative Large Language Models

📄 Evaluation of Automatic Speech Recognition Using Generative Large Language Models #语音识别 #大语言模型 #模型评估 #基准测试 ✅ 7.5/10 | 前25% | #语音识别 | #大语言模型 | #模型评估 #基准测试 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:未说明(论文摘要未明确标注) 通讯作者:未说明(论文摘要未明确标注) 作者列表:Thibault Bañeras-Roux(未说明)、Shashi Kumar(未说明)、Driss Khalil(未说明)、Sergio Burdisso(未说明)、Petr Motlicek(未说明)、Shiran Liu(未说明)、Mickael Rouvier(未说明)、Jane Wottawa(未说明)、Richard Dufour(未说明) 💡 毒舌点评 亮点:论文系统性地提出了三种利用LLM进行ASR评估的新范式,并在HATS数据集上用令人信服的数据(92-94% vs 63%)证明了其在模拟人类判断上远超传统WER,为ASR评估开辟了更语义化的新路径。短板:作为一篇方法论论文,它却对自己所使用的核心工具——“生成式大语言模型”本身的关键信息(如具体是哪个模型、参数量、是否微调)讳莫如深,这严重削弱了其结论的可复现性和方法的普适性指导价值。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:实验使用了HATS数据集,但论文未说明该数据集是否公开及获取方式。 Demo:未提及。 复现材料:未提供训练细节、配置、检查点或附录说明。 论文中引用的开源项目:未说明。 📌 核心摘要 要解决什么问题:自动语音识别(ASR)的传统评估指标词错误率(WER)只关注字面匹配,对语义不敏感,无法准确反映人类对转录质量的感知。 方法核心是什么:系统性地探索并评估了使用decoder-based生成式大语言模型(LLM)进行ASR评估的三种方法:(1)在两个候选转录中选择更优的一个;(2)使用LLM生成的嵌入向量计算语义距离;(3)对ASR错误进行定性分类。 与已有方法相比新在哪里:首次将decoder-based LLM(而非仅encoder-based模型)引入ASR评估任务,并对比了其与传统WER及语义嵌入指标的性能。同时,提出了利用LLM进行可解释错误分类的评估新维度。 主要实验结果如何:在HATS数据集上,最佳LLM在假设选择任务中与人类标注者的一致率达到92-94%,而WER仅为63%,也优于其他语义指标。LLM生成的嵌入在语义距离计算上表现与encoder模型相当。论文还展示了LLM进行错误分类的示例(见图1、图2)。 假设选择任务性能对比(图2): 图2展示了不同评估方法在假设选择任务上与人类判断的一致性。LLM方法(如GPT-4)的性能(92-94%)显著高于WER(63%)和其他语义指标。 实际意义是什么:为ASR评估提供了一种更符合人类感知、更具语义理解能力且可解释的新范式,有望推动ASR系统向更注重语义准确性的方向优化。 主要局限性是什么:论文未详细说明所使用的具体LLM模型、其参数规模以及是否经过微调,这限制了方法的可复现性。实验仅在单一数据集(HATS)上进行,其结论在其他语言、领域和噪声条件下的泛化能力有待验证。开源信息的缺失是最大的实践障碍。 🏗️ 模型架构 本文并非提出一个新的端到端模型,而是将现有的decoder-based大语言模型作为评估工具,应用于三个不同的ASR评估任务。其整体“架构”可理解为三个独立的评估流程: ...

2026-04-24 · 更新于 2026-05-20 · 1 min · 153 words

Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge

📄 Full-Duplex Interaction in Spoken Dialogue Systems: A Comprehensive Study from the ICASSP 2026 HumDial Challenge #语音对话系统 #基准测试 #数据集 #实时处理 ✅ 6.5/10 | 前25% | #语音对话系统 | #基准测试 | #数据集 #实时处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Chengyou Wang(西北工业大学计算机学院,音频、语音与语言处理组 (ASLP@NPU)) 通讯作者:Lei Xie(西北工业大学计算机学院,音频、语音与语言处理组 (ASLP@NPU)) 作者列表:Chengyou Wang(西北工业大学ASLP@NPU)、Hongfei Yue(西北工业大学ASLP@NPU)、Guojian Li(南京大学)、Zhixian Zhao(未说明)、Shuiyuan Wang(未说明)、Shuai Wang(未说明)、Xin Xu(未说明)、Hui Bu(AISHELL)、Lei Xie(西北工业大学ASLP@NPU) 💡 毒舌点评 亮点:该论文的核心价值在于“修路”而非“造车”——它首次系统性地为“全双工语音对话”这一前沿但混乱的领域提供了标准化的评估基准(HumDial-FDBench)和高质量的双通道真人录音数据集,填补了关键空白,为后续研究提供了可比较的标尺。短板:论文本身更像一份详尽的挑战赛技术报告,而非提出一个具有突破性性能的新模型或算法;其评估框架依赖外部ASR和LLM进行行为分类,可能引入额外误差和不可控变量。 🔗 开源详情 代码:论文中未提及评估框架或分析代码的链接。仅提供了数据集的GitHub链接:https://github.com/ASLP-lab/HumDial-FDBench 模型权重:未提及。论文评估的是其他团队或公司的模型。 数据集:公开。通过上述GitHub链接获取。 Demo:未提及。 复现材料:论文详细描述了数据集构建流程、评估指标计算方法(包括公式)和评分规则,提供了复现评估所需的大部分信息。但缺少ASR和LLM的具体配置。 论文中引用的开源项目:Paraformer (ASR), Silero-VAD (VAD), DeepSeek (数据生成与行为分类), Moshi, Freeze-Omni, Osum-EChat (被评估模型), Easy-Turn (基线组件)。 📌 核心摘要 问题:传统语音对话系统基于严格的轮流发言模式,缺乏人类自然对话中同时听与说的全双工交互能力,导致对话不自然、响应不及时。 方法核心:为解决评估难题,论文基于ICASSP 2026 HumDial Challenge,提出了一个名为HumDial-FDBench的综合基准测试,并配套发布了一个高质量的双通道真人录音数据集。 创新点:这是首个专门针对全双工交互(处理打断、重叠语音、拒绝无效输入等)的评估框架和配套数据集。数据集采用“LLM生成脚本+真人录制”的两阶段方法构建,以保证对话的自然性和交互现象的覆盖度。 主要实验结果:论文建立了一个公开排行榜,对比了多种开源(如Freeze-Omni, Moshi)和闭源(如Gemini-2.5)模型。结果显示,现有模型在处理打断和拒绝场景时仍存在显著不足。例如,在最终得分榜上,最佳团队“Cookie asr”得分为76.6,而基线系统仅为56.4。具体结果见下表: 团队 打断得分 (Int.) 拒绝得分 (Rej.) 平均延迟 (s) 延迟得分 (D-Sco.) 最终得分 排名 Cookie asr 79.3 72.2 1.260 79.9 76.6 1 Badcat 89.7 57.8 1.632 72.6 73.5 2 SenseDialog 76.4 60.9 1.237 80.5 71.0 3 Gemini-2.5 79.8 36.5 1.301 79.0 62.3 – Baseline 75.9 35.2 2.531 60.0 56.4 6 Freeze-Omni 29.6 50.2 2.578 59.5 43.8 – Moshi 35.4 22.8 2.876 56.3 34.5 – 实际意义:为全双工语音对话系统的研究和开发提供了急需的、标准化的评估工具和高质量数据,有助于公平比较不同方法,推动该领域向更自然、响应更及时的方向发展。 主要局限性:评估框架本身依赖外部的ASR和LLM进行行为分类,其准确性可能影响最终评分。论文作为挑战赛总结,未提出解决全双工交互难题的根本性新模型。 🏗️ 模型架构 论文本身并未提出一个新的对话模型架构,而是提出了一个评估框架(HumDial-FDBench)和数据集。其核心是定义如何评估一个全双工对话系统。 ...

2026-04-24 · 更新于 2026-05-20 · 1 min · 204 words

MER 2026: From Discriminative Emotion Recognition to Generative Emotion Understanding

📄 MER 2026: From Discriminative Emotion Recognition to Generative Emotion Understanding #多模态模型 #语音情感识别 #情感计算 #基准测试 #生理信号 ✅ 6.0/10 | 前50% | #语音情感识别 | #多模态模型 | #情感计算 #基准测试 | arxiv 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Zheng Lian(中国科学院自动化研究所) 通讯作者:未说明 作者列表:Zheng Lian(中国科学院自动化研究所)、Xiaojiang Peng(深圳技术大学)、Kele Xu(国防科技大学)、Ziyu Jia(中国科学院自动化研究所)、Xinyi Che(四川大学)、Zebang Cheng(深圳大学)、Fei Ma(广东省人工智能与数字经济实验室(深圳))、Laizhong Cui(深圳大学)、Yazhou Zhang(天津大学)、Xin Liu(上海交通大学)、Liang Yang(大连理工大学)、Jia Li(合肥工业大学)、Fan Zhang(香港中文大学)、Erik Cambria(南洋理工大学)、Guoying Zhao(奥卢大学)、Björn W. Schuller(慕尼黑工业大学)、Jianhua Tao(清华大学) 💡 毒舌点评 这篇论文的最大亮点是其系统性和前瞻性,它清晰地勾勒出了情感识别领域从“给标签”到“懂描述”再到“知偏好”的演进路线,并通过四个精心设计的赛道(尤其是对话者情感和情感偏好)将这一趋势落地为可评估的挑战。然而,其短板也同样明显:作为一篇挑战赛公告,它本质上是“出题者”而非“解题者”,缺乏原创性的技术贡献和深度的算法分析,更像是一份详尽的“竞赛说明书”和“数据集发布文档”。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及公开的模型权重。 数据集:论文明确提供了数据集获取网站:https://zeroqiaoba.github.io/MER-Challenge/。MER-Cross、MER-FG、MER-Prefer和MER-PS的数据集均可通过该网站获取。 Demo:未提及在线演示。 复现材料:论文提供了基线模型的名称(如WavLM, RoBERTa, CLIP, AffectGPT, EEGNet, ASAC-Net)和部分结果,但未给出具体的训练细节、超参数配置或预训练检查点。 论文中引用的开源项目:论文引用了多个开源模型和工具,包括TalkNet(用于说话者检测)、WavLM、wav2vec 2.0、HuBERT、RoBERTa、MacBERT、VideoMAE、ResNet、CLIP、Video-LLaVA、Qwen-Audio、Chat-UniVi、LLaMA-VID、SALMONN、AffectGPT、EEGNet、ASAC-Net等。 开源计划:论文中未提及额外的开源计划。 📌 核心摘要 要解决什么问题:本文旨在介绍MER 2026挑战赛,推动情感计算研究从传统的判别式情感识别(预测固定标签)向生成式情感理解(生成细粒度、描述性、符合人类偏好的情感表达)范式转变。 方法核心是什么:核心是通过设计四个新的挑战赛道来定义和评估新范式下的情感理解能力:(1) MER-Cross:从识别说话者自身情感转向识别对话者的情感;(2) MER-FG:从基本情感标签扩展到开放词汇的细粒度情感;(3) MER-Prefer:预测人类对不同情感描述的偏好;(4) MER-PS:基于脑电(EEG)和近红外光谱(fNIRS)生理信号进行连续情感预测。 与已有方法相比新在哪里:与MER 2023-2025相比,新在三个方面:(1) 场景新:首次引入双人对话交互场景(MER-Cross);(2) 任务新:首次引入情感偏好预测任务(MER-Prefer),用于训练奖励模型;(3) 模态新:首次系统性地将多模态情感识别扩展到内部生理信号(MER-PS)。整体上,从“识别”走向了更全面的“理解”。 主要实验结果如何:论文为每个赛道提供了基线实验结果,关键数据如下: MER-Cross:在测试集上,多模态融合(Top-1)的加权F1分数为57.44%,而单模态最优的视觉特征(CLIP-large)为58.88%。值得注意的是,为个体情感训练的模型在对话者情感上性能大幅下降(如声学特征从76.51%降至35.25%)。 MER-FG:在测试集上,零样本基线中最强的SALMONN得分为47.38%,而经过微调的AffectGPT(使用MER-Caption+数据)得分达到60.27%。 MER-Prefer:在测试集上,零样本基线中最强的多模态模型Qwen2.5-Omni的加权F1分数为78.74%,准确率为78.89%。 MER-PS:在测试集上,最强的基线模型ASAC-Net(EEG+fNIRS)的平均MAE(排名分数)为0.2164。 实际意义是什么:为情感计算社区提供了新的、更具挑战性的研究方向和标准化评测平台。特别是对话者情感识别和情感偏好预测,对于提升社交机器人、人机交互系统的共情能力具有直接的应用价值。生理信号赛道则推动了对情感内部机制的客观研究。 主要局限性是什么:作为挑战赛公告论文,其局限性在于:(1) 没有提出新的模型或算法,仅提供基线;(2) 对赛道设计背后的深层动机和潜在挑战的讨论有限;(3) 部分赛道(如MER-Cross)的测试集规模较小(574样本),可能影响结论的普适性。 🏗️ 模型架构 本文作为挑战赛公告,并未提出一个统一的、端到端的模型架构。其核心是定义了四个独立的任务,并为每个任务提供了基线模型。因此,架构描述将围绕这些任务和基线展开。 ...

2026-04-24 · 更新于 2026-05-20 · 2 min · 296 words

Preferences of a Voice-First Nation: Large-Scale Pairwise Evaluation and Preference Analysis for TTS in Indian Languages

📄 Preferences of a Voice-First Nation: Large-Scale Pairwise Evaluation and Preference Analysis for TTS in Indian Languages #语音合成 #模型评估 #多语言 #基准测试 ✅ 7.5/10 | 前25% | #语音合成 | #模型评估 | #多语言 #基准测试 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Srija Anand(Indian Institute of Technology, Madras; AI4Bharat) 通讯作者:未说明 作者列表:Srija Anand(Indian Institute of Technology, Madras; AI4Bharat)、Ashwin Sankar(AI4Bharat)、Ishvinder Sethi(AI4Bharat)、Aaditya Pareek(AI4Bharat)、Kartik Rajput(AI4Bharat)、Gaurav Yadav(AI4Bharat)、Nikhil Narasimhan(AI4Bharat)、Adish Pandya(AI4Bharat)、Deepon Halder(AI4Bharat)、Mohammed Safi Ur Rahman Khan(AI4Bharat)、Praveen S(AI4Bharat)、Shobhit Banga(Josh Talks)、Mitesh M Khapra(Indian Institute of Technology, Madras; AI4Bharat) 💡 毒舌点评 这篇论文在印度语言TTS评估上做到了“大力出奇迹”,用海量数据和严谨框架构建了一个可靠的排行榜,其多维度感知分析(尤其是SHAP解释)是亮点。但短板在于,作为一篇评估论文,它未能深入探讨评估者间一致性(inter-rater agreement)这一核心可靠性指标,使得“1900+评估者”的数据权威性打了折扣。 ...

2026-04-24 · 更新于 2026-05-20 · 2 min · 280 words