语音情感识别

📄 Psychologically-Grounded Graph Modeling for Interpretable Depression Detection #语音情感识别 #图神经网络 #数据增强 #可解释AI #临床应用 🔥 8.0/10 | 前25% | #语音情感识别 | #图神经网络 | #数据增强 #可解释AI | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Rishitej Reddy Vyalla (与Kritarth Prasad贡献相等) 通讯作者：未说明 作者列表：Rishitej Reddy Vyalla（IIIT Delhi），Kritarth Prasad（IIIT Delhi），Avinash Anand（Singapore Institute of Technology），Erik Cambria（Singapore Institute of Technology；Nanyang Technological University；ELLIS Institute Finland；University of Turku），Shaoxiong Ji（未说明），Faten S. Alamri（Princess Nourah bint Abdulrahman University），Zhengkui Wang（未说明） 💡 毒舌点评 论文的亮点在于其临床心理学理论与图神经网络建模的扎实结合，提出的“心理表达单元”和人格感知上下文为抑郁症检测提供了有临床意义的解释性框架。但其短板也很明显：数据增强的“有效性”和“安全性”高度依赖人工验证（未提供量化结果）与LLM生成质量，且声称“超越GPT-5”的结论在缺乏更严格、更多样化基准测试的情况下，说服力有待商榷。 ...

📄 MER 2026: From Discriminative Emotion Recognition to Generative Emotion Understanding #多模态模型 #语音情感识别 #情感计算 #基准测试 #生理信号 ✅ 6.0/10 | 前50% | #语音情感识别 | #多模态模型 | #情感计算 #基准测试 | arxiv 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Zheng Lian（中国科学院自动化研究所） 通讯作者：未说明 作者列表：Zheng Lian（中国科学院自动化研究所）、Xiaojiang Peng（深圳技术大学）、Kele Xu（国防科技大学）、Ziyu Jia（中国科学院自动化研究所）、Xinyi Che（四川大学）、Zebang Cheng（深圳大学）、Fei Ma（广东省人工智能与数字经济实验室（深圳））、Laizhong Cui（深圳大学）、Yazhou Zhang（天津大学）、Xin Liu（上海交通大学）、Liang Yang（大连理工大学）、Jia Li（合肥工业大学）、Fan Zhang（香港中文大学）、Erik Cambria（南洋理工大学）、Guoying Zhao（奥卢大学）、Björn W. Schuller（慕尼黑工业大学）、Jianhua Tao（清华大学） 💡 毒舌点评 这篇论文的最大亮点是其系统性和前瞻性，它清晰地勾勒出了情感识别领域从“给标签”到“懂描述”再到“知偏好”的演进路线，并通过四个精心设计的赛道（尤其是对话者情感和情感偏好）将这一趋势落地为可评估的挑战。然而，其短板也同样明显：作为一篇挑战赛公告，它本质上是“出题者”而非“解题者”，缺乏原创性的技术贡献和深度的算法分析，更像是一份详尽的“竞赛说明书”和“数据集发布文档”。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开的模型权重。 数据集：论文明确提供了数据集获取网站：https://zeroqiaoba.github.io/MER-Challenge/。MER-Cross、MER-FG、MER-Prefer和MER-PS的数据集均可通过该网站获取。 Demo：未提及在线演示。 复现材料：论文提供了基线模型的名称（如WavLM, RoBERTa, CLIP, AffectGPT, EEGNet, ASAC-Net）和部分结果，但未给出具体的训练细节、超参数配置或预训练检查点。 论文中引用的开源项目：论文引用了多个开源模型和工具，包括TalkNet（用于说话者检测）、WavLM、wav2vec 2.0、HuBERT、RoBERTa、MacBERT、VideoMAE、ResNet、CLIP、Video-LLaVA、Qwen-Audio、Chat-UniVi、LLaMA-VID、SALMONN、AffectGPT、EEGNet、ASAC-Net等。 开源计划：论文中未提及额外的开源计划。 📌 核心摘要 要解决什么问题：本文旨在介绍MER 2026挑战赛，推动情感计算研究从传统的判别式情感识别（预测固定标签）向生成式情感理解（生成细粒度、描述性、符合人类偏好的情感表达）范式转变。 方法核心是什么：核心是通过设计四个新的挑战赛道来定义和评估新范式下的情感理解能力：(1) MER-Cross：从识别说话者自身情感转向识别对话者的情感；(2) MER-FG：从基本情感标签扩展到开放词汇的细粒度情感；(3) MER-Prefer：预测人类对不同情感描述的偏好；(4) MER-PS：基于脑电（EEG）和近红外光谱（fNIRS）生理信号进行连续情感预测。 与已有方法相比新在哪里：与MER 2023-2025相比，新在三个方面：(1) 场景新：首次引入双人对话交互场景（MER-Cross）；(2) 任务新：首次引入情感偏好预测任务（MER-Prefer），用于训练奖励模型；(3) 模态新：首次系统性地将多模态情感识别扩展到内部生理信号（MER-PS）。整体上，从“识别”走向了更全面的“理解”。 主要实验结果如何：论文为每个赛道提供了基线实验结果，关键数据如下： MER-Cross：在测试集上，多模态融合（Top-1）的加权F1分数为57.44%，而单模态最优的视觉特征（CLIP-large）为58.88%。值得注意的是，为个体情感训练的模型在对话者情感上性能大幅下降（如声学特征从76.51%降至35.25%）。 MER-FG：在测试集上，零样本基线中最强的SALMONN得分为47.38%，而经过微调的AffectGPT（使用MER-Caption+数据）得分达到60.27%。 MER-Prefer：在测试集上，零样本基线中最强的多模态模型Qwen2.5-Omni的加权F1分数为78.74%，准确率为78.89%。 MER-PS：在测试集上，最强的基线模型ASAC-Net（EEG+fNIRS）的平均MAE（排名分数）为0.2164。 实际意义是什么：为情感计算社区提供了新的、更具挑战性的研究方向和标准化评测平台。特别是对话者情感识别和情感偏好预测，对于提升社交机器人、人机交互系统的共情能力具有直接的应用价值。生理信号赛道则推动了对情感内部机制的客观研究。 主要局限性是什么：作为挑战赛公告论文，其局限性在于：(1) 没有提出新的模型或算法，仅提供基线；(2) 对赛道设计背后的深层动机和潜在挑战的讨论有限；(3) 部分赛道（如MER-Cross）的测试集规模较小（574样本），可能影响结论的普适性。 🏗️ 模型架构 本文作为挑战赛公告，并未提出一个统一的、端到端的模型架构。其核心是定义了四个独立的任务，并为每个任务提供了基线模型。因此，架构描述将围绕这些任务和基线展开。 ...

📄 Prosody as Supervision: Bridging the Non-Verbal–Verbal for Multilingual Speech Emotion Recognition #语音情感识别 #领域适应 #双曲神经网络 #自监督学习 #多语言 🔥 8.0/10 | 前25% | #语音情感识别 | #领域适应 | #双曲神经网络 #自监督学习 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Girish (UPES, India), Mohd Mujtaba Akhtar (Veer Bahadur Singh Purvanchal University, India) （论文注明两人贡献相等） 通讯作者：Muskaan Singh (Ulster University, UK) 作者列表：Girish (UPES, India)、Mohd Mujtaba Akhtar (Veer Bahadur Singh Purvanchal University, India)、Muskaan Singh (Ulster University, UK) 💡 毒舌点评 亮点：论文最巧妙之处在于将低资源多语言SER问题重新定义为“非语音到语音”的无监督域适应，这个视角跳出了传统“语音到语音”迁移的框架，为利用丰富但未被充分利用的非语音情感数据开辟了新路径。短板：整个框架（双曲几何、VQ、最优传输）的复杂性较高，虽然消融实验证明了各模块必要性，但这种“组合式创新”是否带来了根本性的理论突破，或者只是工程上的有效堆砌，值得进一步思考。 ...

📄 MoVE: Translating Laughter and Tears via Mixture of Vocalization Experts in Speech-to-Speech Translation #语音翻译 #混合专家 #预训练 #数据集 #语音情感识别 ✅ 7.5/10 | 前25% | #语音翻译 | #混合专家 | #预训练 #数据集 | arxiv 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Szu-Chi Chen (国立台湾大学) 通讯作者：未说明 作者列表： Szu-Chi Chen (国立台湾大学) I-Ning Tsai (未明确说明，可能同为台湾大学) Yi-Cheng Lin (未明确说明，可能同为台湾大学) Sung-Feng Huang (未明确说明，可能同为台湾大学) Hung-yi Lee (国立台湾大学) 注：机构信息明确为“National Taiwan University, Taipei, Taiwan”和“NVIDIA, Taiwan”，但论文正文中未明确每位作者对应的具体机构，仅在作者列表下方统一标注。根据惯例，第一作者和最后一位作者（Hung-yi Lee）通常属于第一单位（台湾大学），但其他作者归属需根据上下文推断或需查阅更详细信息。此处严格按文本呈现。 💡 毒舌点评 亮点：论文直击S2ST领域一个长期被忽视的痛点——非语言声音（如笑声、哭声）的跨语言传递，并给出了从数据合成到模型架构的完整解决方案，MoVE的动态路由器设计巧妙地解决了多情感建模的冲突问题。 短板：研究目前仅覆盖了5种预设的情感/非语言类别，对于更细微、更混合的情感表达（如讽刺、惊讶、尴尬）的泛化能力未经验证，且整个方案严重依赖于一个特定的预训练AudioLLM（Kimi-Audio）。 ...

📄 Deep Supervised Contrastive Learning of Pitch Contours for Robust Pitch Accent Classification in Seoul Korean #语音情感识别 #对比学习 #数据集 #端到端 #语音领域 🔥 评分：8.0/10 | arxiv 👥 作者与机构 第一作者：Hyunjung Joo（罗格斯大学语言学系，汉阳大学语言语音与认知科学研究所 (HIPCS)） 通讯作者：GyeongTaek Lee（嘉泉大学智能工厂系） 其他作者：无 💡 毒舌点评 亮点：论文最大的贡献是“造轮子”和“用好轮子”——亲手标注了一个超万个样本的首尔韩语音高数据集，并聪明地用全局对比学习替换了容易“只见树木不见森林”的局部预测模型，让AI学会看音高的“整体轮廓”而非“逐点猜谜”。 槽点：虽然准确率刷到了新高，但F1分数才刚过50%，暴露了数据集中某些音调模式样本极少导致的严重类别不平衡问题；另外，模型只盯着F0（音高）看，完全忽略了时长、强度等对韵律同样重要的线索，像个只用单眼看世界的学者。 🔗 开源详情 代码：已开源。GitHub地址：https://github.com/hyunjungjoo/Accentual-Phrases-in-Seoul-Korean。 模型权重：论文中未明确提及是否公开预训练权重。 数据集：已开源。即上述GitHub仓库中提供的首尔韩语音调短语数据集，包含10,093个样本及其标注。 预训练权重：未提及。 在线Demo：未提及。 依赖的开源工具/模型：论文中提到了使用pYIN算法提取F0，以及PyTorch、scikit-learn、LightGBM等框架和库。 📌 核心摘要 这篇论文旨在解决将连续变化的基频（F0）曲线映射到首尔韩语中离散、不变的音高重音类别（如LHLH, HHLH）这一难题。传统方法易受F0测量噪声和说话人差异的影响。为此，作者提出了Dual-Glob，一个深度监督对比学习框架。其核心是通过一个双分支（干净视图和增强视图）编码器，在共享的潜在空间中强制要求同一音高类别样本的全局F0轮廓形状相似，而不同类别则相异，从而学习到对扰动鲁棒的、具有判别性的音高轮廓表征。作者还构建了首个大规模手动标注的基准数据集，包含10,093个音调短语（AP），涵盖16种音调模式。实验表明，Dual-Glob在准确率（77.75%）和F1分数（51.54%）上显著超越了BiLSTM、InceptionTime等强基线。研究支持了音系学理论中的离散音调范畴，并证明深度对比学习能有效捕捉连续F0轮廓的整体结构特征。局限性包括F0追踪误差、数据类别不平衡以及未整合时长等其他韵律线索。 🏗️ 模型架构 模型整体是一个双分支编码器+投影头的对比学习框架，后接一个冻结的编码器和独立的分类器用于下游任务。 完整输入输出流程： 输入：经过预处理和归一化（说话人级别Min-Max归一化到[0,1]）的F0轮廓序列，固定长度为200帧。 数据增强：对原始输入（干净视图 x_c）应用随机组合的数据增强（如抖动、缩放、掩码等），生成增强视图 x_a。 编码与投影：x_c 和 x_a 分别通过共享权重的编码器 E(·) 和投影头 P(·)，得到潜在空间中的投影向量 z_c 和 z_a。 对比损失计算：基于 z_c 和 z_a 计算联合损失 ℒ_Total = λ1 * ℒ_Clean + λ2 * ℒ_Aug。 ℒ_Clean：确保同一类别干净样本的投影在潜在空间中彼此靠近。 ℒ_Aug：确保增强样本的投影靠近其对应类别的干净样本投影，实现去噪和鲁棒性学习。 下游分类：训练完成后，冻结编码器 E(·)，移除投影头。使用编码器从原始干净输入中提取的特征（而非投影），输入到独立的分类器（如逻辑回归LR、随机森林RF、LightGBM）中进行16分类。 主要组件： ...

📄 FreezeEmpath: Efficient Training for Empathetic Spoken Chatbots with Frozen LLMs #语音对话系统 #多模态模型 #迁移学习 #语音情感识别 🔥 评分：10.0/10 | arxiv 👥 作者与机构 第一作者：Yun Hong（中国科学院计算技术研究所，智能信息处理国家重点实验室；中国科学院大学） 通讯作者：Yang Feng（中国科学院计算技术研究所，智能信息处理国家重点实验室；中国科学院大学） 其他作者：Yan Zhou（中国科学院计算技术研究所，智能信息处理国家重点实验室；中国科学院大学） 机构详情：所有作者均隶属于中国科学院计算技术研究所的“智能信息处理国家重点实验室”和“人工智能安全国家重点实验室”，以及中国科学院大学。 💡 毒舌点评 亮点是“冻结LLM”这个思路简直是懒人智慧的巅峰——让模型自己懂共情，我们只负责搭个桥，数据和训练成本直接砍半。槽点嘛，虽然生成的语音情感挺到位，但毕竟用的是现成的TTS模块，情感表达的上限可能被预训练模型锁死了，想让它“影帝级”爆发估计有点难。 🔗 开源详情 代码：完全开源，GitHub地址：https://github.com/ictnlp/FreezeEmpath。 模型权重：论文中未明确提及是否公开预训练权重，但基于其开源代码和描述，很可能在代码库中提供。 数据集：使用了多个公开的SER和语音指令数据集，论文中已详细列出。 预训练权重：基于Qwen2.5-7B-Instruct（LLM）、Whisper-large-v3（语音编码器）、IndexTTS2（Token2Wav模块）和Qwen2.5-0.5B（语音解码器初始化）的预训练权重。 在线Demo：论文中未提及。 依赖的开源项目：LLaMA-Omni（语音适配器结构）、IndexTTS2（语音合成）、BLSP（自蒸馏对齐思想）。 📌 核心摘要 本文旨在解决训练共情语音聊天机器人时面临的共情语音数据稀缺、模型泛化能力弱、以及微调导致LLM通用能力退化三大难题。作者提出了FreezeEmpath，一种高效的端到端训练框架。其核心方法是冻结基础LLM，采用语义-情感解耦编码策略，通过独立的语义适配器和情感提取器从语音中分别提取内容和情感特征，并设计三阶段训练（语义对齐、情感对齐、语音生成）将这些特征与LLM的嵌入空间对齐，从而将LLM内在的文本共情能力迁移到语音模态。整个训练仅需现有的中性语音指令数据和语音情感识别数据，无需人工构建的共情语音数据。实验表明，FreezeEmpath在共情对话、语音情感识别和口语问答任务上均显著优于现有SOTA模型，证明了其方法的有效性和高效性。 🏗️ 模型架构 FreezeEmpath的整体架构由三部分组成：语音理解模块、基础LLM和语音生成模块。 完整输入输出流程： 输入：用户的语音指令。 语音理解模块： 语音编码器（Whisper-large-v3）：将原始语音波形编码为隐藏状态序列 X ∈ ℝ^{L×T×D}（L=层数，T=序列长度，D=维度）。 语义适配器：由一个下采样层和一个2层前馈网络（FFN）组成，将编码器输出映射到LLM的嵌入空间，得到语义特征序列 S。 情感提取器：包含两步池化。 层级池化：使用一个门控网络 g 对编码器所有层的隐藏状态进行加权平均，得到压缩后的特征 X̂。 帧级池化：使用一个可学习的查询 Q，通过多头交叉注意力机制（MHA，4个头）聚合 X̂ 的时间维度信息，再通过一个2层FFN（隐藏维度2048）映射为LLM嵌入空间的情感特征向量 E。 序列拼接：将语义特征序列 S、固定连接词嵌入 F1、情感特征向量 E、固定连接词嵌入 F2 拼接，形成最终输入序列 X_S = [S, F1, E, F2] 送入LLM。 基础LLM（Qwen2.5-7B-Instruct）：全程参数冻结。接收 X_S，基于其内在的语义理解和共情能力，生成文本响应 r 的隐藏状态序列。 语音生成模块： 流式语音解码器：一个解码器Transformer（初始化自Qwen2.5-0.5B）。它包含一个门控融合模块，聚合来自LLM的上下文隐藏状态和已解码文本 token 的精确语义信息。解码器以流式方式自回归生成语音 token 序列 u（词汇表大小8192，频率50Hz）。流式参数为：每读入 R=3 个输入嵌入，生成 W=15 个语音 token。 Token2Wav模块：使用预训练的IndexTTS2的流匹配模型和声码器，将语音 token 序列 u 转换为最终的共情语音响应。 关键设计理由： ...

📄 Prosody as Supervision: Bridging the Non-Verbal–Verbal for Multilingual Speech Emotion Recognition #语音情感识别 #领域适应 #最优传输 #自监督学习 #多语言 🔥 评分：9.0/10 | arxiv 👥 作者与机构 第一作者 (共同)：Girish (UPES, India) 第一作者 (共同)：Mohd Mujtaba Akhtar (Veer Bahadur Singh Purvanchal University, India) 通讯作者：Muskaan Singh (Ulster University, UK) 机构： UPES, India Veer Bahadur Singh Purvanchal University, India Ulster University, UK (具体为Ulster University的某个实验室/课题组，论文未明确指出) 💡 毒舌点评 亮点：这篇论文最妙的地方在于“换道超车”——当大家还在为标注好的多语言情感语音数据发愁时，它另辟蹊径，用几乎“免费”的非言语情感声音（笑、哭、叹气）作为监督信号，去教模型理解说话人的情感，这个视角非常新颖且具有启发性。 槽点：方法有点“堆料”之嫌，双曲几何、最优传输、向量量化全用上了，模型复杂度不低。虽然实验结果漂亮，但让人不禁怀疑，在实际低资源场景中，这套复杂系统的训练稳定性和部署成本是否会成为新的瓶颈。 🔗 开源详情 代码：论文中提供了GitHub仓库链接：https://github.com/helixometry/NOVA-ARC，表明代码计划或已经开源。 项目页面：提供了项目主页：https://helixometry.github.io/NOVA-ARC---ACL26/，通常用于展示更多结果和资源。 模型权重：论文中未明确说明是否公开预训练模型权重。但基于其开源代码的承诺，模型权重有可能随代码一同发布。 数据集：使用了多个公开数据集（ASVP-ESD, MESD, AESDD, RAVDESS, Emo-DB, CREMA-D），论文中提供了引用和获取方式的描述。 预训练权重：使用了开源的预训练模型（voc2vec, WavLM, wav2vec 2.0, MMS），并给出了HuggingFace等平台的链接。 在线Demo：论文中未提及在线演示。 依赖的开源项目：论文明确引用了voc2vec, WavLM, wav2vec 2.0, MMS等预训练模型作为基础编码器。 📌 核心摘要 这篇论文旨在解决低资源多语言语音情感识别（SER）中标注数据稀缺的核心瓶颈。作者提出了一个颠覆性的范式：将SER重新定义为无监督的“非言语到言语”迁移问题。其核心假设是，非言语发声（如笑、哭）中蕴含的韵律情感线索比言语更纯粹、更跨语言，因此可以作为更好的监督源。为此，作者设计了NOVA-ARC框架，它首先在标注的非言语数据上学习情感表征，并将其映射到双曲空间以捕捉情感的层级结构。通过一个双曲向量量化码本对韵律模式进行离散化，并与连续表征融合。对于无标签的目标言语数据，框架采用基于双曲最优传输的原型对齐方法，将目标语音样本软性地对齐到源域的情感原型上，从而诱导出伪监督信号进行自适应训练。实验在ASVP-ESD及五个公开言语SER数据集上进行，结果表明，NOVA-ARC在非言语到言语的迁移设定下， consistently 优于包括语音SSL模型在内的多种强基线，并在言语到言语的迁移设定中也表现出色。该工作首次为多语言SER提供了一种不依赖目标语言标签的、可扩展的监督新范式。 ...

📄 SELF-EMO: Emotional Self-Evolution from Recognition to Consistent Expression #语音情感识别 #强化学习 #多任务学习 #大语言模型 #语音对话系统 🔥 评分：8.0/10 | arxiv 👥 作者与机构 第一作者：Shaowei Zhang (商汤科技 SenseTime) 通讯作者：Faqiang Qian, Mengya Gao, Yichao Wu (商汤科技 SenseTime，邮箱：{qianfaqiang, gaomengya, wuyichao}@senseauto.com) 其他作者： Yan Chen (商汤科技 SenseTime，清华大学) Ziliang Wang (商汤科技 SenseTime) Kang An (商汤科技 SenseTime，上海交通大学) Yong Dai (X-Humanoid) 💡 毒舌点评 亮点在于巧妙地将心理学中的“情绪理解驱动情绪表达”理论，包装成了一个AI自我进化的“飞轮”游戏，让模型自己跟自己玩就能变强，理论上很优雅。槽点是整个框架严重依赖另一个LLM（Seed-1.8， DeepSeek-V3.2）来提取人格和生成初始数据，这相当于请了个“家教”来启动“自学循环”，其最终效果的天花板可能受限于这位“家教”的水平，且可能引入隐性偏差。 🔗 开源详情 代码：论文中明确声明“Code and data will be released at GitHub”，并提供了链接占位符（https://github.com/…），但截至论文发布时（2026年4月20日）链接未生效。因此，代码计划开源但尚未发布。 模型权重：未提及是否公开训练后的模型权重。 数据集：论文中使用的三个基准数据集（IEMOCAP, MELD, EmoryNLP）是公开的。自博弈生成的合成数据集预计会随代码一同发布。 预训练权重：基于Qwen3-4B和Qwen3-8B这两个公开的预训练模型。 在线 Demo：未提及。 引用的开源项目：论文中提到了VeRL训练框架，并在实验中使用了它。 📌 核心摘要 本文旨在解决对话系统中情感识别（ERC）与情感表达能力受限于高质量标注数据稀缺且静态的问题。核心贡献是提出了一个心理学动机的自我进化框架 SELF-EMO。关键方法是构建一个角色扮演的自博弈范式，使模型同时充当“情绪识别者”和“对话响应者”，并通过一个“生成-筛选-重用”的数据飞轮机制，利用平滑的基于IOU的奖励函数筛选高质量样本，实现无外部监督的持续自我改进。为此，作者还设计了多情感强化学习算法 SELF-GRPO，通过核心情绪集聚合和组级一致性建模来稳定训练。主要发现是在IEMOCAP、MELD和EmoryNLP三个基准数据集上，该方法在统一的训练设定下取得了SOTA性能，显著提升了模型的泛化能力。实际意义在于为构建数据高效、可自我进化的情感智能体提供了新范式。局限性在于框架的启动依赖外部LLM生成数据，且自我进化过程的长期稳定性和可能产生的偏差需要进一步研究。 ...