多语言多模态语音大模型情绪识别为何偏向特定性别:ERM-MinMaxGAP 压最坏语言内差距
论文在英日德三语 MELD-ST 上量化语音大模型情绪识别的语言依赖性别差距,并用经验风险加最坏语言内男女损失差距正则与自适应权重训练,在单模态提升约 5.5% 且多模态提升约 5.0% 的同时把总体性别差距分别缩小 0.1% 和 1.4%,代价是固定大权重会明显损伤识别性能。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
论文在英日德三语 MELD-ST 上量化语音大模型情绪识别的语言依赖性别差距,并用经验风险加最坏语言内男女损失差距正则与自适应权重训练,在单模态提升约 5.5% 且多模态提升约 5.0% 的同时把总体性别差距分别缩小 0.1% 和 1.4%,代价是固定大权重会明显损伤识别性能。
论文针对印地-英语混码语音的强制对齐提出两个可复述操作:用 bootstrapping 重映射词典解决 ph-f 与 J-z 自由变体,用句级混码数据训练声学模型对齐句中英语词,最强证据是混码模型平均中点误差 4.15 ms 约为单语模型的十分之一,代价是词典需人工校对鼻音与 schwa 且结论限于 MFA v1.0 与朗读语料。
论文用试镜与选角双角色游戏收集多语言情境化韵律语音,再用冻结表征加轻量分类器做情感识别与分阶段探测,显示库内情感可学但跨库更难,且年龄与情感在中间表征仍可恢复,代价是整体规模小、非专业表演变异大。
该工作针对阿姆哈拉语和阿凡奥罗莫语从零搭建录音室级多说话人语音合成数据与基于 SpeechT5 的微调流程,用 100 小时加 13 小时针对性数据的规模与主观平均意见分 4.65 和 4.43 证明语言学知情数据是关键,代价是同形异义消歧仍依赖规范化输入且未开源验证。
论文把近 10 万小时英语预训练的 F5-TTS 直接在 1417 小时 11 种印度语言上微调,用对照实验显示直接微调在总体 MUSHRA 73.4 上超过混入英语与从零训练,并以 10 小时每语言保留涌现能力为代价换来零资源语言的可扩展性。
论文构造约 108 小时三类声学条件的多人对话基准并统一评测说话人日志与识别,报告显示印度专用管线在时长加权平均上取得最低的 16.0% 日志错误率与 38.8% 级联词错率,但高重叠与低资源语言仍使三类误差同步上升。
该研究在 29 种语言 33 个数据集上冻结 11 个自监督语音主干只训练分类头,发现跨语言迁移更多受语言结构类型制约而非预训练量或参数规模,最强平均 F1 来自 Whisper 而达罗毗荼语系系统性失效且增大参数不能解决。
针对多语言说话人确认中说话人与语言纠缠导致跨语言试次退化的问题,L-Proto 选择每个训练回合只从单一语言采样说话人并做原型分类,在 TidyVoice 开发集上把 SimAM-ResNet100 的总体等错率从微调的 2.63 降到 1.18,代价是需要语言标签、每语言足够说话人多样性并增加采样开销。
针对多语言说话人确认中语言失配导致身份与语言特征纠缠的问题,该研究选择在 w2v-BERT 2.0 上做层适配与多尺度聚合,并以梯度反转做语言对抗与多语言合成扩增,最强证据是在开发集上相对基线明显降低等错率,而代价是在未见语言与合成域失配条件下增益受限。
LUMO 针对无网与隐私敏感场景,在树莓派 5 上用本地语音识别加 4 比特量化小模型加本地合成组成全离线流水线,在短指令上报告低噪声下较低词错误率与约 3.2 秒端到端延迟,代价是强噪声下错误率明显上升且小模型推理能力有限。
针对自回归解码慢、非自回归精度差的矛盾,该文用音频条件掩码扩散解码器加两步自我纠正训练与位置偏置采样,在多英语基准上达到 1.8%/3.6% 等词错误率并保持并行加速,代价是仍需多步迭代且未覆盖更广泛语言域。
该研究用人工标注话语时长比较同一越南语接触项目第一年与第二年前八个片段,报告儿童总话语占比从 10.9% 升至 25.3%、师生比从 8.17 降至 2.94,但英语仍占主导且组织者越南语输入下降而儿童越南语输出仅获中等强度证据支持。
MSU-Bench 针对多人对话提出从说话人接地到对话推理的两层 16 任务 2300 题评测,用统一四选一和错误类型诊断揭示时间定位难与说话人归因错是主要瓶颈,闭源 Gemini-3-Flash 以 0.77 整体准确率领先但仍未解决复杂接地与交互推理。
论文把帧级语音直接映射为 22 维音系特征并以发音方式门控保证组合合法,在四种训练语言上以 91.3% 域内和 88.9% 域外平均宏 F1 超过同骨干 CTC 音素基线约 8.8 和 8.6 个点,未见语言平均从 66.9% 提升到 73.6%,代价是特征库存不含鼻化元音与腭化等对比且跨语迁移仍明显掉点。
该文要解决词级强制对齐在多语下的可扩展问题,选择融合 MMS 与无监督音素边界表示再用可学习动态规划定边界,最强证据是在 TIMIT 和 Buckeye 上超过 MFA 与 MMS 基线,代价是编码器与解码器不能联合优化且在荷兰语等未见语言上优势只在部分容差下成立。
针对非言语发声合成缺乏配对真人参考与统一指标的问题,NV-Bench 用 1651 条中英野外语音与双维度协议测控指令对齐与声学逼真度,最强基线 NV-CV3 在普通话单标签上做到 PCER 27.69% 与 OCER 4.90%,但多标签与英文仍有明显差距。
NVV-SuperBench 针对笑、叹息、哭泣等非言语发声提出 45 类双语可控生成基准,用客观、人听与大模型多评分者三路评估 15 个系统,报告显示可控性常与语音质量脱钩,而低信噪比口腔音与长时情感发声仍是最难的瓶颈,且加非言语发声会抬高词错误率并改变自然度偏好。
OmniVoice 针对两阶段文本到语义再到声学管线的误差传播与信息瓶颈问题,选择单阶段双向 Transformer 直接由文本预测多码本声学词元,并以全码本随机掩码与大语言模型初始化为关键手段,在 581k 小时开源多语数据上实现覆盖 600 余种语言,最强证据是中英文与 102 语可懂度接近真值,代价是长尾低资源语言仍依赖重采样与修复流水线且推理需 32 …
该研究以加拿大 Hansard 英法议会 40 组独白加提问为对象,用余弦相似度检验声学韵律与语义趋同,发现全局与首尾分段趋同并存且跨语言存在两阶段规划,但强驱动特征消融后跨语言下降更大。
该文针对英语短语音主导、长语音与多语言评测分散且准度与效率口径不一的问题,搭建覆盖 86 个系统与 11 个数据集的三轨评测流程并统一词错误率与逆实时因子计算,在当前结果中 Conformer 类编码器加大语言模型解码器平均词错误率最低而 CTC 与 TDT 解码器吞吐更高,但差异同时受训练数据与配置影响。