在家庭之间泛化:用可分离的说话人条件做婴儿中心多层帧级标注
针对家庭间域偏移与多说话人重叠的婴儿中心家庭录音,该工作用 LoRA 微调的 Whisper 编码器加目标说话人提取与分层分类器做帧级多层标注,报告平均 74.88 Macro-F1 与 68.14 κ,最强证据来自消融与跨层比较,代价是测试家庭偏移未显式建模且测试时自适应增益有限。
针对家庭间域偏移与多说话人重叠的婴儿中心家庭录音,该工作用 LoRA 微调的 Whisper 编码器加目标说话人提取与分层分类器做帧级多层标注,报告平均 74.88 Macro-F1 与 68.14 κ,最强证据来自消融与跨层比较,代价是测试家庭偏移未显式建模且测试时自适应增益有限。
针对语音识别语料标注偏松导致日志边界虚胖的问题,该研究用因果与反因果模型取交集生成紧伪标签并协同训练,在理想紧标签增益中恢复约 70% 并改善下游识别,但以漏检上升和仍需紧标注验证为代价。
Argmax Pro 针对离线可用的富功能语音识别问题,选择以 Parakeet v2 做转写、Canary v2 CTC 经 CTC-WS 做偏置、Streaming Sortformer v2 微调做说话人切分并全部部署到手机 NPU 上,论文报告自定义词表可扩至 3000 词而不影响运行时延迟,但未给出词错率、延迟与功耗的定量对照。
针对儿童中心长录音中说话人类别难分的问题,论文用 13164 小时有效语音的 40 余种语言儿童中心数据做两轮 HuBERT 预训练再微调做声音类型分类,在留出集上平均 F1 达到 66.9% 接近第二标注者的 69.8%,代价是 32 块 H100 各 30 小时预训练与对其他儿童类的剩余差距。
针对说话人数未知时的联合多说话人识别与说话人归属加时间戳问题,论文采用先带思维链监督微调再用多维约束奖励做分组相对策略优化的两阶段路线,在 Libri3Mix 与 Dynamic-Mix 上报告 14.52%/9.24% 的 cpWER 和 1.95%/1.12% 的 WDER,代价是需要精细结构化输出与多采样强化探索。
针对端到端说话人日志与识别中说话人判别不足的问题,该文用全局聚类加簇内重编码的分层分类与日志识别联合训练,在 AliMeeting 等三套会议数据上降低了归属误差,代价是依赖离线嵌入聚类与过滤流水线且未验证延迟与大规模开放场景。
针对多人轮替与重叠会议转写,STAM-ASR 在冻结 Qwen2.5-Omni-7B 编码器上加内部说话人日志、残差 FiLM 调制与说话人/会话双记忆,在参考与预测说话人活动对比中显示时间证据与记忆互补,但预测跟踪误差仍是主要瓶颈。
针对真实会议中快速轮转与重叠导致的边界模糊和聚类不稳,该工作在分割级用 OWSM 编码器经 FiLM 调制 WavLM 中间层、在聚类级用已知说话人嵌入复制加权做 KSGC,在 AMI、AliMeeting 和 AISHELL-4 上报告了 DER 下降,但以双编码器计算开销和复制因子需按语料调参为代价。
针对五人以上拥挤录音中端到端 diarization 系统性少计低话量说话人的问题,论文在 EEND-TA 上加训练期门控耦合正则与按说话人加权的归约,最终系统把拥挤子集精确计数从 32.9% 提到 41.6%,代价是 CallHome 这类吸收型错误为主的域精确计数下降且需多调存在门指数。
针对野外遮挡噪声下说话人易误判问题,ROAM-ASD 联合音频、全脸与嘴部三流并用联合自注意力加模态丢弃融合,在五个基准上取得 98.8%、87.9% 等 mAP,代价是需要人脸跟踪与嘴部关键点定位。
该挑战用约 2100 小时 14 语言双人对话同时考 diarization 加识别与整场理解,基线显示长时说话人对齐与语义推理是主要瓶颈,而参赛系统靠域内 diarization 适配与音频依赖监督把误差与准确率推到新水平。
针对多语言双人长对话口语问答中不同问题依赖不同证据的问题,该工作用带说话人时间戳的转写做主干、按问题动态挂接局部或全局音频,开发集任务二达到 94.84% 准确率,但消融无法完全分离标签质量与证据分配的因果。
该工作把完整会议说话人日志写成条件于声学输入的自回归结构化词元生成,对比事件式与帧式表示并引入语音活动与重叠等辅助线索,最强可运行证据是事件式 SAD 到 OD 再到 SD 链经 VBx 链接后在 AMI 上达到 24.40% 日志错误率,代价是原始输出跨段身份混乱且重叠区漏检仍然很高。
针对无预先切分的多语会话转写任务,该工作用说话人日志、长语音识别与 CTC 对齐加融合的级联路线,在官方评测集上报告 tcpMER 为 15.41% 获得第二名,代价是三模块串行依赖与多阶段微调成本。
针对田间噪声、多说话人和农业词汇三类失败,论文用可开关的增强、说话人分离与词表修复包裹未改动的 ASR 模型,在印地语等三语评估上实现云端相对 16% 至 23% 的词错误率下降,多说话人下达 32% 至 42%,代价是增强与修复只在证据支持时生效且 M4 未被测量。
针对临床访谈中医生与患者归属问题,论文用 LoRA 微调 Whisper-large-v3 并加帧级角色头做端到端转写,再用真实解码失败做 DPO 提炼,在 29 个 DAIC-WOZ 测试会话上达到 0.973 角色准确率与 0.119 DER,但中文语音转换数据的剩余误差仍集中在角色判错而非漏转。
该研究把时间戳与说话人归属做成对给定转录本的单遍占位填充,用双向大模型同时输出全部标签,在相同训练数据下比同类自回归模型更准且标注快一到两个数量级,但流水线总速度仍受前置语音识别限制。
共收录 118 篇 jep-2026 会议论文的 Reader 深度解读
共收录 188 篇 speechprosody-2026 会议论文的 Reader 深度解读
针对两头同龄雄性幼鲸近距离身体接触时连续重叠喀哒声串难以归属的问题,论文用单通道恒 Q 变换谱加步间间隔节律做声学解交织,再用三元紧凑阵列到达时差定位投影到视频验证,在简单场景聚类误差为 0.0%、最难场景达 25.79%,并以 10 度容限实现主要发射者最高 100% 水平视觉一致,代价是垂直方向系统性偏差与近平面阵列几何盲区导致两个场景无法最终归属。