Icassp-2026

📄 Whisper-MLA: Reducing GPU Memory Consumption of ASR Models Based on MHA2MLA Conversion #语音识别 #语音大模型 #注意力机制 #模型优化 #推理优化 ✅ 7.0/10 | 前25% | #语音识别 | #注意力机制 | #语音大模型 #模型优化 学术质量 6.0/7 | 选题价值 0.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Sen Zhang（天津大学智能与计算学院） 通讯作者：Xianghu Yue（† 标注，天津大学智能与计算学院） 作者列表：Sen Zhang¹, Jianguo Wei¹, Wenhuan Lu¹, Xianghu Yue¹,†, Wei Li², Qiang Li², Pengcheng Zhao², Ming Cai², Luo Si²（¹天津大学智能与计算学院，²斑马网络技术有限公司） 💡 毒舌点评 这篇论文的亮点在于将复杂的MLA机制巧妙地“翻译”到了Whisper的绝对位置编码架构上，并通过实验精准地找到了最佳部署点（仅解码器自注意力），实现了显著的内存节省和可忽略的精度损失，实用性很强。短板在于其验证仅限于Whisper-small模型，缺乏在更大规模模型（如Whisper-large）上的数据来证明其普适性；同时，对于语音任务中至关重要的流式处理场景，论文未做任何分析和探讨。 🔗 开源详情 代码：论文提供了公开的代码仓库链接：https://github.com/sssssen/Whisper MLA。 模型权重：论文未提及是否公开转换后的Whisper-MLA模型权重。 数据集：使用的是公开的LibriSpeech数据集，论文中已说明。 Demo：未提及提供在线演示。 复现材料：提供了相当充分的复现信息，包括：转换方法（SVD细节）、微调数据集（LibriSpeech 960h）、训练超参数（3 epochs）、硬件环境（单卡RTX 4090）、批大小与梯度累积设置、转换与微调总时长（12小时）。 论文中引用的开源项目：主要依赖于OpenAI的Whisper模型作为基线和预训练源。 📌 核心摘要 本文旨在解决Whisper模型因Multi-Head Attention (MHA)机制中Key-Value (KV)缓存线性增长而导致的GPU内存消耗过高问题，该问题在长语音识别中尤为突出。核心方法是将Multi-Head Latent Attention (MLA)引入Whisper，并针对其绝对位置编码特性进行了适配。与已有工作相比，本文新在：1）提出了适配绝对位置编码的MLA架构，保留了原始模型的参数与能力；2）系统研究了MLA在编码器自注意力、解码器自注意力、解码器交叉注意力三种模块中的应用，发现仅应用于解码器自注意力（DSO）是性能与内存效率的最佳平衡点；3）开发了一种参数高效的转换策略，可从预训练Whisper模型快速转换而来。实验在LibriSpeech基准上表明，Whisper-MLA (DSO) 可将KV缓存大小减少高达87.5%，同时平均词错误率（WER）仅比微调后的Whisper基线高0.17%。该工作的实际意义在于，为在资源受限硬件上部署Whisper模型处理长音频提供了可行的内存优化方案。主要局限性在于仅在Whisper-small模型上进行了验证。 ...

📄 Whisper-QF: Leveraging Dual Cross-Attention Q-Former for Speech Emotion Recognition With Multi-Task Learning #语音情感识别 #多任务学习 #语音大模型 #Q-Former ✅ 7.5/10 | 前25% | #语音情感识别 | #多任务学习 | #语音大模型 #Q-Former 学术质量 7.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Ziyang Zhuang（平安科技，Ping An Technology） 通讯作者：未说明 作者列表：Ziyang Zhuang（平安科技）、Tao Wei（平安科技）、Yan Shi（平安科技）、Shaojun Wang（平安科技）、Jing Xiao（平安科技） 💡 毒舌点评 本文亮点在于设计了双交叉注意力Q-Former，巧妙且高效地桥接了Whisper编码器的声学特征与解码器的语义状态，在IEMOCAP上刷新了SOTA，证明了这种“适配器”设计的威力。但短板在于，它本质上是对Whisper现有架构的增强与适配，并未探索情感识别本身更深层的建模范式变革，且研究高度依赖单一数据集，结论的泛化性有待更多场景验证。 🔗 开源详情 代码：论文中未提及代码链接。文中仅提到使用Hugging Face Transformers库进行开发。 模型权重：未提及是否公开训练好的模型权重。 数据集：使用公开的IEMOCAP数据集，但论文未提及自己是否提供数据集的特定预处理版本。 Demo：未提及。 复现材料：论文提供了详细的训练超参数（表2）、硬件环境、数据划分方式、评估指标和消融实验设置，复现细节相对充分。 论文中引用的开源项目：明确引用了Hugging Face Transformers库（[29]）和Whisper预训练模型（[4]及其链接）。 总体：论文中未提及开源计划。 📌 核心摘要 问题：如何有效利用大规模预训练语音基础模型（如Whisper）的编码器-解码器架构，来提升语音情感识别（SER）的性能，同时克服���有方法在融合声学与语义信息上的局限。 方法：提出Whisper-QF框架，其核心是一个双交叉注意力Q-Former（DualCA-QF）模块。该模块包含两个交叉注意力层：第一层将可学习的查询向量与Whisper编码器的声学特征对齐；第二层将同一查询向量与Whisper解码器的语义状态对齐。同时，通过不确定性加权进行多任务学习，联合优化SER、性别分类（GR）和自动语音识别（ASR）任务。 创新：与先前方法（如序列化多任务学习的Whisper-ER）相比，DualCA-QF允许声学和语义信息在Q-Former内部并行、双向流动，而非序列依赖。查询嵌入从Whisper预训练词嵌入中初始化，使任务与基础模型的语义空间对齐。多任务学习策略提供了更丰富的监督信号。 结果：在IEMOCAP数据集上，基于Whisper-large-v3的Whisper-QF达到81.5%加权准确率（WA）和81.8%未加权准确率（UA），显著超越Whisper-ER等基线。同时，ASR词错误率（WER）从Whisper-ER的17.8%降至11.1%。消融实验表明，移除解码器感知交叉注意力使中性情绪的误分类减少23%。主要结果对比如下： 模型 参数量 SER WA SER UA GR Acc ASR WER Whisper-ER large-v3 1.54B 78.7% 79.4% 99.4% 17.8% Whisper-QF large-v3 1.57B 81.5% 81.8% 99.6% 11.1% 意义：验证了通过轻量级、架构感知的适配模块（如Q-Former），可以高效地挖掘大规模语音基础模型在情感理解等复杂任务上的潜力，为预训练模型在语音领域的迁移学习提供了新思路。 局限：研究仅在IEMOCAP（英语、情感类别有限）一个数据集上进行验证，模型的跨语言、跨数据集泛化能力未被评估。此外，框架的效能高度依赖于Whisper本身的能力和质量。 🏗️ 模型架构 Whisper-QF的整体架构如图1所示，主要由三个部分组成：原始的Whisper模型、双交叉注意力Q-Former（DualCA-QF）以及不确定性加权的多任务学习框架。 ...

📄 Whisper: Courtside Edition - Enhancing ASR Performance through LLM-Driven Context Generation #语音识别 #大语言模型 #领域适应 ✅ 6.5/10 | 前50% | #语音识别 | #大语言模型 | #领域适应 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Yonathan Ron（Reichman University, Efi Arazi School of Computer Science） 通讯作者：未说明 作者列表：Yonathan Ron（Reichman University）、Shiri Gilboa（Reichman University）、Tammuz Dubnov（Reichman University） 💡 毒舌点评 本文巧妙地将多智能体LLM管道作为“提示工程师”，通过两次转录的方式让Whisper模型“听懂”篮球解说，避免了昂贵的模型重训练，工程思路清晰。然而，整个系统严重依赖GPT-4o这一商业“黑盒”以及固定的球员名册，其延迟、成本和对外部知识库的强依赖性，使其在真实、动态的体育直播或成本敏感场景下的落地前景存疑。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。使用的是开源的Whisper模型和商业的GPT-4o API。 数据集：未公开。论文中描述数据为手动收集和分割，未提供下载链接或获取方式。 Demo：未提及。 复现材料：论文未提供具体的提示工程模板、代理的详细指令或知识库（球员名单、术语表）的内容。 论文中引用的开源项目：OpenAI Whisper模型、OpenAI GPT-4o API（商业服务）。 📌 核心摘要 本文针对领域特定语音识别（以NBA篮球解说为例）中ASR模型因专有名词和领域术语识别不准导致转录错误率高的问题，提出了一种基于大语言模型的多智能体管道。该方法不修改Whisper模型本身，而是利用其首次转录文本，通过一系列LLM代理（主题分类、命名实体识别、领域术语提取）生成一段简明的上下文提示，再将该提示注入Whisper进行第二次转录，从而引导模型产生更准确的输出。与直接文本后处理（LLM Post-Fix）或仅提供主题提示（Topic-Only）的方法相比，该方法在421个NBA解说片段上实现了统计显著的词错率（WER）下降：从基线的0.217降至0.180，相对改进17.0%（p<0.001），且仅有7.1%的片段出现性能下降。其实际意义在于提供了一种灵活、无需重训练的领域适配方案，其主要局限性在于对商业LLM（GPT-4o）的依赖引入了延迟与成本，并需要维护领域知识库（如球员名单）。 ...

📄 Why Do Speech Language Models Fail to Generate Semantically Coherent Outputs? A Modality Evolving Perspective #语音生成 #语音大模型 #模型评估 #零样本 #基准测试 ✅ 7.0/10 | 前25% | #语音生成 | #模型评估 | #语音大模型 #零样本 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Hankun Wang（X-LANCE Lab， 上海交通大学计算机科学与技术学院） 通讯作者：Kai Yu（X-LANCE Lab， 上海交通大学计算机科学与技术学院） 作者列表：Hankun Wang（X-LANCE Lab， 上海交通大学）， Haoran Wang（X-LANCE Lab， 上海交通大学）， Yiwei Guo（X-LANCE Lab， 上海交通大学）， Zhihan Li（X-LANCE Lab， 上海交通大学）， Chenpeng Du（X-LANCE Lab， 上海交通大学）， Kai Yu（X-LANCE Lab， 上海交通大学） 💡 毒舌点评 本文像一份详尽的“体检报告”，精准诊断出端到端语音大模型“语义表达不畅”的三大病根：音素编码不语义、序列太长、口音情绪太杂乱，并证明后两者影响远大于第一个。然而，光有诊断没有药方，论文止步于“未来可从短序列和强监督入手”的开放式建议，对于急需突破的社区而言，这记重拳打在了空气里。 ...

📄 Windowed SummaryMixing: An Efficient Fine-Tuning of Self-Supervised Learning Models for Low-Resource Speech Recognition #语音识别 #自监督学习 #迁移学习 #低资源 #多语言 ✅ 6.5/10 | 前50% | #语音识别 | #自监督学习 | #迁移学习 #低资源 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Aditya Srinivas Menon（Media Analysis Group, Sony Research India） 通讯作者：未说明（论文未明确标注，所有作者邮箱后缀相同） 作者列表：Aditya Srinivas Menon（Media Analysis Group, Sony Research India）、Kumud Tripathi（Media Analysis Group, Sony Research India）、Raj Gohil（Media Analysis Group, Sony Research India）、Pankaj Wasnik（Media Analysis Group, Sony Research India） 💡 毒舌点评 本文在SummaryMixing的框架内巧妙地引入了局部窗口摘要（WSM），思路直观有效，并通过“只替换最后两层”的选择性微调策略，在低资源场景下实现了效率与性能的合理平衡。然而，其创新局限于对现有线性注意力变体的改进，且实验规模（主要评估几种主流SSL模型）和理论分析深度有限，更像是一项扎实的工程优化工作，而非开创性的学术突破。 ...

📄 Z-Scores: A Metric for Linguistically Assessing Disfluency Removal #语音识别 #模型评估 #大语言模型 #语音大模型 #开源工具 ✅ 6.5/10 | 前50% | #模型评估 | #语音大模型 | #语音识别 #大语言模型 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：未说明（作者列表按字母顺序排列，未明确标注） 通讯作者：未说明 作者列表：Maria Teleki (德州农工大学), Sai Janjur (德州农工大学), Haoran Liu (德州农工大学), Oliver Grabner (德州农工大学), Ketan Verma (德州农工大学), Thomas Docog (德州农工大学), Xiangjue Dong (德州农工大学), Lingfeng Shi (德州农工大学), Cong Wang (德州农工大学), Stephanie Birkelbach (德州农工大学), Jason Kim (德州农工大学), Yin Zhang (德州农工大学), James Caverlee (德州农工大学) 💡 毒舌点评 本文提出的Z-Scores指标和配套的对齐模块，确实为评估生成模型去除语音不流畅性的能力提供了一个比整体F1分数更细致的诊断视角，这对于理解和改进模型行为很有帮助。然而，其核心创新（一个特定任务的评估指标和基于字符串匹配的对齐算法）更像是一次精心的“工具开发”，在技术深度和实验广度（仅用一个LLM基线、一个数据集进行了演示性案例研究）上稍显不足，离改变领域范式还有距离。 ...

📄 ZK-VSA: Zero-Knowledge Verifiable Speaker Anonymization Leveraging Phase Vocoder with Time-Scale Modification #语音匿名化 #零知识证明 #信号处理 #音频安全 #隐私计算 ✅ 7.5/10 | 前25% | #语音匿名化 | #零知识证明 | #信号处理 #音频安全 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Shuang Liang（上海交通大学计算机科学学院） 通讯作者：Tao Song（上海交通大学计算机科学学院）， Bin Yao（上海交通大学计算机科学学院） 作者列表：Shuang Liang（上海交通大学计算机科学学院）， Yang Hua（英国女王大学电子、电气工程与计算机科学学院）， Peishen Yan（上海交通大学计算机科学学院）， Linshan Jiang（新加坡国立大学数据科学研究所）， Tao Song（上海交通大学计算机科学学院）， Bin Yao（上海交通大学计算机科学学院）， Haibing Guan（上海交通大学计算机科学学院） 💡 毒舌点评 论文的亮点在于巧妙地将密码学中的零知识证明与经典的语音信号处理技术结合，为“可验证计算”在语音领域的应用打开了一扇窗，思路新颖且实现扎实。短板在于实验评估稍显单薄，仅验证了单一匿名化算子（PV-TSM）在单一数据集（LibriSpeech）上的效果，且未与其他基于深度学习的语音匿名化或更先进的可验证计算方案进行横向对比，说服力打了折扣。 🔗 开源详情 代码：论文中未提及公开的代码仓库链接。仅提供了一个演示页面：https://wizicer.github.io/zkVSA/ 模型权重：未提及。系统不涉及神经网络模型。 数据集：使用公开的LibriSpeech数据集，但未提及提供其他专有数据。 Demo：提供了在线演示页面链接：https://wizicer.github.io/zkVSA/ 复现材料：论文详细描述了电路设计算法（Algorithm 1, 2）和实验设置，但未提供完整的代码、训练脚本、超参数配置文件或检查点。复现需要自行实现复杂的SNARK电路。 论文中引用的开源项目：引用了gnark框架[18]（用于实现SNARK电路和GKR哈希验证）、Poseidon2哈希[20]、EdDSA签名[22]等。 总结：论文中未提及完整的开源计划或提供可直接复现的代码库。 📌 核心摘要 解决的问题：现有语音匿名化方法只能隐藏说话人身份，但第三方无法验证所发布的匿名语音是否确实由一个可信的原始录音经过预定义的匿名化处理得到，同时又不能泄露原始信息。这带来了对语音证据完整性和处理过程可信度的担忧。 方法核心：提出“可验证语音匿名化”范式，并利用零知识简洁非交互知识证明（ZK-SNARKs）实例化为ZK-VSA系统。核心是将基于相位声码器的时标修改（PV-TSM）匿名化算法编码为SNARK友好的算术电路约束，并结合数字签名和承诺方案，实现既能证明处理过程正确，又不泄露原始语音。 与已有方法相比新在哪里：这是首次将可验证计算（特别是零知识证明）系统性地应用于语音匿名化领域。与单纯追求匿名效果或使用水印的方法不同，它提供了密码学意义上的处理过程正确性保证，且不引入额外的音频伪影。 主要实验结果：在LibriSpeech测试集上评估。匿名化效果方面，ZK-VSA的等错误率（EER）高于原始语音和浮点PV-TSM，表明其增强了匿名性。可理解性方面，字错率（WER）增加通常低于1%（最高为1.8%）。可验证性方面，证明生成时间随音频帧数线性增长（例如16秒音频约13.43秒），但验证仅需毫秒级（约4毫秒），证明大小固定为292字节。 实际意义：为需要审计追踪和隐私保护的语音应用（如法庭取证、隐私敏感数据共享）提供了一种技术解决方案，确保语音处理过程透明、可信且可验证，防止伪造和抵赖。 主要局限性：实验仅在单一数据集和单一匿名化算子（变调）上进行验证，未与其他语音匿名化基线或更复杂的场景（如多语言、带噪）进行对比。此外，系统设计假设了可信的录制设备来生成初始签名，这在实际部署中可能是一个挑战。 🏗️ 模型架构 该论文提出的ZK-VSA并非传统意义上的深度学习模型，而是一个由密码学证明系统和信号处理算法协同工作的协议系统。 ...

📄 ZSV2C-MLLM: Zero-Shot Visual Voice Cloning Via Multimodal Large Language Models #语音克隆 #多模态模型 #零样本 #强化学习 #语音合成 ✅ 6.5/10 | 前50% | #语音克隆 | #多模态模型 | #零样本 #强化学习 学术质量 5.8/7 | 选题价值 2.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Yanling Zhang（昆明理工大学） 通讯作者：Shengxiang Gao（昆明理工大学） 作者列表：Yanling Zhang（昆明理工大学，云南人工智能重点实验室）、Linqing Wang（昆明理工大学，云南人工智能重点实验室）、Shengxiang Gao（昆明理工大学，云南人工智能重点实验室） 💡 毒舌点评 亮点：论文最大的亮点在于将“情感规划”这个抽象任务显式地交给一个经过微调的大语言模型来完成，这个思路比传统基于规则或回归的方法更灵活，也更契合当前LLM赋能各任务的潮流。短板：论文在最关键的“如何做到零样本”和“LLM具体如何规划韵律”这两个核心问题上，细节描述过于粗疏，比如对“融合”操作（公式1）和“情绪调制”函数（公式4）的实现一笔带过，给人的感觉是框架大于细节，实验数据漂亮但“黑盒”感较强。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开模型权重。 数据集：使用了公开数据集GRID和CHEM，但未提供获取方式或预处理脚本。 Demo：未提及在线演示。 复现材料：仅提供了极有限的训练设置（优化器、学习率、硬件），缺乏复现所需的详细配置文件、超参数表、代码或检查点。 论文中引用的开源项目：引用了CosyVoice/CosyVoice2的工作，但未明确说明其开源项目是否被直接使用或作为基础进行构建。 总结：论文中未提及任何开源计划。 📌 核心摘要 要解决的问题：现有的视觉语音克隆（V2C）方法大多依赖于配对的音频-视觉数据，缺乏零样本能力，这限制了其在资源受限环境（如无配对数据）下的可扩展性。 方法核心：提出一个零样本V2C框架，集成文本、静音视频、参考音频和用户情感标签作为输入。其核心创新是一个基于预训练大语言模型（Qwen）的情感韵律规划器，它能根据多模态融合特征生成连续的韵律轨迹（如音高、语速、停顿）。 与已有方法相比新在哪里：主要区别在于引入了LLM作为多模态信息整合与情感韵律规划的中心模块，并实现了无需配对音频数据的零样本推理。相比于V2C-Net、Face-TTS等方法，该框架在数据要求上更灵活。 主要实验结果：在GRID和CHEM两个数据集上，该方法在语音质量（MOS-S）、自然度（MOS-N）和说话人相似度（SPK-SIM）上均显著优于基线方法。例如，在GRID数据集上，MOS-S达到3.94，比最强基线Multi-TTS（3.50）高0.44；SPK-SIM达到71.52，远高于其他方法。消融实验证明，移除视觉输入、情感控制、强化学习或LLM规划器都会导致性能明显下降。 实际意义：为电影配音、语音修复、交互媒体等需要情感化语音合成但缺乏配对训练数据的场景，提供了一种可扩展的解决方案。 主要局限性：实验仅在两个相对小规模和特定领域的数据集（GRID为命令式语音，CHEM为情感语音）上验证，对于更复杂、更自然对话场景的泛化能力未证明。此外，论文未公开代码和模型细节，可复现性存疑。 🏗️ 模型架构 该框架是一个多输入、多模块的端到端系统，旨在生成情感可控的语音。整体流程可概括为：多模态特征提取与融合 -> LLM情感韵律规划 -> 条件概率语音生成 -> 强化学习优化。 ...

📄 β-AVSDNET: A Novel End-To-End Neural Network Architecture For Audio-Visual Speaker Diarization #说话人分离 #端到端 #音视频 #多模态模型 ✅ 7.5/10 | 前25% | #说话人分离 | #端到端 | #音视频 #多模态模型 学术质量 5.8/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Chang Huai You（Singapore Institute for Infocomm Research (I2R), A*STAR） 通讯作者：未说明 作者列表：Chang Huai You（Singapore Institute for Infocomm Research (I2R), A*STAR） 💡 毒舌点评 这篇论文在“用巧劲”上做得不错，把LeNet这种“古董级”轻量化网络用在了音视频分离任务上，配合巧妙的ROI-delta特征设计，反而比ResNet-18等更复杂的模型效果更好，证明了在特定任务上“合适”比“复杂”更重要。但论文对训练的“黑盒”部分描述有所保留，比如具体的训练硬件、优化器、学习率变化等关键复现细节一笔带过，让想跟着跑的同行心里有点没底。 🔗 开源详情 代码：论文中未提供本研究提出的β-AVSDnet模型的代码仓库链接。但明确指出了MISP 2025挑战赛的AVSD基线代码库：https://github.com/mispchallenge/MISP-2025-AVSD-Baseline。 模型权重：未提及公开预训练权重。 数据集：使用MISP 2025挑战赛数据集，未说明其公开获取方式。 Demo：未提供在线演示。 复现材料：提供了模型架构图（图2,3,4）、主要超参数范围（α）、训练策略描述。但未提供完整的训练配置、超参数列表、检查点或附录。 论文中引用的开源项目：引用了MISP 2025 AVSD Baseline [23]、RetinaFace [24]、ECAPA-TDNN [8]、Dover-Lap [32]、Mixup [33]、Silero VAD [30]、WeSpeaker [31]、Kaldi [29]、Pyannote [2] 等开源工具或模型。 📌 核心摘要 问题：传统音频说话人分离在远场、混响、重叠语音等复杂声学环境下性能受限，现有的多模态音视频分离系统常采用两阶段分离架构，优化困难且复杂。 方法核心：提出了一种名为β-AVSDnet的端到端神经网络架构，统一处理音频、视频和说话人嵌入三路输入。其核心创新包括：a) 设计了融合静态唇形、唇部运动（delta-lip）和面部特征的ROI-delta视觉表征；b) 采用轻量级修改版LeNet作为视觉编码器，并搭配共享Conformer块；c) 引入一个专用的β-AV嵌入子网络来融合视觉嵌入与说话人嵌入；d) 采用双目标训练策略，同时优化视觉预测和最终的音视频预测。 新在哪里：相比以往方法，该工作首次在AVSD任务中统一了视觉、音频和说话人嵌入的处理流程，并提出了兼顾外观、运动和身份的ROI-delta特征。通过实验证明，一个极其轻量化的视觉编码器（LeNet）在该任务上可以达到甚至超越更复杂网络（ResNet-18）的性能。 主要实验结果：在MISP 2025挑战赛的远场开发集上，β-AVSDnet的最佳单通道配置（β:Retina-Delta ECAPA）将词错误率（DER）从基线系统的15.38%降低到12.20%，模型参数量从58.9M降至26.7M（减少54%）。在多通道融合后，DER进一步降至10.98%。使用额外训练数据和数据增强后，DER达到7.25%，优于报告中的其他系统。关键对比数据见表2。 实际意义：该工作为复杂声学环境下的会议转写、多模态对话分析等应用提供了一种更高效、更鲁棒的解决方案。其轻量化特性也便于在端侧部署。 主要局限性：a) 评估仅基于MISP数据集，其泛化能力有待验证；b) 论文对训练的具体硬件、优化器、学习率调度等关键复现细节描述不足；c) 双目标训练中权重系数α的动态调整策略（“在0.80和0.98之间变化”）的具体机制和影响未充分讨论。 🏗️ 模型架构 β-AVSDnet是一个端到端的多模态神经网络，整体架构如图3所示，旨在联合处理视频、音频和说话人嵌入，输出每个说话人在每个时间帧的活动概率。 ...