Icassp-2026

📄 Asynchrony-Aware Decoupled Multimodal Control for Cued Speech Video Generation #语音合成 #扩散模型 #流匹配 #音视频 #低资源 ✅ 7.5/10 | 前10% | #语音合成 | #扩散模型 | #流匹配 #音视频 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Fengji Ma（香港科技大学（广州）） 通讯作者：Li Liu（香港科技大学（广州），邮箱：avrillliu@hkust-gz.edu.cn） 作者列表：Fengji Ma（香港科技大学（广州））、Xiao-Ping Zhang（清华伯克利深圳学院）、Li Liu（香港科技大学（广州）） 💡 毒舌点评 这篇论文的亮点在于将“手语视频生成”这个具体任务分解得非常清晰，并针对其中“控制纠缠”、“动作异步”和“长视频漂移”三个痛点分别设计了技术方案（DCL、SAMP、MS-CWD），体现了扎实的工程思维和问题导向。然而，其短板也显而易见：作为一篇强调生成质量的工作，却未提供任何开源代码或预训练模型，甚至训练数据集的公开性也未明确，这极大削弱了其作为学术贡献的可验证性和后续研究价值；此外，长视频一致性的验证仅在500帧左右，对于实际应用可能需要更长序列的表现未做探讨。 📌 核心摘要 要解决的问题：论文旨在解决从语音和姿态信号生成手语视频（Cued Speech Video）时面临的三个关键挑战：(1) 语音与姿态模态间的控制纠缠，导致嘴唇和手部细节模糊；(2) 手语系统固有的手部动作与语音的自然异步性，严格对齐会导致动作不自然；(3) 长视频生成中缺乏长期时序一致性。 方法核心：提出一个名为“解耦课程学习”（Decoupled Curriculum Learning, DCL）的三阶段训练框架。该框架先分别训练语音分支（控制嘴唇）和姿态分支（控制上半身和手势），再进行联合微调。同时，引入了区域感知重建损失（RAR）以增强局部细节，设计了语音异步调制（SAMP）机制来建模手势与语音的自然时间偏移，并提出了多尺度上下文窗口去噪（MS-CWD）推理策略以保证长视频的时序连贯性。 与已有方法的创新点：与以往通用的人像动画或说话人头部生成方法不同，本文是首个针对“手语视频生成”这一特定任务进行系统性建模的工作。其创新点包括：(1) 明确的解耦训练策略（DCL）以避免模态干扰；(2) 区域感知的精细化损失（RAR）聚焦于嘴唇和手部这两个关键区域；(3) 首次在生成任务中显式建模语音与手势的异步关系（SAMP）；(4) 专为长视频设计的多尺度、加权融合的推理算法（MS-CWD）。 主要实验结果：在自建的普通话手语（MCCS）数据集上，本文方法在所有评估指标上均优于StableAnimator (SA) 和 UniAnimate-DiT (UAD) 两个SOTA方法。具体数值见表1。消融实验证明，移除任何一个提出模块（DCL, RAR, SAMP, MS-CWD）都会导致性能下降，其中移除DCL影响最大。图4显示，在500帧长视频中，本文方法的手部关键点置信度（HKC）和语音-嘴唇同步置信度（Sync-C）的衰减率仅为约3%，远低于基线方法（约7%-22%）。 实际意义：该技术有望为听障人群生成易于理解的、手语辅助的教学或交流视频，打破沟通壁垒。其提出的技术（如异步建模、长视频生成）也可能迁移至其他需要多模态协调控制的视频生成任务中。 主要局限性：论文未提供代码和模型，复现困难；实验仅在普通话手语数据集上进行，未验证其他语言手语的通用性；未分析模型的计算开销和训练成本；长视频测试的最长长度为500帧，对于更长的序列（如分钟级）的稳定性有待进一步验证。 🏗️ 模型架构 论文的整体架构基于一个扩散Transformer（DiT）骨干网络，并遵循Rectified Flow（RF）目标进行训练。其核心设计是“解耦课程学习”（DCL），分为三个阶段（如图2所示）： ...

📄 ATOM: Adaptive Token-Level Optimal Transport Mixup for Speech Translation #语音翻译 #对比学习 #多任务学习 #数据增强 #低资源 🔥 8.0/10 | 前25% | #语音翻译 | #对比学习 | #多任务学习 #数据增强 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者：Jialing Wang（1. 教育部民族语言智能分析与安全治理重点实验室，中央民族大学；2. 香港中文大学（深圳）） 通讯作者：Yue Zhao（教育部民族语言智能分析与安全治理重点实验室，中央民族大学） 作者列表：Jialing Wang（教育部民族语言智能分析与安全治理重点实验室，中央民族大学；香港中文大学（深圳））、Yue Zhao（教育部民族语言智能分析与安全治理重点实验室，中央民族大学）、Yuhao Zhang（香港中文大学（深圳））、Haizhou Li（香港中文大学（深圳）） 💡 毒舌点评 亮点：ATOM框架巧妙地将最优传输的“硬”对齐、对比学习的“精”对齐以及语义相似度引导的自适应“软”混合结合成一个闭环，在低资源藏汉翻译任务上实现了显著的BLEU提升（+2.43），证明了其在弥合模态鸿沟方面的实际效力。 短板：论文对于关键的自适应混合公式（3）解释不够清晰（p、σ、γ未明确定义），且消融实验设计较为简单，未能深入剖析各组件协同工作的具体机制和边界条件，使得方法的“自适应”智能性略显黑盒。 📌 核心摘要 要解决的问题：端到端语音翻译（ST）面临训练数据稀缺和源语言语音与目标语言文本之间存在巨大模态鸿沟的双重挑战。 方法核心：提出ATOM框架，结合最优传输（OT）进行初始跨模态对齐，利用基于InfoNCE的对比学习迭代优化对齐质量，并设计一种基于语义相似度的自适应模态混合策略，将对齐后的语音和文本token在特征层面进行融合。 与已有方法相比新在哪里：相比于之前使用固定概率进行模态混合或仅使用单一对齐机制的方法，ATOM实现了“对齐（OT）-精化（对比学习）-融合（自适应混合）”的闭环，且融合权重由token间的语义相似度动态决定，更具灵活性和语义感知能力。 主要实验结果：在MuST-C英德（En-De）和TIBMD藏汉（Ti-Zh）数据集上进行评估。 主实验结果对比表 模型 En-De BLEU Ti-Zh BLEU XSTNET 20.61 11.56 STEMM 20.82 13.61 ConST 20.77 14.66 CMOT 20.84 14.87 OTST 20.88 13.90 ATOM 22.48 17.30 消融实验（En-De）：移除对比学习（-LCTR）导致BLEU下降0.34；同时移除对比学习和自适应混合（-CTR -Adaptive Mixup）导致BLEU下降1.64，回落至CMOT的水平（20.84）。 不同对齐损失对比（En-De）：CTR损失（21.18）优于OT损失（20.75）和CAR损失（20.09）。 主要结论：ATOM在两个任务上均取得最优结果，相比最强基线CMOT分别提升1.64（En-De）和2.43（Ti-Zh）个BLEU点，在资源更稀缺的Ti-Zh任务上提升尤为显著。 实际意义：为低资源语音翻译提供了一种有效的技术方案，通过挖掘多任务学习中平行文本数据的潜力来提升语音模型性能，对促进欠发达语言的跨语言交流有实用价值。 主要局限性：1）实验对比的基线均为2022-2024年的经典方法，未与更新的、可能基于大规模预训练语音-语言模型的SOTA进行对比；2）自适应混合策略的参数设置（p, τ, γ）依赖经验，缺乏更深入的分析或自动化调参机制；3）论文未公开代码，限制了可复现性和直接应用。 🏗️ 模型架构 ...

📄 Atomic Norm Minimization Revisited: Progressive Atom Identification And Refinement #声源定位 #信号处理 #麦克风阵列 #实时处理 ✅ 7.5/10 | 前25% | #声源定位 | #信号处理 | #麦克风阵列 #实时处理 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Xiaozhi Liu（北航数学科学学院） 通讯作者：Yong Xia（北航数学科学学院） 作者列表：Xiaozhi Liu（北航数学科学学院）、Jinjiang Wei（北航数学科学学院）、Yong Xia†（北航数学科学学院） 💡 毒舌点评 这篇论文理论功底扎实，通过极限重写了原子范数公式，巧妙地绕开了计算昂贵的SDP，并顺手搭了一座连接贝叶斯估计的桥，理论上有新意；其提出的PAIR算法在无噪声仿真中也展示了惊人的速度和精度提升。然而，论文对噪声场景的处理轻描淡写地用一句“留作未来研究”带过，这对于一个信号处理领域的实际应用算法而言是严重的短板，大大削弱了其实用性和说服力。 📌 核心摘要 要解决什么问题：原子范数最小化（ANM）是解决线谱估计（如到达方向估计）问题的强力工具，但传统方法依赖于半定规划（SDP），导致计算复杂度过高，限制了实时应用。 方法核心是什么：本文提出了一种基于极限的原子范数新公式（定理1-3），避免了SDP。该公式揭示了原子范数与贝叶斯估计目标函数之间的联系。基于此，提出了名为PAIR的低复杂度算法，通过序列化的原子识别与准牛顿法细化来求解。 与已有方法相比新在哪里：1）提出了一种不依赖SDP的原子范数等价极限公式，并可推广至一般原子集；2）从理论上桥接了ANM与贝叶斯线谱估计方法；3）设计的PAIR算法是网格无关的，计算效率远高于基于SDP的网格无关方法（如SDP-ANM, EMaC），且能自动估计信号源数量。 主要实验结果如何：在无噪声、5个正弦分量的仿真实验中（n=64）： 成功率：在采样数m较低时（如m=10），PAIR的成功率显著高于SDP-ANM和EMaC，与SRCS接近（见图1a）。 运行时间：在所有m值下，PAIR的运行时间比SDP-ANM和EMaC快两个数量级以上，也比SRCS快一个数量级（见图1b）。 频率估计误差：PAIR的估计误差δ(f, ̂f)的均值和方差均小于对比方法（见图1c）。 关键数据：论文未提供具体数值，结论基于图表。 实际意义是什么：该工作为高精度、低延迟的线谱估计提供了一种新的高效算法框架，尤其适用于对实时性要求高的场景，如实时波束成形和动态频谱感知。 主要局限性是什么：论文的核心局限性在于其分析和实验几乎完全基于无噪声场景，而实际应用必然面临噪声干扰。对于噪声下的性能、算法稳定性以及参数选择（如β序列）的鲁棒性缺乏分析。此外，实验仅验证了一维线谱估计场景。 🏗️ 模型架构 本文的核心贡献在于理论推导和算法设计，而非传统意义上的“模型架构”。PAIR是一个迭代优化算法，其流程可概括如下： 输入：观测向量 y（或压缩测量 Φx），原子集 A（如范德蒙德向量）。 初始化：设置初始正则化参数 β₀ = 1/(n·‖x‖)，初始字典为空，C = β₀I。设定过采样因子 γ = 8。 主循环（逐步减小 β）： a. 原子识别：在一个离散频率网格 Ω 上，计算每个候选原子 a(f) 带来的目标函数下降量 ΔL_β。选择使下降最大的频率 ̃f 及其最优权重 ̄d 作为新原子，加入字典。重复此过程，直到所有候选原子的下降量均非正。 b. 准牛顿细化：使用阻尼BFGS算法，以当前估计的频率和幅度为初值，在连续频率域上进行局部优化，以克服网格失配。 c. 更新 β：β_{k+1} = 0.2 * β_k，进入下一轮循环。 输出：估计的频率集合 ̂f = {̂f₁, ..., ̂f_r} 和对应的幅度 ̂d = {̂d₁, ..., ̂d_r}。 组件交互：算法是一个贪心式序列优化，C 矩阵（由当前估计的原子和 β 构成）在原子识别步骤中作为协方差矩阵的估计，用于计算信息增益。每添加一个新原子，C 都会更新，从而引导后续选择。 💡 核心创新点 基于极限的原子范数新公式（定理1-3）： ...

📄 Attention-Based Encoder-Decoder Target-Speaker Voice Activity Detection for Robust Speaker Diarization #说话人分离 #自监督学习 #编码器-解码器 #模型评估 🔥 8.0/10 | 前25% | #说话人分离 | #编码器-解码器 | #自监督学习 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Zeyan Song（南京大学现代声学实验室；地平线机器人NJU-Horizon智能音频实验室） 通讯作者：Jing Lu（南京大学） 作者列表：Zeyan Song（南京大学现代声学实验室；地平线机器人NJU-Horizon智能音频实验室）、Tianyi Tan（南京大学现代声学实验室；地平线机器人NJU-Horizon智能音频实验室）、Yushi Wang（南京大学现代声学实验室；地平线机器人NJU-Horizon智能音频实验室）、Zheng Wang（南京大学现代声学实验室；地平线机器人NJU-Horizon智能音频实验室）、Jing Lu（南京大学） 💡 毒舌点评 亮点：实验设计堪称“地毯式轰炸”，在10个真实数据集、多种配置下进行横向对比，复现性和可信度极高，为后续研究设立了一个扎实的评估基线。短板：核心创新（AED架构与门控）更多是现有模块的精巧组合与验证，缺乏从第一性原理出发的理论突破或对困难场景（如极高重叠、远场）的针对性解法。 📌 核心摘要 这篇论文针对目标说话人语音活动检测（TS-VAD）在多样真实数据集上缺乏全面评估的问题，提出了一种基于注意力编码器-解码器的网络（AED-TSVAD）。该方法的核心是使用Conformer编码器和标准Transformer解码器，并创新性地引入了一个轻量级门控机制，将解码器的线性投影输出与基于点积的吸引子风格分数进行动态融合。与已有方法相比，其新意在于：1) 设计了一个更简洁、易于复现并与EEND-VC方法公平对比的架构；2) 提出的门控融合增强了模型的表达能力；3) 建立了一套从模拟数据预训练到真实数据微调的复合训练策略。主要实验结果表明，在采用WavLM-Base+前端和强初始化系统的情况下，AED-TSVAD在AliMeeting, AISHELL-4, NOTSOFAR-SC, DIHARD-2和DIHARD-3等5个数据集上达到了报告时（2025年8月）的SOTA水平。例如，在使用r-vector和SP-DiariZen-Base+初始化时，WavLM-Base+前端模型在AliMeeting上的DER为11.1%，在DIHARD-2上为20.7%。论文的实际意义在于推动了TS-VAD方法在复杂、多样化场景下的标准化评估和可复现研究。主要局限性是模型对说话人数超过固定上限（如N=10）的场景（如VoxConverse）泛化能力不足，且其性能高度依赖初始化系统的质量。 🏗️ 模型架构 AED-TSVAD是一个序列到序列模型，整体架构如论文图1所示，主要由音频编码器和说话人条件解码器两部分组成，中间通过门控机制进行融合。 音频编码器：负责从混合音频中提取声学特征。 输入：分段的音频波形（8秒一个chunk）。 特征提取器：可选两种前端：a) Log Mel滤波器组（FBank）；b) 预训练的WavLM-Base+自监督模型。FBank通过线性投影映射到模型维度D；WavLM通过加权求和后投影。 Conformer编码器：由4层Conformer堆叠而成，每层包含4个注意力头。它接收投影后的帧级特征，加入位置编码，输出编码器嵌入序列 E ∈ ℝ^{D×T}（T为帧数）。 AED-TSVAD整体框架 （图1：AED-TSVAD框架。图中显示了音频波形输入，经特征提取器和Conformer编码器得到编码器嵌入，与经过线性投影和位置编码的说话人嵌入（s1…sN）一同输入到Transformer解码器中。解码器输出与编码器嵌入通过“Gate”模块融合，最终经Sigmoid得到说话人日志结果。） 说话人条件解码器：负责根据说话人档案估计每个目标说话人的帧级活动。 ...

📄 Attention-Weighted Centered Kernel Alignment for Knowledge Distillation in Large Audio-Language Models Applied To Speech Emotion Recognition #语音情感识别 #知识蒸馏 #语音大模型 #多模态模型 🔥 8.0/10 | 前25% | #语音情感识别 | #知识蒸馏 | #语音大模型 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Qingran Yang（未说明具体所属机构，根据作者列表推测可能同时关联平安科技和哈尔滨工业大学） 通讯作者：Jianzong Wang（Ping An Technology (Shenzhen) Co., Ltd., Shenzhen, China） 作者列表：Qingran Yang（Ping An Technology (Shenzhen) Co., Ltd., / Harbin Institute of Technology, Harbin, China）、Botao Zhao（Ping An Technology (Shenzhen) Co., Ltd.）、Zuheng Kang（Ping An Technology (Shenzhen) Co., Ltd.）、Xue Li（Harbin Institute of Technology, Harbin, China）、Yayun He（Ping An Technology (Shenzhen) Co., Ltd.）、Chuhang Liu（Ping An Technology (Shenzhen) Co., Ltd.）、Xulong Zhang（Ping An Technology (Shenzhen) Co., Ltd.）、Xiaoyang Qu（Ping An Technology (Shenzhen) Co., Ltd.）、Junqing Peng（Ping An Technology (Shenzhen) Co., Ltd.）、Jianzong Wang（Ping An Technology (Shenzhen) Co., Ltd.） 💡 毒舌点评 亮点：该工作巧妙地将LLM的自注意力权重作为“指挥棒”，引导知识蒸馏聚焦于音频中的情感关键帧，并干净利落地解决了跨模态蒸馏中顽固的维度失配问题，使得一个1.1B的“小模型”在SER任务上碾压了8.4B的教师模型，令人印象深刻。短板：实验结果虽好，但三个数据集规模都偏小（最大仅5.5k样本），且未提供代码，这让人对其方法的泛化能力和结果的完全可复现性保持谨慎乐观；另外，作为一项应用性研究，论文对“为何学生模型能远超教师”这一核心现象的机理探讨稍显不足。 ...

📄 Attention2Probability: Attention-Driven Terminology Probability Estimation for Robust Speech-to-text System #语音识别 #语音翻译 #语音大模型 #交叉注意力 #课程学习 #数据集 ✅ 7.0/10 | 前25% | #语音识别 | #交叉注意力 | #语音翻译 #语音大模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Yangfan Du（东北大学计算机科学与工程学院，字节跳动） 通讯作者：Tong Xiao†（东北大学计算机科学与工程学院，牛津翻译研究院） 作者列表： Yangfan Du（东北大学计算机科学与工程学院，字节跳动） Jun Zhang（字节跳动） Bin Wang（字节跳动） Jin Qiu（字节跳动） Lu Huang（字节跳动） Yuan Ge（东北大学计算机科学与工程学院） Xiaoqian Liu（东北大学计算机科学与工程学院） Tong Xiao†（东北大学计算机科学与工程学院，牛津翻译研究院） Jingbo Zhu（东北大学计算机科学与工程学院，牛津翻译研究院） 💡 毒舌点评 亮点在于提出了一个物理意义明确、轻量且有效的检索范式（将注意力权重解释为出现概率），实验上确实大幅提升了检索召回率。短板则是“术业有专攻”，检索模型的“高召回”并未完美传递给下游的语音大模型，论文在如何弥合这个“检索-生成”鸿沟上分析和解决方案略显不足，更像是抛出了一个漂亮的阶段性成果。 📌 核心摘要 问题：语音大模型在通用场景表现优异，但在医疗、游戏等专业领域准确生成领域术语或新词时存在困难。现有方法依赖耗时的微调或基于向量数据库的检索，后者存在训练成本高、检索准确率不足的问题。 方法核心：提出Attention2Probability方法。其核心是用一个轻量的交叉注意力检索器替代向量数据库，通过计算语音特征与候选术语之间的交叉注意力权重，并将该权重池化归一化后，直接作为每个术语在当前音频中“存在”的概率。基于此概率检索Top-k术语，与提示词拼接后输入语音大模型，引导其生成正确术语。 创新之处：与已有方法相比，A2P完全舍弃了向量数据库和模态对齐训练，转而利用交叉注意力机制显式优化“检测术语是否在音频中出现”这一目标。同时，引入了课程学习（从单词到短语再到真实术语）策略来缓解数据稀疏问题。 实验结果：在自建数据集上，A2P（使用Qwen2-Audio-Instruction编码器）的检索召回率显著优于VectorDB基线。例如，在Top-10检索中，英文召回率达75.55%，中文达83.31%。在下游任务中，术语干预使ASR的术语准确率提升约5-6%，ST提升12-13%，但术语准确率与召回率仍有差距，表明SLM对术语的利用率存在局限。 实际意义：为解决语音领域术语生成难题提供了一种轻量、准确且无需模态对齐训练的检索新范式，并公开了一个专用的术语干预语音数据集，有助于推动该领域研究。 主要局限性：检索到的术语在SLM（尤其在翻译任务）中未被充分利用，导致最终术语准确率远低于检索召回率；随着检索术语数量增加，SLM性能可能出现波动，反映了其上下文学习能力的不足。论文提出的挑战（如何提升ST术语准确率、如何保持基线性能）尚未完全解决。 🏗️ 模型架构 整体架构如图1所示，是一个典型的“检索增强生成”（RAG）流程，但检索器部分被替换。 ...

📄 Attentive AV-Fusionnet: Audio-Visual Quality Prediction with Hybrid Attention #音视频 #多模态模型 #注意力机制 #模型评估 #工业应用 ✅ 7.0/10 | 前25% | #音视频 | #注意力机制 | #多模态模型 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Ina Salaj (Dolby Germany GmbH) 通讯作者：未说明（根据作者列表和常规署名，第一作者或第二作者可能为通讯作者，但论文中未明确标注） 作者列表：Ina Salaj (Dolby Germany GmbH)， Arijit Biswas (Dolby Germany GmbH) 💡 毒舌点评 亮点：论文提出的混合注意力融合框架（结合GML学习特征和VMAF手工特征）设计精巧，实验结果在内部数据集上显著优于基线（Rp提升至0.97），且提供了可解释的模态重要性估计。短板：论文严重依赖于Dolby的“内部数据集”和“内部实现的GML/VMAF特征”，外部可复现性存疑，且在公开基准LIVE-SJTU上的提升（如RMSE从0.47降至0.44）相对有限，未能完全证明其“鲁棒性”声称。 📌 核心摘要 问题：现有音视频质量评估（AVQ）方法常采用简单的融合策略（如加权求和），无法有效建模内容相关的跨模态动态依赖关系（例如，高质量视频可补偿音频瑕疵），且依赖过时的单模态特征。 方法：提出Attentive AV-FusionNet。模型首先提取视频VMAF内部特征（6维）和音频GML深层特征（512维）。通过可学习投影将视频特征对齐到音频空间。核心融合阶段采用双向多头交叉注意力，使音频和视频特征相互关注，生成1024维联合表征；随后使用自注意力进一步精炼该表征，以捕捉模态内依赖。最终通过浅层全连接网络预测质量分数。 创新：1) 融合了深度学习（GML）和传统感知模型（VMAF）的异构特征；2) 利用混合注意力机制显式建模跨模态和模态内交互；3) 引入了模态相关性估计器，可量化每个模态对最终预测的贡献。 结果：在内部数据集（1500训练，125测试）上，该模型达到 Pearson (Rp) = 0.97, Spearman (Rs) = 0.96, RMSE = 0.22，显著优于加权乘积基线（Rp=0.84）和SVR方法（Rp=0.90）。在外部LIVE-SJTU数据集上，取得 Rp=0.92, Rs=0.92, RMSE=0.44，表现与SVR-8F（Rp=0.90）和Recursive AV-FusionNet（Rp=0.92）相当或略优。 意义：该模型为流媒体平台提供了更准确、可解释的音视频联合质量预测工具，其模态重要性估计为实现内容自适应的音视频比特率分配提供了可能。 局限：模型依赖于未公开的内部数据集和特定特征提取器（GML、VMAF内部表示），外部验证数据集（LIVE-SJTU）规模有限，且未能提供代码或详细复现指南。 🏗️ 模型架构 Attentive AV-FusionNet 是一个端到端的全参考音视频质量预测模型，包含三个主要阶段：特征提取、注意力融合、质量预测。 ...

📄 Attentive Masked Self-Distillation for Respiratory Sound Classification #音频分类 #知识蒸馏 #数据增强 #医学音频 ✅ 7.5/10 | 前25% | #音频分类 | #知识蒸馏 | #数据增强 #医学音频 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者：Nuo Chen（浙江大学集成电路学院） 通讯作者：Mingsheng Xu（浙江大学集成电路学院） 作者列表：Nuo Chen（浙江大学集成电路学院）、Mingsheng Xu（浙江大学集成电路学院） 💡 毒舌点评 亮点：论文针对呼吸声分类中数据预处理（循环填充）引入的捷径学习问题，设计了一个巧妙的“注意力掩码”机制，能动态地屏蔽模型容易过度依赖的声谱图区域，这比随机掩码更具针对性，且可视化结果令人信服。短板：尽管在ICBHI上取得了SOTA级别的性能，但实验仅在一个中等规模的数据集上进行，且模型骨架（AST）的参数量巨大（~90M），对于实际的医疗边缘部署可能并不友好，论文对此的讨论不足。 📌 核心摘要 这篇论文旨在解决基于Transformer的呼吸声分类模型因参数量大、训练数据少而导致的过拟合，以及因音频预处理（循环填充）引入的冗余信息导致的捷径学习问题。方法核心是提出一个名为“注意力掩码自蒸馏”的框架，它结合了渐进式自蒸馏（将前一epoch模型作为教师，用KL散度对齐logits）和一种创新的注意力掩码策略：利用教师模型的特征通过Token权重模块计算每个token的重要性，并在当前epoch的学生模型中掩蔽掉最显著（即最可能成为捷径特征）的token。此外，模型还引入了一个重建任务，以掩蔽的token为目标进行重建，作为正则化项增强表示的鲁棒性。与已有方法相比，其新意在于将知识蒸馏、针对捷径特征的主动掩蔽以及重建正则化三者有机结合。在ICBHI数据集上的实验表明，该方法取得了具有竞争力的结果，敏感性达到60.92%，ICBHI综合得分为67.54%，优于Gap-Aug等强基线。消融实验和可视化分析证实了各组件的有效性以及模型关注临床相关声学区域的能力。该工作的实际意义在于为医疗音频分析提供了一种更鲁棒、泛化能力更强的建模思路，但其局限性在于主要验证集中在一个公开数据集，且使用了参数量庞大的预训练模型，计算效率未做深入探讨。 方法 架构 敏感性(%) 特异性(%) ICBHI得分(%) Co-tunning [21] ResNet50 37.24 79.34 58.29 Patch-Mix CL [4] AST 43.07 81.66 62.37 SG-SCL [22] AST 43.55 79.87 61.71 BST [23] CLAP 45.67 81.40 63.54 LungAdapter [18] AST 44.37 80.43 62.40 MVST [20] AST 51.10 81.99 66.55 Gap-aug [6] CNN14 58.20 77.07 67.64 LoRA [24] AST 36.11 85.31 60.71 AMS-D (ours) AST 60.92 74.16 67.54 表1: ICBHI数据集性能对比（引自论文） ...

📄 Auden-Voice: General-Purpose Voice Encoder for Speech and Language Understanding #语音编码器 #说话人识别 #副语言理解 #多任务学习 #语音大模型 ✅ 7.5/10 | 前25% | #语音编码器 | #多任务学习 | #说话人识别 #副语言理解 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Mingyue Huo（University of Illinois Urbana-Champaign） 通讯作者：未说明（论文作者列表为三位，未明确标注通讯作者） 作者列表：Mingyue Huo（University of Illinois Urbana-Champaign）、Wei-Cheng Tseng（University of Texas at Austin）、Yiwen Shao（Tencent AI Lab, USA）、Hao Zhang（Tencent AI Lab, USA）、Dong Yu（Tencent AI Lab, USA） 💡 毒舌点评 这篇论文的亮点在于其系统性的消融研究，像做实验一样把ASR初始化、单任务监督、多任务学习、CLAP微调挨个试了一遍，用翔实的数据揭示了“多任务学习在平衡性上优于CLAP”这一实用结论，为后续设计指明了方向。但其短板也明显：多任务学习与CLAP的简单叠加（Enc 2.4）在多数任务上性能反而下降，说明二者存在冲突或优化目标不兼容，论文对此的分析和解决方案略显不足；此外，在LLM-QA上的验证较为初级，未能充分展现该编码器在驱动复杂推理方面的潜力。 ...

📄 Audience-Aware Co-speech Gesture Generation in Public Speaking via Anticipation Tokens #跨模态 #扩散模型 #多模态模型 #音频生成 🔥 8.0/10 | 前50% | #音频生成 | #扩散模型 | #跨模态 #多模态模型 学术质量 6.3/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Huan-Yu Chen (台湾新竹清华大学电机系) 通讯作者：Chi-Chun Lee (台湾新竹清华大学电机系) 作者列表：Huan-Yu Chen (台湾新竹清华大学电机系), Woan-Shiuan Chien (台湾新竹交通大学电机与计算机工程研究所), Chi-Chun Lee (台湾新竹清华大学电机系) 💡 毒舌点评 这篇论文的亮点在于其问题重构的视角——将公共演讲手势生成从“单向语音到手势”的映射，转变为包含观众预期的“互动式”生成，这为该领域注入了新的思考维度。然而，其短板也较为明显：一是性能提升主要体现在FGD和BC上，但牺牲了手势多样性（Diversity指标下降），且面部表情生成效果改善有限；二是作为一篇顶会论文，完全没有提供任何代码或模型资源，这在强调可复现性的今天，无疑削弱了其学术贡献的落地价值和社区影响力。 📌 核心摘要 问题：现有的协同语音手势生成方法大多将公共演讲视为单说话人任务，忽略了观众的存在及其与演讲者之间的动态交互。这种简化视图无法捕捉公共演讲中演讲者主动预期并引发观众反应的关键特征。 方法核心：提出一个观众感知的协同语音手势生成框架。核心是引入“观众响应预期令牌”，该令牌编码了即将发生的观众反应（如笑声）的符号化信息。该令牌与语音特征在预训练的语音编码器中进行早期融合，融合后的条件嵌入通过跨注意力机制指导一个基于扩散的生成器合成手势。 新意：与已有方法相比，新在三个方面：(1) 理论上，将单说话人手势生成重新定义为演讲者与观众预期的联合建模问题；(2) 方法上，通过符号化的预期令牌和早期融合策略，显式地建模了演讲者的“预期”心理状态；(3) 实验上，构建了一个包含正负样本（反应前/非反应）的对比数据集用于训练预期令牌。 实验结果：在TED Talks和The Daily Show两个数据集上的实验表明，该方法在手势真实度（FGD）和语音-手势同步性（BC）指标上优于多数基线方法。消融实验表明，将预期令牌在语音表征阶段进行早期融合或作为控制信号的中期融合，效果优于在扩散生成阶段进行后期融合。具体数值见下表： 模型 数据集 FGD ↓ BC ↑ Diversity ↑ MSE ↓ LVD ↓ DiP (最强基线) TED Talks 0.646 0.613 62.35 11.58 10.77 本文方法 TED Talks 0.633 0.617 61.29 11.85 10.55 DiffSHEG (最强基线) The Daily Show 0.726 0.633 60.24 10.25 9.256 本文方法 The Daily Show 0.721 0.662 60.12 10.56 9.741 实际意义：为公共演讲、在线教育、虚拟主播等场景下的手势生成提供了更符合社交互动本质的建模思路，有望提升虚拟人或机器人的表现力和自然度。 主要局限：模型在提升真实度和同步性的同时，可能限制了生成手势的多样性；对更细微的面部表情生成效果提升有限；实验仅基于观众笑声这一种预期信号，且依赖预先检测，未在闭环或更动态的交互中验证。 🏗️ 模型架构 模型整体架构（如图1所示）是一个基于扩散的、条件生成的框架，主要包含三个部分：语音与预期编码器、条件融合模块、扩散手势生成器。 ...