多模态模型

📄 An Unsupervised Alignment Feature Fusion System for Spoken Language-Based Dementia Detection #语音生物标志物 #多模态模型 #预训练 #跨模态 #信号处理 ✅ 7.0/10 | 前25% | #语音生物标志物 | #多模态模型 | #预训练 #跨模态 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yilin Pan（大连海事大学人工智能学院） 通讯作者：Lihe Huang（同济大学外国语学院 / 同济大学老年、语言与关怀研究中心）（根据论文中提供的通讯邮箱yihtsy@outlook.com和基金致谢信息推断） 作者列表： Yilin Pan（大连海事大学人工智能学院） Ziteng Gong（香港城市大学计算学院） Sui Wang（大连海事大学人工智能学院） Zhuoran Tian（大连海事大学人工智能学院） Tsy Yih（同济大学外国语学院） Lihe Huang（同济大学外国语学院；同济大学老年、语言与关怀研究中心） 💡 毒舌点评 本文的亮点在于直击了多模态融合在阿尔茨海默病检测中的一个痛点——直接拼接可能无效，而通过引入无监督的模态对齐，确实提升了性能并在可视化中提供了符合临床直觉的解释。短板是方法的原创性有限（对齐思想借鉴自语音合成），且在有限的中文数据集（MCGD）上表现提升不明显，可能暗示其泛化能力或对数据量的依赖，这削弱了其声称的“普适性”。 🔗 开源详情 代码：论文中未提及代码链接或开源计划。 模型权重：未提及公开的预训练模型权重（尽管使用了BERT和Whisper，但未提供微调后的权重）。 数据集：实验使用的ADReSS, DementiaBank, MCGD均为公开数据集，但论文未提供具体的获取或预处理脚本链接。 Demo：未提及。 复现材料：给出了部分训练细节（优化器、学习率、Dropout、轮数），但缺少数据预处理代码、随机种子、模型完整配置等关键复现信息。 论文中引用的开源项目：主要依赖预训练模型库（如Hugging Face Transformers中的BERT和Whisper），并在数据预处理中提到了参考[16]的方法。 📌 核心摘要 解决的问题：阿尔茨海默病（AD）早期检测中，基于语音的多模态（声学+语言）系统有时性能不如单模态系统，原因在于简单的特征融合忽略了两种模态间的对齐与相关性。 方法核心：提出一个无监督的模态对齐融合框架。首先分别用Whisper和BERT提取语音帧和文本词的嵌入特征，然后通过计算L2距离和Softmax函数学习一个软对齐矩阵（Asoft），捕获语音与文本在时间序列上的对应关系，最后通过矩阵乘法和自注意力机制进行融合，用于分类。 新意：不同于常见的直接拼接或交叉注意力融合，该方法在融合前显式地、无监督地建模了两种模态间的对齐概率，为融合提供了更结构化的信息。 主要实验结果：在三个数据集上评估：在英文ADReSS数据集上，系统取得91.30%的F1分数；在DementiaBank数据集上取得91.43%的F1分数；在中文MCGD数据集上取得80.65%的F1分数。消融实验证明对齐机制和注意力模块对性能均有贡献。对齐矩阵的可视化显示，AD患者的语音-文本对齐模式（更不流畅、有停顿）与健康对照组有显著差异。 数据集 对齐模块 注意力模块 准确率 (%) F1分数 (%) DementiaBank 无 无 83.54 84.54 DementiaBank 无 有 85.22 85.54 DementiaBank 有 无 未提供 未提供 DementiaBank 有 有 87.51 90.85 DemBank-E 有 有 90.53 91.43 ADReSS 无 无 76.04 76.28 ADReSS 无 有 89.58 88.89 ADReSS 有 无 未提供 未提供 ADReSS 有 有 91.67 91.30 MCGD 无 无 67.31 73.85 MCGD 无 有 69.23 77.78 MCGD 有 无 未提供 未提供 MCGD 有 有 76.92 80.65 实际意义：为基于语音的AD检测提供了一种更有效的多模态融合策略，对齐矩阵的可视化为理解AD对语音和语言的影响提供了新的解释性工具，具有潜在的临床辅助价值。 主要局限性：在中文数据集MCGD上的性能提升有限，可能受数据规模和语言差异影响；模型性能高度依赖预训练的BERT和Whisper模型；未深入探讨该方法对不同阶段AD（如MCI）的区分能力。 🏗️ 模型架构 图1：系统架构图] （注：图片URL来自论文提供的本地PDF图片列表） ...

📄 AnimalCLAP: Taxonomy-Aware Language-Audio Pretraining for Species Recognition and Trait Inference #音频分类 #对比学习 #多模态模型 #数据集 #生物声学 🔥 8.0/10 | 前25% | #音频分类 | #对比学习 | #多模态模型 #数据集 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Risa Shinoda（大阪大学 & 东京大学） 通讯作者：未说明 作者列表：Risa Shinoda（大阪大学 & 东京大学）、Kaede Shiohara（东京大学）、Nakamasa Inoue（东京科学大学）、Hiroaki Santo（大阪大学）、Fumio Okura（大阪大学） 💡 毒舌点评 亮点：论文创新性地将生物学分类学层次结构融入音频-文本预训练范式，并构建了一个包含丰富生态特征的大规模动物声音数据集，为解决生态监测中“未见物种”识别这一实际难题提供了系统性的框架和宝贵的基准。短板：模型架构本身是CLAP的直接应用，技术上的新颖性有限；同时，对于“分类学结构”如何具体影响模型内部表征（例如，文本编码器如何理解层次关系）的机理解释和可视化分析可以更深入。 🔗 开源详情 代码：论文承诺提供代码仓库链接（https://github.com/dahlian00/AnimalCLAP），但当前链接有效性未验证。 模型权重：论文承诺将公开模型权重。 数据集：论文承诺公开AnimalCLAP数据集，并会提供原始音频的URL以确保遵循相应的Creative Commons许可。 Demo：未提及。 复现材料：提供了模型架构描述、关键训练参数（如学习率、优化器、epoch数）和文本模板示例，但未提供完整的超参数配置、数据增强代码、硬件要求等。 引用的开源项目：模型构建依赖了CLAP框架，使用了HTS-AT音频编码器和RoBERTa文本编码器，并应用了CLIP对比损失。 📌 核心摘要 问题：传统动物声音识别模型在训练时未见过的物种上性能急剧下降，这在物种繁多、数据稀缺的生物多样性监测领域是一个核心挑战。同时，从声音直接推断动物生态特征（如栖息地、食性）的研究尚未在音频-文本学习框架中被充分探索。 方法核心：提出AnimalCLAP框架，其核心是分类学感知的音频-文本预训练。具体包括两方面：(1) 构建一个大规模、标注了物种分类学信息和22种生态特征的动物声音数据集；(2) 在训练时，将物种标签（学名、俗名、分类序列）通过多种文本模板增强，并明确使用有序的分类序列（纲→目→科→属→种）作为文本输入，以监督音频和文本编码器学习对齐，并内化生物层次知识。 创新之处：与现有的通用CLAP或生物声音模型相比，新在：a) 首次将结构化的分类学层次信息系统性地整合进音频-文本对比学习；b) 贡献了一个目前公开数据中规模最大、物种最全（6823种）、并系统标注生态特征的动物声音数据集之一；c) 不仅做物种分类，还证明了从声音直接推断多种生态特征的可行性。 主要结果： 未见物种识别：在精心设计的未见物种测试集（300种罕见物种）上，AnimalCLAP显著优于CLAP基线。例如，使用混合文本提示（Tax+Com）时，Top-1准确率达到27.6%（CLAP仅1.61%），Top-5准确率53.5%（CLAP 5.19%）。 生态特征推断：在22项生态特征预测任务上，AnimalCLAP的平均F1分数（79.0%）远超CLAP（48.9%）。在“活动模式”（83.7% vs 28.4%）、“迁徙”（84.8% vs 49.9%）等行为特征上提升尤为显著。 消融实验证明层次结构关键：随机化分类序列顺序会导致性能显著下降（表4），且错误分析（图3）显示有序训练使模型的错误在更高分类阶元上更“一致”。 实际意义：为基于声音的生物多样性自动监测提供了更强大、泛化能力更强的工具，特别是对于数据稀少的罕见物种。同时，证明了声音是推断动物生态特征的有效模态，为生态学研究提供新途径。 主要局限性：a) 模型架构（HTS-AT + RoBERTa）是复用现有组件，核心创新在于训练范式和数据；b) 对于分类学结构如何“赋能”模型的更深层机理剖析不足；c) 数据集依赖iNaturalist和Xeno-canto，其数据质量与覆盖度仍受公民科学平台限制。 🏗️ 模型架构 AnimalCLAP模型是一个标准的双塔（Dual-Encoder）对比学习框架，其核心目标是将音频和文本映射到同一向量空间，并通过对比损失对齐它们的表示。 ...

📄 APKD: Aligned And Paced Knowledge Distillation Towards Lightweight Heterogeneous Multimodal Emotion Recognition #知识蒸馏 #情感识别 #多模态模型 #语音情感识别 #轻量化 ✅ 7.5/10 | 前25% | #情感识别 | #知识蒸馏 | #多模态模型 #语音情感识别 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Yujian Sun（山东理工大学计算机科学学院） 通讯作者：Shanliang Yang（山东理工大学计算机科学学院，yangshanliang@sdut.edu.cn） 作者列表：Yujian Sun（山东理工大学计算机科学学院），Bingtian Qiao（福州大学莫纳什大学联合国际学院），Yiwen Wang（福州大学莫纳什大学联合国际学院），Shanliang Yang（山东理工大学计算机科学学院） 💡 毒舌点评 APKD框架的亮点在于其问题洞察力——指出异构蒸馏中“特征对齐”与“知识粒度调整”是深度耦合的，并用协同模块优雅地解决了这一矛盾。但短板也很明显：实验仅验证了预设的“大Transformer教师-CNN/MobileViT学生”这一种异构模式，对于其他类型的异构架构（如不同规模的Transformer）是否同样有效缺乏探索，结论的普适性有待加强。 🔗 开源详情 代码：提供了GitHub代码仓库链接：https://github.com/ItsDia/AP-KD。 模型权重：论文中未提及公开预训练学生模型权重。 数据集：使用了CMU-MOSEI和IEMOCAP两个公开数据集，论文中说明了数据集来源，获取方式未详细说明，通常需要按原数据集要求申请。 Demo：论文中未提及在线演示。 复现材料：提供了详细的训练超参数（学习率、优化器、batch size、epoch数、损失权重等）、硬件配置、网络架构细节以及损失函数公式，复现材料较为充分。 引用的开源项目：明确引用了作为教师和学生模型的开源预训练模型，包括SSAST、ViT-B/16、RoBERTa、LightSERNet、MobileViT v3和TextCNN。也引用了GRL等基础模块的来源。 📌 核心摘要 问题：在基于知识蒸馏的轻量级多模态情感识别中，教师与学生模型在架构和规模上的异质性导致两大耦合挑战：特征空间不匹配、不同模态教师的知识粒度差异大。 方法核心：提出APKD框架，包含两个协同工作的模块：结构特征对齐（SFA）模块和自适应知识节奏（AKP）模块。SFA通过标准化将异构特征映射到共享空间；AKP为每个模态引入可学习的节奏系数，动态调整教师知识分布的软硬程度。 创新点：首次明确将异构MER中的特征对齐与知识粒度调整作为耦合问题进行联合优化。AKP模块利用梯度反转层自适应学习每个模态的节奏系数，实现了“按需分配”知识。 主要实验结果：在CMU-MOSEI和IEMOCAP数据集上取得SOTA。一个仅2.73M参数的超轻量学生模型，准确率分别达到49.51%和73.96%，超越或持平于参数量大得多的现有方法。消融实验证实SFA和AKP模块均不可或缺。 实际意义：为将高性能的多模态情感识别模型部署到计算资源有限的边缘设备提供了有效的解决方案，推动了该技术在实际人机交互场景中的应用。 局限性：异质性定义主要基于“大模型教师与小CNN/MobileViT学生”这一范式。对其他异质性组合的普适性未验证。节奏系数τₘ的调整范围（1.0-20.0）是经验值，其理论选择依据未深入探讨。 🏗️ 模型架构 APKD框架的整体架构如图1所示。它遵循“大教师-小学生”的范式，旨在实现高效知识迁移。 ...

📄 AQUA-Bench: Beyond finding answers to knowing when there are None in Audio Question Answering #音频问答 #基准测试 #多模态模型 #鲁棒性 ✅ 7.0/10 | 前50% | #音频问答 | #基准测试 | #多模态模型 #鲁棒性 学术质量 5.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Chun-Yi Kuan（National Taiwan University） 通讯作者：Hung-yi Lee（National Taiwan University）（论文未明确说明通讯作者，根据学术惯例及作者排序推断） 作者列表：Chun-Yi Kuan（National Taiwan University）、Hung-yi Lee（National Taiwan University） 💡 毒舌点评 亮点：该工作直面了一个被主流评测普遍忽视但极为现实的问题——“当模型无法回答时该怎么办”，并为此构建了系统化、可操作的评估框架，填补了音频大模型评测中的一个重要空白。短板：作为一项“评测基准”工作，其本身并未提出解决模型“强制选择”偏差的方法或模型，更多是“诊断”而非“治疗”，且论文中部分实验图表（如详细Prompt影响、部分模型对比）的可视化数据在正文中缺失，略显遗憾。 🔗 开源详情 代码：论文提供了项目网站链接（https://kuan2jiu99.github.io/AQUA-Bench-demo/），但未明确说明是否包含完整的评估代码仓库。网站本身可能包含演示和部分资源。 模型权重：本文未提出新模型，评估使用的是已有的开源模型（如Qwen2.5-Omni， Audio Flamingo 3等）和商业模型（如GPT-4o）。这些模型的权重获取方式需参考其各自原始论文。 数据集：论文明确表示会发布AQUA-Bench数据集（“our released dataset is available on our website”）。 Demo：提供了在线演示网站。 复现材料：论文给出了详细的评估协议（两阶段测试、条件准确率）、基础数据集来源（ESC-50等）和答案提取方法（正则表达式）。但未提供具体的Prompt模板（除示例外）、正则表达式代码或超参数设置。 论文中引用的开源项目：主要引用并基于以下开源项目/基准进行数据构建：ESC-50 [29], MMAU [20], Dynamic-SUPERB [22, 23], Qwen-Audio [1], Qwen2-Audio [2], SALMONN [3], LTU [4], Audio Flamingo 2/3 [11, 12] 等。 📌 核心摘要 要解决什么问题：当前的音频问答基准（如Dynamic-SUPERB, MMAU）默认所有问题都有答案，忽略了现实世界中常见的、模型应拒绝回答的“不可回答”问题（如问题与音频不相关、选项缺失等），导致对模型可靠性的评估不全面。 方法核心是什么：提出了一个名为AQUA-Bench的新基准，系统评估模型在三种不可回答场景下的表现：(1) 缺失答案检测（AAD），(2) 不兼容答案集检测（IASD），(3) 不兼容音频-问题检测（IAQD）。该基准通过系统性地修改现有可回答的音频问答样本，构造对应的不可回答版本。 与已有方法相比新在哪里：首次为音频问答任务定义并构建了针对“不可回答性”的标准化评测体系。与之前仅关注回答正确性的基准不同，AQUA-Bench专门评估模型“识别并拒绝无效问题”的能力，这更贴近可信AI的要求。 主要实验结果如何：实验揭示了当前主流音频大模型（ALLMs）的一个普遍盲点。如表1所示，模型在原始可回答任务（Ori.）上表现优异（例如Qwen2.5-Omni在动物声音上达96.4%），但在不可回答任务（尤其是AAD）上性能急剧下降（同模型在AAD上仅20.5%）。使用思维链（CoT）提示能显著提升模型在不可回答任务上的表现（如BALSa-MA在多个AAD任务上超过90%）。 实际意义是什么：该基准为评估和推动更可靠、更值得信赖的音频语言系统提供了重要工具。它指出了当前模型在真实部署场景中的一个关键缺陷——倾向于对无效问题给出自信但错误的答案，这对于医疗、安防等敏感领域至关重要。 主要局限性是什么：1. 基准本身不提供解决模型偏差的方法，只是揭示问题。2. 构建的IAQD部分依赖于GPT-4o生成不相关问题，其质量和分布可能受限于生成模型的能力。3. 评估的模型范围有限，主要聚焦于公开的ALLMs，未涵盖更多潜在的架构探索。 🏗️ 模型架构 本文并非提出一个新的音频模型，而是提出了一个评估基准（Benchmark）。因此，其“架构”指的是评估框架的整体设计。 ...

📄 Attention-Weighted Centered Kernel Alignment for Knowledge Distillation in Large Audio-Language Models Applied To Speech Emotion Recognition #语音情感识别 #知识蒸馏 #语音大模型 #多模态模型 🔥 8.0/10 | 前25% | #语音情感识别 | #知识蒸馏 | #语音大模型 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：Qingran Yang（未说明具体所属机构，根据作者列表推测可能同时关联平安科技和哈尔滨工业大学） 通讯作者：Jianzong Wang（Ping An Technology (Shenzhen) Co., Ltd., Shenzhen, China） 作者列表：Qingran Yang（Ping An Technology (Shenzhen) Co., Ltd., / Harbin Institute of Technology, Harbin, China）、Botao Zhao（Ping An Technology (Shenzhen) Co., Ltd.）、Zuheng Kang（Ping An Technology (Shenzhen) Co., Ltd.）、Xue Li（Harbin Institute of Technology, Harbin, China）、Yayun He（Ping An Technology (Shenzhen) Co., Ltd.）、Chuhang Liu（Ping An Technology (Shenzhen) Co., Ltd.）、Xulong Zhang（Ping An Technology (Shenzhen) Co., Ltd.）、Xiaoyang Qu（Ping An Technology (Shenzhen) Co., Ltd.）、Junqing Peng（Ping An Technology (Shenzhen) Co., Ltd.）、Jianzong Wang（Ping An Technology (Shenzhen) Co., Ltd.） 💡 毒舌点评 亮点：该工作巧妙地将LLM的自注意力权重作为“指挥棒”，引导知识蒸馏聚焦于音频中的情感关键帧，并干净利落地解决了跨模态蒸馏中顽固的维度失配问题，使得一个1.1B的“小模型”在SER任务上碾压了8.4B的教师模型，令人印象深刻。短板：实验结果虽好，但三个数据集规模都偏小（最大仅5.5k样本），且未提供代码，这让人对其方法的泛化能力和结果的完全可复现性保持谨慎乐观；另外，作为一项应用性研究，论文对“为何学生模型能远超教师”这一核心现象的机理探讨稍显不足。 ...

📄 Attentive AV-Fusionnet: Audio-Visual Quality Prediction with Hybrid Attention #音视频 #多模态模型 #注意力机制 #模型评估 #工业应用 ✅ 7.0/10 | 前25% | #音视频 | #注意力机制 | #多模态模型 #模型评估 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者：Ina Salaj (Dolby Germany GmbH) 通讯作者：未说明（根据作者列表和常规署名，第一作者或第二作者可能为通讯作者，但论文中未明确标注） 作者列表：Ina Salaj (Dolby Germany GmbH)， Arijit Biswas (Dolby Germany GmbH) 💡 毒舌点评 亮点：论文提出的混合注意力融合框架（结合GML学习特征和VMAF手工特征）设计精巧，实验结果在内部数据集上显著优于基线（Rp提升至0.97），且提供了可解释的模态重要性估计。短板：论文严重依赖于Dolby的“内部数据集”和“内部实现的GML/VMAF特征”，外部可复现性存疑，且在公开基准LIVE-SJTU上的提升（如RMSE从0.47降至0.44）相对有限，未能完全证明其“鲁棒性”声称。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用了内部数据集，未公开。外部使用的LIVE-SJTU为公开数据集，但论文中未提供获取链接。 Demo：未提及。 复现材料：提供了模型架构描述、损失函数、部分超参数搜索空间，但缺少训练细节（如epoch数、硬件、精确的训练时间）和最终配置。 论文中引用的开源项目/模型：引用了GML [14]（未开源）和VMAF [11]（VMAF本身开源，但论文使用其内部特征）。依赖的框架包括AdamW优化器，但未提及具体深度学习框架。 总结：论文中未提及开源计划，复现主要依赖论文描述，门槛较高。 📌 核心摘要 问题：现有音视频质量评估（AVQ）方法常采用简单的融合策略（如加权求和），无法有效建模内容相关的跨模态动态依赖关系（例如，高质量视频可补偿音频瑕疵），且依赖过时的单模态特征。 方法：提出Attentive AV-FusionNet。模型首先提取视频VMAF内部特征（6维）和音频GML深层特征（512维）。通过可学习投影将视频特征对齐到音频空间。核心融合阶段采用双向多头交叉注意力，使音频和视频特征相互关注，生成1024维联合表征；随后使用自注意力进一步精炼该表征，以捕捉模态内依赖。最终通过浅层全连接网络预测质量分数。 创新：1) 融合了深度学习（GML）和传统感知模型（VMAF）的异构特征；2) 利用混合注意力机制显式建模跨模态和模态内交互；3) 引入了模态相关性估计器，可量化每个模态对最终预测的贡献。 结果：在内部数据集（1500训练，125测试）上，该模型达到 Pearson (Rp) = 0.97, Spearman (Rs) = 0.96, RMSE = 0.22，显著优于加权乘积基线（Rp=0.84）和SVR方法（Rp=0.90）。在外部LIVE-SJTU数据集上，取得 Rp=0.92, Rs=0.92, RMSE=0.44，表现与SVR-8F（Rp=0.90）和Recursive AV-FusionNet（Rp=0.92）相当或略优。 意义：该模型为流媒体平台提供了更准确、可解释的音视频联合质量预测工具，其模态重要性估计为实现内容自适应的音视频比特率分配提供了可能。 局限：模型依赖于未公开的内部数据集和特定特征提取器（GML、VMAF内部表示），外部验证数据集（LIVE-SJTU）规模有限，且未能提供代码或详细复现指南。 🏗️ 模型架构 Attentive AV-FusionNet 是一个端到端的全参考音视频质量预测模型，包含三个主要阶段：特征提取、注意力融合、质量预测。 ...

📄 Audience-Aware Co-speech Gesture Generation in Public Speaking via Anticipation Tokens #跨模态 #扩散模型 #多模态模型 #音频生成 🔥 8.0/10 | 前50% | #音频生成 | #扩散模型 | #跨模态 #多模态模型 学术质量 6.3/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Huan-Yu Chen (台湾新竹清华大学电机系) 通讯作者：Chi-Chun Lee (台湾新竹清华大学电机系) 作者列表：Huan-Yu Chen (台湾新竹清华大学电机系), Woan-Shiuan Chien (台湾新竹交通大学电机与计算机工程研究所), Chi-Chun Lee (台湾新竹清华大学电机系) 💡 毒舌点评 这篇论文的亮点在于其问题重构的视角——将公共演讲手势生成从“单向语音到手势”的映射，转变为包含观众预期的“互动式”生成，这为该领域注入了新的思考维度。然而，其短板也较为明显：一是性能提升主要体现在FGD和BC上，但牺牲了手势多样性（Diversity指标下降），且面部表情生成效果改善有限；二是作为一篇顶会论文，完全没有提供任何代码或模型资源，这在强调可复现性的今天，无疑削弱了其学术贡献的落地价值和社区影响力。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：未提及公开权重。 数据集：论文描述了如何从公开来源（TED Talks, The Daily Show）构建数据集，但未提及是否会发布处理后的、带有笑声锚点标注和特征提取的专用数据集。 Demo：未提供在线演示。 复现材料：论文提供了较为详细的训练细节，包括：数据集规模、视频帧率（15fps）、片段长度（5秒：1秒前缀+4秒预测）、笑声检测阈值（0.5）、优化步数（400k）、batch size（64）、学习率（1e-4）、硬件（单卡A100 80GB，训练2天）。这些信息对复现有较大帮助。 论文中引用的开源项目：主要依赖预训练模型WavLM（未指明具体版本或链接）、身体/面部姿态估计工具PyMAF-X和SmoothNet、以及笑声检测器（引用[9]但未具体说明）。 开源计划：论文中未提及任何开源计划。 📌 核心摘要 问题：现有的协同语音手势生成方法大多将公共演讲视为单说话人任务，忽略了观众的存在及其与演讲者之间的动态交互。这种简化视图无法捕捉公共演讲中演讲者主动预期并引发观众反应的关键特征。 方法核心：提出一个观众感知的协同语音手势生成框架。核心是引入“观众响应预期令牌”，该令牌编码了即将发生的观众反应（如笑声）的符号化信息。该令牌与语音特征在预训练的语音编码器中进行早期融合，融合后的条件嵌入通过跨注意力机制指导一个基于扩散的生成器合成手势。 新意：与已有方法相比，新在三个方面：(1) 理论上，将单说话人手势生成重新定义为演讲者与观众预期的联合建模问题；(2) 方法上，通过符号化的预期令牌和早期融合策略，显式地建模了演讲者的“预期”心理状态；(3) 实验上，构建了一个包含正负样本（反应前/非反应）的对比数据集用于训练预期令牌。 实验结果：在TED Talks和The Daily Show两个数据集上的实验表明，该方法在手势真实度（FGD）和语音-手势同步性（BC）指标上优于多数基线方法。消融实验表明，将预期令牌在语音表征阶段进行早期融合或作为控制信号的中期融合，效果优于在扩散生成阶段进行后期融合。具体数值见下表： 模型 数据集 FGD ↓ BC ↑ Diversity ↑ MSE ↓ LVD ↓ DiP (最强基线) TED Talks 0.646 0.613 62.35 11.58 10.77 本文方法 TED Talks 0.633 0.617 61.29 11.85 10.55 DiffSHEG (最强基线) The Daily Show 0.726 0.633 60.24 10.25 9.256 本文方法 The Daily Show 0.721 0.662 60.12 10.56 9.741 实际意义：为公共演讲、在线教育、虚拟主播等场景下的手势生成提供了更符合社交互动本质的建模思路，有望提升虚拟人或机器人的表现力和自然度。 主要局限：模型在提升真实度和同步性的同时，可能限制了生成手势的多样性；对更细微的面部表情生成效果提升有限；实验仅基于观众笑声这一种预期信号，且依赖预先检测，未在闭环或更动态的交互中验证。 🏗️ 模型架构 模型整体架构（如图1所示）是一个基于扩散的、条件生成的框架，主要包含三个部分：语音与预期编码器、条件融合模块、扩散手势生成器。 ...

📄 Audio-Guided Multimodal Approach for Fine-Grained Alignment and Boundary Modeling in Active Speaker Detection #说话人检测 #多模态模型 #对比学习 #预训练 ✅ 7.5/10 | 前25% | #说话人检测 | #多模态模型 | #对比学习 #预训练 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Yongkang Yin（北京大学深圳研究生院，广东省超高沉浸感媒体技术重点实验室；ADSPLAB，北京大学电子与计算机工程学院） 通讯作者：Yuexian Zou（北京大学深圳研究生院，广东省超高沉浸感媒体技术重点实验室；ADSPLAB，北京大学电子与计算机工程学院） 作者列表：Yongkang Yin（同上），Yukun Zhuang（同上），Zeyu Xie（同上；腾讯AI Lab），Chenxing Li（腾讯AI Lab），Le Xu（腾讯AI Lab），Yuexian Zou（同上） 💡 毒舌点评 亮点在于巧妙地利用预训练的语音活动检测（VAD）和说话人编码器提供的外部监督信号，来构建更精细的边界标签并引导视觉特征对齐，这为解决ASD数据集标注粗糙问题提供了可行的思路。短板是创新点较为分散，边界建模网络（滑动窗口+差分）的设计略显拼凑，且整体框架的“音频引导”更多体现在引入预训练特征，而非在融合架构上有根本性革新。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：论文提及基于AVA数据集增强了语音活动标签，但未说明是否公开发布此增强数据集。 Demo：未提及。 复现材料：提供了较为详细的训练细节（优化器、学习率、轮数、损失权重等），有助于复现。 论文中引用的开源项目：引用了Silero VAD、ECAPA-TDNN（来自WeSpeaker）以及TalkNet的视觉编码器结构。 论文中未提及开源计划。 📌 核心摘要 本文针对主动说话人检测（ASD）任务中现有方法存在的音频-视觉语义对齐不精细、缺乏对语音和说话人转换边界显式建模的问题，提出了一种音频引导的多模态方法。该方法首先利用预训练的VAD和说话人模型为AVA数据集生成更精确的语音活动标签，解决了原有视觉标签不准确的问题；其次，通过监督对比学习策略，实现视觉特征与预训练语音活动特征之间的帧级语义对齐；最后，设计了一个边界建模网络，融合语音、说话人和视觉特征，并采用滑动窗口和帧差分策略捕捉语音起止和说话人转换的动态变化。在AVA-Active Speaker数据集上，该方法在单参与者建模方法中取得了最优的mAP（94.9%），显著提升了在语义边界处的预测准确率（边界帧准确率提升至80.6%），并在Columbia ASD数据集上展现了良好的泛化能力（平均F1-Score达82.0%）。该工作的实际意义在于提升了ASD系统在复杂多说话人场景下的准确性和鲁棒性。主要局限性在于模型创新点相对分散，且依赖多个外部预训练模型。 ...

📄 Audio-Text Jailbreak Attack on Large Audio-Language Models: Towards Generality and Stealthiness #音频安全 #对抗样本 #多模态模型 #跨模态 ✅ 7.0/10 | 前25% | #音频安全 | #对抗样本 | #多模态模型 #跨模态 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Yuhong Li（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院） 通讯作者：Jianhua Wang（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院，邮箱：wangjianhua02@tyut.edu.cn） 作者列表：Yuhong Li（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院）、Jiabao Zhang（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院）、Yan Chen（太原工业大学计算机科学与技术学院）、Zhihui Zhao（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院）、Jianhua Wang（太原工业大学工业互联网安全山西省重点实验室 & 计算机科学与技术学院） 💡 毒舌点评 亮点在于首次开辟了“音频+文本”联合优化的多模态越狱攻击赛道，并在实验上取得了90%以上的攻击成功率，有力证明了当前LALM在多模态融合下的脆弱性，为安全研究提供了新方向。短板是论文对“隐身性”的论证略显单薄，仅通过提升成功率来间接证明，并未深入评估攻击音频在人类听觉或音频检测系统中的隐蔽程度，削弱了“Stealthiness”这一主张的力度。 🔗 开源详情 代码：是，论文提供了GitHub仓库链接：https://github.com/SKLIIS-AIS/AudioTextJailbreak。 模型权重：未提及。论文未说明是否公开攻击者使用的模型或攻击目标模型的权重获取方式。 数据集：是，但获取方式不明确。论文提到使用TTS技术创建了音频版AdvBench数据集，但未提供公开下载链接或详细生成脚本。 Demo：未提及。 复现材料：论文中提及了代码，但未提供完整的训练配置、检查点或附录说明。对于攻击优化中的关键超参数细节未充分披露。 论文中引用的开源项目：TTS工具 Coqui；目标模型 Qwen2-Audio-7B-Instruct, Qwen2.5-Omni-3B；文本攻击基线 GCG；数据集 AdvBench。 📌 核心摘要 问题：现有的针对大型音频语言模型（LALM）的越狱攻击多局限于单模态（纯文本或纯音频），且通用性和隐蔽性不足。 方法核心：提出“音频-文本越狱攻击”（Audio-Text Jailbreak），首次联合优化微小的对抗音频扰动和恶意的文本后缀，共同诱导模型生成有害回应。同时设计了环境噪声添加和语速调整等隐身策略。 与已有方法相比新在哪里：a) 首次实现音频和文本模态的深度融合攻击；b) 设计的单个对抗音频/文本后缀可泛化应用于不同用户指令；c) 引入针对性的音频层隐身策略。 主要实验结果：在Qwen2-Audio和Qwen2.5-Omni两个模型上，攻击成功率（ASR）分别达到91.00% 和 92.73%，显著优于GCG、VoiceJailbreak、SpeechGuard等基线方法。关键实验结果如下表所示： 方法 非法活动 仇恨言论 人身伤害 欺诈 色情 隐私侵犯 平均 Base (无攻击) 0 0 0 0 0 0 0 GCG (文本攻击) 0.67 0.72 0.73 0.79 0.80 0.75 0.74 VoiceJailbreak 0 0.40 0.20 0.20 0.30 0 0.21 SpeechGuard 0.20 0.40 0.40 0.20 0.30 0 0.25 Audio-Text JailBreak (本文) 0.95 0.90 0.90 0.88 0.90 0.90 0.91 模型 Noise Rate Rate + Noise Ours Qwen2-Audio 84.00 83.30 86.61 91.00 Qwen2.5-Omni 82.50 85.65 73.91 92.73 平均 83.25 84.48 80.26 91.86 实际意义：揭示了当前LALM在处理跨模态输入时存在的严重安全漏洞，为模型安全加固（如多模态对齐安全训练）提供了明确的攻击测试基准和方向。 主要局限性：通用性验证实验仅在一个条件（K=10）下进行，泛化能力论证不够充分；隐身策略的实际效果（如是否易于被人耳察觉或被音频检测器识别）未通过直接的用户研究或客观度量进行评估。 🏗️ 模型架构 本文并未提出一个新的端到端语音大模型架构，而是针对现有的LALM（如Qwen2-Audio, Qwen2.5-Omni）设计了一个攻击框架。其核心是音频-文本联合越狱攻击流程。 ...

📄 AudioFuse: Unified Spectral-Temporal Learning Via A Hybrid VIT-1D CNN Architecture for Phonocardiogram Classification #音频分类 #多模态模型 #混合架构 #医疗音频 #鲁棒性 ✅ 7.5/10 | 前25% | #音频分类 | #多模态模型 #混合架构 | #多模态模型 #混合架构 学术质量 7.5/7 | 选题价值 7.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Md. Saiful Bari Siddiqui（BRAC大学计算机科学与工程系） 通讯作者：未说明 作者列表：Md. Saiful Bari Siddiqui（BRAC大学计算机科学与工程系），Utsab Saha（BRAC大学计算机科学与工程系） 💡 毒舌点评 亮点：论文非常清晰地抓住了“心音分析中频谱与波形信息互补”这一核心矛盾，并设计了一个轻量级双分支架构来同时利用两者，实验也证实了该思路的有效性，尤其是在抵抗域偏移方面表现出色。 短板：所谓的“创新”更多是工程设计上的巧妙组合，后期融合策略（拼接）本身毫无新意，论文也未深入探讨更复杂融合机制（如跨注意力）在此场景下失效的原因，使其理论贡献稍显薄弱。 🔗 开源详情 代码：是。论文提供了GitHub代码仓库链接：https://github.com/Saiful185/AudioFuse。 模型权重：未提及是否公开预训练模型权重。 数据集：使用了公开的PhysioNet 2016和PASCAL数据集，并说明了获取和处理方式（移除泄露数据）。 Demo：未提及。 复现材料：论文提供了主要超参数（学习率、权重衰减、轮数、早停设置），但未提供完整的训练配置、环境依赖文件或检查点。 引用的开源项目：论文中未明确列出所依赖的特定开源工具或库（如PyTorch, Hugging Face Transformers等）。 📌 核心摘要 问题：传统心音（PCG）分类方法要么使用2D频谱图（丢失相位和时间精度），要么使用1D波形（难以学习频率关系），二者各有局限。 ...