EEG and Eye-Tracking Driven Dynamic Target Speaker Extraction with Spontaneous Attention Switching

📄 EEG and Eye-Tracking Driven Dynamic Target Speaker Extraction with Spontaneous Attention Switching #语音分离 #多模态模型 #多任务学习 #生物声学 #数据集 ✅ 7.0/10 | 前25% | #语音分离 | #多模态模型 | #多任务学习 #生物声学 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者:Xuefei Wang(南方科技大学电子与电气工程系) 通讯作者:Fei Chen(南方科技大学电子与电气工程系) 作者列表:Xuefei Wang(南方科技大学电子与电气工程系)、Ximin Chen(南方科技大学电子与电气工程系)、Yuting Ding(南方科技大学电子与电气工程系)、Yueting Ban(南方科技大学电子与电气工程系)、Siyu Yu(南方科技大学电子与电气工程系)、Yu Tsao(台湾中研院资讯科技创新研究中心)、Fei Chen(南方科技大学电子与电气工程系) 💡 毒舌点评 这篇论文首次将EEG引导的目标说话人提取问题从静态场景拓展到更符合真实情况的动态注意力切换场景,并为此构建了一个完整的多模态框架,这是其最大亮点;然而,实验仅在参与者数量有限(18人)的自建数据集上进行,且代码与模型未完全开源,极大限制了其结论的普适性与可复现性。 🔗 开源详情 代码:论文中未提及代码链接。数据集链接(https://github.com/XXuefeii/AASD)中可能包含部分代码,但论文正文未说明。 模型权重:未提及。 数据集:是。提供了专门的数据集仓库链接(https://github.com/XXuefeii/AASD),包含EEG和眼动数据。 Demo:未提及。 复现材料:论文提供了部分训练超参数(Adam优化器,lr=1e-4, batch size=16),但未提供完整的训练脚本、配置文件或检查点。代码和完整复现指南缺失。 论文中引用的开源项目:论文中提到了使用预训练的Wav2vec2.0模型[17]和基于Conv-TasNet[16]的架构。 📌 核心摘要 要解决什么问题? 论文旨在解决现有EEG引导的目标说话人提取(TSE)方法通常假设听众注意力静态不变,无法处理现实多说话人环境中听众自发在不同说话人之间切换注意力的动态场景。 方法核心是什么? 提出了一个多模态动态注意力TSE网络(MDATNet),其核心是:(a) 利用EEG和平均注视坐标(眼动)联合解码注意力是否发生切换;(b) 引入一个动态更新单元,当检测到注意力切换时重置历史信息,否则融合历史语音特征,以保持对同一目标说话人跟踪的连续性。 与已有方法相比新在哪里? 与之前仅基于EEG或假设静态注意力的方法(如BASEN, NeuroHeed等)相比,本文方法首次明确建模并处理了“注意力切换”这一动态过程,通过引入眼动先验和动态历史语音记忆机制,实现了更自适应、更符合认知过程的提取。 主要实验结果如何? 在自建的EEG自发注意力切换数据集上,MDATNet在所有指标上显著优于基线方法。相比最强的M3ANet,SDR提升了1.77 dB,STOI提升了3.99%。消融实验表明,眼动信息和动态更新单元分别带来了显著的性能提升,二者结合达到最佳效果(SDR 8.79 dB, STOI 88.17%)。 实际意义是什么? 该研究推动了脑机接口(BCI)与语音处理的交叉领域发展,为开发未来能更自然理解并跟随用户注意力焦点的助听器、耳机或人机交互系统提供了技术路径。 主要局限性是什么? 主要局限性在于实验数据集规模有限(18位被试,18小时数据),且均为特定实验室环境下的受控数据,跨被试泛化能力、在复杂声学场景(如背景噪音、混响)下的鲁棒性尚未得到充分验证。 🏗️ 模型架构 论文提出了一个名为MDATNet(Multimodal and Dynamic Attention Target Net)的端到端神经网络框架,整体架构见图1。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 295 words

Equipping Large Language Model with Directional Speech Understanding Capabilities

📄 Equipping Large Language Model with Directional Speech Understanding Capabilities #语音识别 #语音翻译 #语音分离 #波束成形 #大语言模型 #流式处理 ✅ 7.0/10 | 前50% | #语音识别 #语音翻译 | #语音分离 #波束成形 | #语音识别 #语音翻译 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Ju Lin(Meta, USA) 通讯作者:未说明(论文中未明确标注) 作者列表:Ju Lin(Meta, USA)、Jing Pan(Meta, USA)、Ruizhi Li(Meta, USA)、Ming Sun(Meta, USA)、Yuzong Liu(Meta, USA)、Alaa Hassan(Meta, USA)、Jing Zheng(Meta, USA)、Florian Metze(Meta, USA) 💡 毒舌点评 亮点:论文精准聚焦于智能眼镜“听清特定人”的刚需,提出了从系统架构(级联/端到端)到流式推理的全套解决方案,实验设计也比较全面,覆盖了分离、识别、翻译三个环节。短板:所有实验都在模拟数据上“闭卷考试”,缺乏真实世界复杂声学环境的“开卷考验”,这让人对其宣称的“鲁棒性”和实际落地能力打上一个问号;此外,端到端SOT方案在部分任务上不如传统的级联方案,显示出“大而全”未必总是最优解。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及所提出的源分离模型或微调后SLM权重的公开计划。仅提及使用了开源的Gemma-3n模型。 数据集:训练所用的多通道模拟数据基于公开的单通道数据集(Common Voice, MLS)和模拟流程生成,但未提供生成好的模拟多通道数据集本身。 Demo:未提及。 复现材料:论文提供了模型架构描述、训练超参数(如LoRA rank, 学习率, batch size, 优化器, 训练轮数)、评估指标和数据集来源(Common Voice, MLS, Fleurs, LibriSpeech),但缺乏关键的模拟数据生成脚本、NLCMV波束成形的具体实现细节(被指向另一篇论文)。 论文中引用的开源项目:Gemma-3n 4B模型(来自Hugging Face)。 📌 核心摘要 这篇论文旨在解决基于大语言模型(LLM)的语音系统在智能眼镜场景中面临的挑战:现有模型多为单通道、单说话人设计,难以处理多麦克风阵列录制的、包含佩戴者(近场)和对话者(远场)的定向多人语音。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 249 words

Flexio: Flexible Single- and Multi-Channel Speech Separation and Enhancement

📄 Flexio: Flexible Single- and Multi-Channel Speech Separation and Enhancement #语音分离 #语音增强 #多通道 #麦克风阵列 #目标说话人提取 🔥 8.0/10 | 前25% | #语音分离 | #多通道 | #语音增强 #麦克风阵列 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Yoshiki Masuyama (Mitsubishi Electric Research Laboratories (MERL), Cambridge, USA) 通讯作者:未说明 作者列表:Yoshiki Masuyama (MERL)、Kohei Saijo (Waseda University, Tokyo, Japan)、Francesco Paissan (University of Trento, Trento, Italy; MERL)、Jiangyu Han (Brno University of Technology, Brno, Czechia)、Marc Delcroix (NTT, Inc., Kyoto, Japan)、Ryo Aihara (MERL)、François G. Germain (MERL)、Gordon Wichern (MERL)、Jonathan Le Roux (MERL) 💡 毒舌点评 亮点: 论文提出了一个优雅的统一框架FlexIO,首次将处理可变输入(麦克风数量)和可变输出(说话人数量)的灵活性整合到一个模型中,并利用“提示向量”实现了用户可控的分离,这在实际应用中极具价值。 短板: 作者对比并测试了三种通道通信机制(TAC、Cross-channel attention、Co-attention),但对其选择缺乏深入的指导原则分析,且在某些场景下性能提升并非压倒性的,使得“哪种机制最优”的结论有些模糊。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 381 words

ICASSP 2026 - 语音分离 论文列表

ICASSP 2026 - 语音分离 共 25 篇论文 ← 返回 ICASSP 2026 总览 排名 论文 评分 分档 🥇 Adaptive Rotary Steering with Joint Autoregression for Robus 8.5分 前25% 🥈 UNMIXX: Untangling Highly Correlated Singing Voices Mixtures 8.5分 前25% 🥉 Brainprint-Modulated Target Speaker Extraction 8.0分 前25% 4. Flexio: Flexible Single- and Multi-Channel Speech Separation 8.0分 前25% 5. MMAudioSep: Taming Video-to-Audio Generative Model Towards V 8.0分 前25% 6. Bayesian Signal Separation Via Plug-and-Play Diffusion-Withi 7.5分 前25% 7. An Audio-Visual Speech Separation Network with Joint Cross-A 7.5分 前25% 8. Aneural Forward Filtering for Speaker-Image Separation 7.5分 前25% 9. Str-DiffSep: Streamable Diffusion Model for Speech Separatio 7.5分 前25% 10. PromptSep: Generative Audio Separation Via Multimodal Prompt 7.5分 前10% 11. Diff-vs: Efficient Audio-Aware Diffusion U-Net for Vocals Se 7.5分 前25% 12. CodeSep: Low-Bitrate Codec-Driven Speech Separation with Bas 7.5分 前25% 13. SLM-SS: Speech Language Model for Generative Speech Separati 7.5分 前25% 14. VM-UNSSOR: Unsupervised Neural Speech Separation Enhanced by 7.5分 前25% 15. SoundCompass: Navigating Target Sound Extraction with Effect 7.5分 前25% 16. Prototype-Guided Cross-Modal Contrastive Learning for Contin 7.5分 前25% 17. EEG and Eye-Tracking Driven Dynamic Target Speaker Extractio 7.0分 前25% 18. Robust Online Overdetermined Independent Vector Analysis Bas 7.0分 前25% 19. AR-BSNet: Towards Ultra-Low Complexity Autoregressive Target 7.0分 前25% 20. Spectral or Spatial? Leveraging Both for Speaker Extraction 7.0分 前25% 21. Neural Network-Based Time-Frequency-Bin-Wise Linear Combinat 7.0分 前25% 22. Training Dynamics-Aware Multi-Factor Curriculum Learning for 7.0分 前25% 23. Vib2Sound: Separation Of Multimodal Sound Sources 6.5分 前50% 24. Source Separation For A Cappella Music 6.5分 前50% 25. Towards Distance-Aware Synthetic Audio Mixtures for Universa 6.5分 前50% 📋 论文详情 🥇 Adaptive Rotary Steering with Joint Autoregression for Robust Extraction of Closely Moving Speakers in Dynamic Scenarios 🔥 8.5/10 | 前25% | #语音分离 | #信号处理 | #麦克风阵列 #自回归模型 ...

2026-04-29 · 更新于 2026-08-14 · 13 min · 2634 words

Joint Multichannel Acoustic Feedback Cancellation and Speaker Extraction via Kalman Filter and Deep Non-Linear Spatial Filter

📄 Joint Multichannel Acoustic Feedback Cancellation and Speaker Extraction via Kalman Filter and Deep Non-Linear Spatial Filter #语音增强 #语音分离 #信号处理 #麦克风阵列 #多通道 ✅ 7.0/10 | 前25% | #语音增强 | #信号处理 | #语音分离 #麦克风阵列 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Ze Li(南京大学现代声学研究所 & NJU-Horizon智能音频实验室,地平线机器人;南京大学) 通讯作者:未说明 作者列表:Ze Li(南京大学现代声学研究所 & NJU-Horizon智能音频实验室,地平线机器人;南京大学),Haocheng Guo(华为技术有限公司),Xiaoyang Ge(南京大学现代声学研究所 & NJU-Horizon智能音频实验室,地平线机器人),Kai Chen(南京大学现代声学研究所 & NJU-Horizon智能音频实验室,地平线机器人),Jing Lu(南京大学现代声学研究所 & NJU-Horizon智能音频实验室,地平线机器人) 💡 毒舌点评 亮点:该工作切中了公共广播和助听器系统中“反馈”与“干扰”两大痛点,提出的AFC-SPEX框架在系统设计上逻辑清晰,将经典卡尔曼滤波与深度空间滤波器巧妙结合,并通过教师强制策略有效解决了训练难题。短板:尽管仿真实验对比了众多基线,但结论的说服力止步于“在模拟环境中表现良好”;对于声学反馈这类严重依赖实际硬件与声场交互的问题,缺乏真实录音数据的验证是一个明显的遗憾,限制了其向实际产品转化的说服力。 🔗 开源详情 代码:论文中提供了代码仓库链接:https://github.com/ZLiNJU/AFC-SPEX。 模型权重:论文中未提及公开预训练模型权重。 数据集:训练所用的仿真数据集未公开,但提供了仿真设置细节和使用的公开语音库(WSJ0)。 Demo:论文中未提及在线演示。 复现材料:提供了论文中描述的主要超参数(帧长、帧移、分块数等)、仿真设置以及依赖的开源项目(pyroomacoustics)。但缺乏完整的训练脚本、配置文件、训练日志及检查点。 论文中引用的开源项目:引用了pyroomacoustics用于房间声学仿真,以及Rank2-MWF的开源实现。 📌 核心摘要 这篇论文旨在解决公共广播和助听器等系统中同时存在的声学反馈和干扰噪声问题。核心方法AFC-SPEX将分块频域卡尔曼滤波器(PBFDKF)作为自适应反馈消除模块,其输出的残差信号与原始麦克风信号一起输入到一个深度非线性空间滤波器(DNSF)中,后者通过LSTM网络学习时、频、空特征以估计复数理想比值掩膜,从而提取目标语音。与现有级联方案或单独使用深度网络的方法相比,该工作的主要创新在于联合优化与交互设计:DNSF不仅依赖原始信号,还利用AFC模块的输出作为辅助参考,以联合抑制反馈和干扰;同时,采用了针对闭环问题的教师强制训练策略。实验结果(在模拟的带反馈和干扰的房间声学环境中)表明,所提方法在SI-SDR、PESQ、STOI及最大稳定增益提升(ΔMSG)等多项指标上均优于直接级联、单独DNSF以及一种传统的多通道维纳滤波方法(Rank2-MWF)。例如,在同时存在反馈和干扰的场景(Simulation A)中,AFC-SPEX的SI-SDR达到4.38,优于AFC+DNSF的-1.78和Rank2-MWF的-26.00。该工作的实际意义在于为需要同时处理声学反馈和语音提取的音频系统提供了一种高性能的算法框架。其主要局限性是所有实验均基于仿真,未进行真实世界数据的验证。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 247 words

Loose Coupling of Spectral and Spatial Models for Multi-Channel Diarization and Enhancement of Meetings in Dynamic Environments

📄 Loose Coupling of Spectral and Spatial Models for Multi-Channel Diarization and Enhancement of Meetings in Dynamic Environments #说话人日志 #语音分离 #麦克风阵列 #波束成形 #多通道 ✅ 7.2/10 | 前25% | #说话人日志 #语音分离 | #麦克风阵列 #波束成形 | #说话人日志 #语音分离 学术质量 7.2/7 | 选题价值 6.0/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者:Adrian Meise (Paderborn University, Germany), Tobias Cord-Landwehr (Paderborn University, Germany) (论文标注“*Authors contributed equally”,为共同第一作者) 通讯作者:未说明 作者列表:Adrian Meise (Paderborn University), Tobias Cord-Landwehr (Paderborn University), Christoph Boeddeker (Paderborn University), Marc Delcroix (NTT, Inc., Japan), Tomohiro Nakatani (NTT, Inc., Japan), Reinhold Haeb-Umbach (Paderborn University) 💡 毒舌点评 亮点: 论文直击一个长期被忽略但非常实际的痛点——传统谱空联合模型在动态会议场景(说话人移动)下的根本性失效,并提出了一个数学上优雅的“松耦合”解法,实验也证明了其在模拟移动场景下的巨大优势。 短板: 该模型的性能高度依赖于谱特征(说话人嵌入)的质量,而论文本身也承认在重叠语音下嵌入质量会急剧恶化,这使得模型在高重叠率的真实复杂场景中的有效性存疑;此外,所有实验均基于模拟的位置变化(旋转麦克风通道),而非真实的说话人移动轨迹,验证的充分性打折扣。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 383 words

MMAudioSep: Taming Video-to-Audio Generative Model Towards Video/Text-Queried Sound Separation

📄 MMAudioSep: Taming Video-to-Audio Generative Model Towards Video/Text-Queried Sound Separation #语音分离 #流匹配 #多模态模型 #预训练 #迁移学习 🔥 8.0/10 | 前25% | #语音分离 | #流匹配 | #多模态模型 #预训练 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Akira Takahashi(Sony Group Corporation, Japan) 通讯作者:未说明 作者列表:Akira Takahashi(Sony Group Corporation, Japan)、Shusuke Takahashi(Sony Group Corporation, Japan)、Yuki Mitsufuji(Sony Group Corporation, Japan & Sony AI, USA) 💡 毒舌点评 亮点在于极具创意地“废物利用”,让一个“造声音”的生成模型去干“分声音”的分离活儿,还干得不错,这种跨任务的知识迁移思路本身就很值钱。短板则在于,用生成模型的评价体系(FAD, CLAP)来评判分离任务的好坏,如同用“饭菜香气”来评价厨师刀工是否精准,方法论的适配性有待更深入的讨论;另外,模型在分离后“不忘本”的生成能力验证也略显粗糙。 🔗 开源详情 代码:论文中提供了代码仓库链接:https://github.com/sony/mmaudiosep。 模型权重:论文中未明确提及是否公开预训练的MMAudioSep模型��重或其依赖的预训练MMAudio权重。 数据集:论文中使用的训练数据集(VGGSound, AudioCaps等)是公开的。评估数据集(VGGSound-Clean, MUSIC)引用自AudioSep项目,部分可通过其GitHub获取。 Demo:论文中未提及在线演示链接。 复现材料:论文提供了架构图、关键超参数(如ODE步数、引导强度)和训练策略的大致描述,但缺少如学习率、batch size、具体训练步数等关键复现细节。复现强依赖于预训练的MMAudio模型。 论文中引用的开源项目:主要依赖于MMAudio(预训练模型)、CLIP、Synchformer、BiGVGAN(声码器)、AudioSep(评估数据集)、以及用于评估的av-benchmark工具。 📌 核心摘要 问题:传统声音分离模型通常基于判别式方法,而近期基于生成模型的声音分离也开始出现,但与同样使用生成模型的视频到音频(V2A)任务发展相互独立。本文旨在探索能否利用强大的预训练生成模型知识来提升分离任务。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 222 words

Neural Network-Based Time-Frequency-Bin-Wise Linear Combination of Beamformers for Underdetermined Target Source Extraction

📄 Neural Network-Based Time-Frequency-Bin-Wise Linear Combination of Beamformers for Underdetermined Target Source Extraction #语音分离 #波束成形 #神经网络 #多通道 ✅ 7.0/10 | 前25% | #语音分离 | #波束成形 | #神经网络 #多通道 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Changda Chen(早稻田大学) 通讯作者:未说明(根据论文署名顺序和常见惯例,Shoji Makino可能是通讯作者,但论文未明确标注) 作者列表: Changda Chen(早稻田大学) Yichen Yang(西北工业大学、早稻田大学) Wei Liu(早稻田大学、武汉大学电子信息学院) Shoji Makino(早稻田大学) 💡 毒舌点评 亮点:该工作巧妙地利用神经网络的上下文建模能力,解决了传统逐时频点波束成形选择/组合策略导致的频谱不连续和目标自抑制问题,实现了更平滑、更一致的干扰抑制。短板:方法的有效性验证高度依赖于双麦克风这一特定且受限的设置,其在更通用的多麦克风阵列(M>2)下的可扩展性和性能优势有待进一步证明。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:未提及。 数据集:未提及。 Demo:未提及。 复现材料:论文提供了详细的模型架构描述、训练策略、超参数设置和基线方法的实现细节(如迭代次数、噪声协方差估计方式),这些信息对复现有重要帮助。 论文中引用的开源项目:使用了LibriSpeech数据集[25],并引用了房间冲激响应生成[26]和扩散噪声生成[27]的方法。 总体而言,论文中未提及开源计划。 📌 核心摘要 要解决什么问题:在麦克风数量少于同时活跃声源数量的欠定场景下,传统波束成形(如MPDR)无法有效抑制所有干扰。现有的时频单元选择(TFS)或线性组合(TFLC)策略虽利用了信号的稀疏性,但其独立的逐点决策会破坏时频相关性,导致目标信号失真。 方法核心:提出NN-TFLC-MPDR框架。该框架使用神经网络编码混合信号和多个候选波束成形器的输出,通过一个基于交叉注意力的“注意力门”,预测出具有时频上下文一致性的线性组合权重。利用这些权重,首先更新一组MPDR波束成形器(无需显式噪声协方差估计),然后再次通过注意力门得到最终权重,组合更新后的波束以提取目标。 与已有方法相比新在哪里: 决策方式:将传统方法中基于最小输出功率的逐时频点最优(硬/软)选择,替换为由神经网络预测的、上下文感知的组合权重。 波束成形器构建:在更新MPDR波束成形器时,避免了需要干扰源先验信息的噪声协方差估计,仅利用加权混合信号的协方差。 框架灵活性:设计支持可变数量的输入波束成形器,并通过分阶段训练提升了对多干扰源的泛化能力。 主要实验结果:在双麦克风、2-4个干扰源的模拟混响环境中,NN-TFLC-MPDR在SI-SDR指标上一致性地超越了传统的TFS/TFLC-MPDR基线。例如,在2个干扰源下,NN-TFLC-MPDR(w/o Full)的SI-SDR为4.80±1.55 dB,高于TFLC-MPDR的2.86±1.55 dB。其性能甚至能与需要干扰源先验信息的TFS/TFLC-MVDR方法竞争(2I下4.52±1.43 dB),且在3I场景下SI-SIR显著提升(9.82±2.55 dB vs 7.87±1.61 dB)。 实际意义:该方法为麦克风数量受限的消费电子产品(如智能音箱、耳机)提供了一种更鲁棒的目标语音提取方案,能够在复杂声学环境中(如多人说话)减少对目标语音的损伤,同时有效抑制干扰。 主要局限性:实验验证仅限于双麦克风阵列的特定设置,未探索其在更多麦克风(M>2)这一波束成形更常见场景下的表现;此外,训练和测试均基于模拟数据,缺乏真实世界场景的验证。 🏗️ 模型架构 NN-TFLC-MPDR的整体架构如图1(a)所示。其工作流程为一个两阶段的循环结构,旨在精细化波束组合权重。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 312 words

PromptSep: Generative Audio Separation Via Multimodal Prompting

📄 PromptSep: Generative Audio Separation Via Multimodal Prompting #语音分离 #扩散模型 #数据增强 #多模态模型 ✅ 7.5/10 | 前10% | #语音分离 | #扩散模型 | #数据增强 #多模态模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Yutong Wen (Adobe Research & University of Illinois Urbana-Champaign) 通讯作者:未明确说明 作者列表:Yutong Wen (Adobe Research & University of Illinois Urbana-Champaign), Ke Chen (Adobe Research), Prem Seetharaman (Adobe Research), Oriol Nieto (Adobe Research), Jiaqi Su (Adobe Research), Rithesh Kumar (Adobe Research), Minje Kim (University of Illinois Urbana-Champaign), Paris Smaragdis (MIT), Zeyu Jin (Adobe Research), Justin Salamon (Adobe Research) 💡 毒舌点评 亮点: 创新性地将“声音移除”与“声乐模仿”整合进统一框架,直击现有LASS系统的两大软肋,实验设计(多基准、多设置、消融研究)堪称全面典范。短板: 训练过程的“黑盒”化严重,关键优化超参数、硬件配置等细节缺失,使得其强大的结果难以被独立复现验证,削弱了学术贡献的坚实性。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 381 words

Prototype-Guided Cross-Modal Contrastive Learning for Continual Audio-Visual Sound Separation

📄 Prototype-Guided Cross-Modal Contrastive Learning for Continual Audio-Visual Sound Separation #语音分离 #对比学习 #持续学习 #多模态模型 #音视频 ✅ 7.5/10 | 前25% | #语音分离 | #对比学习 | #持续学习 #多模态模型 学术质量 6.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Wanrong Ma (国防科技大学计算机科学与技术学院,2. 国防科技大学并行与分布式计算国家重点实验室) (注:论文标注为共同第一作者) 通讯作者:Kele Xu (国防科技大学计算机科学与技术学院,2. 国防科技大学并行与分布式计算国家重点实验室) 作者列表:Wanrong Ma(国防科技大学计算机科学与技术学院;国防科技大学并行与分布式计算国家重点实验室)、Hongyu Wen(国防科技大学计算机科学与技术学院;国防科技大学并行与分布式计算国家重点实验室)、Zijian Gao(国防科技大学计算机科学与技术学院;国防科技大学并行与分布式计算国家重点实验室)、Qisheng Xu(国防科技大学计算机科学与技术学院;国防科技大学并行与分布式计算国家重点实验室)、Kele Xu(国防科技大学计算机科学与技术学院;国防科技大学并行与分布式计算国家重点实验室) 💡 毒舌点评 该工作在持续学习与多模态声音分离的交叉领域做得扎实,用原型和对比学习“框住”特征空间的想法巧妙且实验效果显著。但任务场景较为细分,且论文完全没提代码开源,对于想快速复现或在其他多模态任务上借鉴的读者不太友好。 🔗 开源详情 论文中未提及代码链接。 论文中未提及模型权重公开。 数据集MUSIC-21是公开的,但论文未说明具体获取方式或是否修改。 论文中未提及Demo。 论文提供了一定的训练细节(优化器、学习率、批大小、部分超参数),但缺少完整配置、检查点和代码,复现材料不充分。 论文中引用的开源项目/工具包括:iQuery [5] (用于特征提取流程参考)、Video-MAE [15] (预训练视频编码器)、CLIP [16] (预训练视觉编码器)。 论文中未提及开源计划。 ...

2026-04-29 · 更新于 2026-08-14 · 2 min · 292 words