语音/音乐/音频论文速递 2026-05-08

语音/音乐/音频论文速递 2026-05-08 共分析 23 篇论文 ⚡ 今日概览 📥 抓取 23 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #多模态压缩 1篇 █ #语音增强 1篇 █ #音频事件检测 1篇 █ #语音大模型 1篇 █ #语音克隆 1篇 █ #语音情感识别 1篇 █ #语音生成 1篇 █ #数据集 1篇 █ 📊 论文评分排行榜(23 篇,按分数降序) 排名 论文 评分 分档 主任务 🥇 LiVeAction: a Lightweight, Versatile, and Asymmetric Ne 8.5分 前25% #多模态压缩 🥈 Predictive-Generative Drift Decomposition for Speech En 8.5分 前25% #语音增强 🥉 MultiLinguahah : A New Unsupervised Multilingual Acoust 8.5分 前25% #音频事件检测 4. Minimizing Modality Gap from the Input Side: Your Speec 8.0分 前25% #语音大模型 5. X-Voice: Enabling Everyone to Speak 30 Languages via Ze 8.0分 前25% #语音克隆 6. Modality-Aware Contrastive and Uncertainty-Regularized 8.0分 前25% #语音情感识别 7. WavCube: Unifying Speech Representation for Understandi 7.5分 前25% #语音生成 8. PianoCoRe: Combined and Refined Piano MIDI Dataset 7.5分 前25% #数据集 9. Do Melody and Rhythm Coevolve? 7.5分 前25% #音乐认知 10. Automated Clinical Report Generation for Remote Cogniti 7.5分 扎实工作,位于前列 #临床报告生成 11. Linear Semantic Segmentation for Low-Resource Spoken Di 7.5分 前25% #语义分割 12. Edge-specific signal propagation on mature chromophore- 7.5分 前25% #蛋白质工程 13. Cross-Modal Navigation with Multi-Agent Reinforcement L 7.5分 前25% #具身导航 14. Pro-KLShampoo: Projected KL-Shampoo with Whitening Reco 7.5分 前25% #大语言模型 15. Optimal Transport Audio Distance with Learned Riemannia 7.0分 前10% #音频质量评估 16. PairAlign: A Framework for Sequence Tokenization via Se 7.0分 前25% #音频编码 17. Topological Signatures of Grokking 7.0分 前25% #模型可解释性 18. Task-Aware Answer Preservation under Audio Compression 6.5分 前25% #音频问答 19. NDF+: Joint Neural Directional Filtering and Diffuse So 6.5分 前30% #空间音频 20. Quantum Kernels for Audio Deepfake Detection Using Spec 6.5分 前50% #音频深度伪造检测 21. More Than Can Be Said: A Benchmark and Framework for Pr 6.5分 前25% #基准测试 22. PersonaKit (PK): A Plug-and-Play Platform for User Test 6.0分 前50% #全双工对话系统评估 23. Preliminary Insights in Chronos Frequency Data Understa 6.0分 前25% #模型评估 📋 论文列表 🥇 LiVeAction: a Lightweight, Versatile, and Asymmetric Neural Codec Design for Real-time Operation 🔥 8.5/10 | 前25% | #多模态压缩 | #神经网络编解码器 | #实时处理 #边缘计算 | arxiv ...

2026-05-08 · 更新于 2026-06-22 · 17 min · 3434 words

Adaptive Diagonal Loading for Norm Constrained Beamforming

📄 Adaptive Diagonal Loading for Norm Constrained Beamforming #波束成形 #信号处理 #麦克风阵列 #鲁棒性 #自适应信号处理 ✅ 7.0/10 | 前25% | #波束成形 | #信号处理 | #麦克风阵列 #鲁棒性 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 中 👥 作者与机构 第一作者:Manan Mittal(机构未说明) 通讯作者:未说明 作者列表:Manan Mittal(机构未说明)、Ryan M. Corey(机构未说明)、John R. Buck(机构未说明)、Andrew C. Singer(机构未说明) 💡 毒舌点评 亮点在于将经典的对角加载问题提升到了具有严格数学保证的层面,通过Kantorovich不等式为白噪声增益(WNG)提供了确定性的理论边界,工程实用性很强;但计算复杂度从O(M)到O(M³)的谱系虽然覆盖全面,却可能让实时系统在精度和算力间纠结,且仿真场景(15元ULA,1kHz窄带)与论文宣称的“大型麦克风阵列”和“高动态声学环境”相比仍显单薄。 📌 核心摘要 这篇论文旨在解决自适应波束形成在快变干扰和样本不足(snapshot-deficient)场景下,因空间相关矩阵(SCM)病态导致的目标信号自消除问题。其核心方法是提出一种自适应对角加载技术,通过Kantorovich不等式建立白噪声增益(WNG)与SCM条件数之间的严格数学映射,从而将对加载水平μ的选取转化为对矩阵条件数的显式约束。与传统固定或启发式加载方法不同,该方法能保证WNG始终不低于预设阈值,并从理论上推导出所需的最小加载量。论文提出了三种计算复杂度可选(O(M), O(M²), O(M³))的特征值边界估计方法(Trace、Gershgorin、Exact EVD)来实现这一约束。实验在15元均匀线阵的快变“出生-死亡”干扰场景下进行,结果显示,Exact EVD和Gershgorin模式在输出SINR上接近“全知”基准(约比Cox方法高数dB),且所有提出方法均将WNG稳定约束在8.76 dB以上。该方法的意义在于为鲁棒波束形成提供了一个具有可证明性能保证的自适应调节框架。其局限性在于计算开销(尤其是EVD模式)以及仿真验证的场景规模和复杂性有待进一步扩展。 🔗 开源详情 代码:论文中未提及代码链接 模型权重:论文中未提及 数据集:论文中未提及(模拟中使用的数据为论文作者自行生成,未提供公开链接或数据集名称) Demo:论文中未提及 复现材料:论文中未提及(文中详细描述了仿真设置,包括阵列参数、场景配置、窗长等,但未提供具体的代码、配置文件或检查点) 论文中引用的开源项目:未提及 🏗️ 模型架构 本文并非提出一个神经网络模型,而是提出一种用于改进传统自适应波束形成器(MPDR/GSC)信号处理流程的自适应参数调节算法。其核心数据流与处理流程如下: ...

2026-05-07 · 更新于 2026-06-22 · 1 min · 183 words

APEX: Large-scale Multi-task Aesthetic-Informed Popularity Prediction for AI-Generated Music

📄 APEX: Large-scale Multi-task Aesthetic-Informed Popularity Prediction for AI-Generated Music #音乐评估 #多任务学习 #自监督学习 #预训练模型 ✅ 7.5/10 | 前25% | #音乐评估 | #多任务学习 | #自监督学习 #预训练模型 | arxiv 学术质量 7.0/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Jaavid Aktar Husain(AMAAI Lab, Singapore University of Technology and Design) 通讯作者:Dorien Herremans(AMAAI Lab, Singapore University of Technology and Design) 作者列表:Jaavid Aktar Husain(AMAAI Lab, Singapore University of Technology and Design)、Dorien Herremans(AMAAI Lab, Singapore University of Technology and Design) 💡 毒舌点评 这篇论文为AI生成音乐这个“野蛮生长”的领域提供了一个扎实的多任务学习基线,首次将“好听”(美学)和“流行”(数据)放在一起建模,且跨模型的泛化实验证明了学到的美学特征具有普适性。但令人遗憾的是,联合学习“流行度”这个主任务本身并未带来显著提升,似乎美学和流行在特征上互补但并不互促,这削弱了“多任务学习能提升主任务”这一核心动机的说服力。 ...

2026-05-07 · 更新于 2026-06-22 · 3 min · 485 words

AVI-Edit: Audio-sync Video Instance Editing with Granularity-Aware Mask Refiner

📄 AVI-Edit: Audio-sync Video Instance Editing with Granularity-Aware Mask Refiner #视频编辑 #扩散模型 #音频生成 #音视频 🔥 8.0/10 | 前25% | #视频编辑 | #扩散模型 | #音频生成 #音视频 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Haojie Zheng(北京大学软件与微电子学院,北京人工智能研究院) 通讯作者:Boxin Shi(北京大学计算机科学学院,多媒体信息处理国家重点实验室,国家视觉技术工程研究中心),Xinlong Wang(北京人工智能研究院) 作者列表:Haojie Zheng(北京大学软件与微电子学院,北京人工智能研究院),Shuchen Weng(北京人工智能研究院,北京大学计算机科学学院),Jingqi Liu(北京大学软件与微电子学院,北京人工智能研究院),Siqi Yang(北京大学人工智能研究院),Boxin Shi(北京大学计算机科学学院,多媒体信息处理国家重点实验室,国家视觉技术工程研究中心),Xinlong Wang(北京人工智能研究院) 💡 毒舌点评 这篇工作就像一位细心的“音频-视频外科医生”,不仅能精准切除或替换视频中的特定实例(如把狗变成猫),还能确保它的叫声也同步变化,这种对模态间精细时空对齐的执着在现有编辑工具中相当稀缺。然而,其“手术”目前一次只能处理一个“病人”(单实例),且整个“手术器械”(自反馈音频代理)依赖一个外部模型“工具箱”,这让人担心其在真实世界复杂场景下的自主性和鲁棒性。 📌 核心摘要 问题:现有视频编辑方法主要关注视觉层面,破坏了原始视频中至关重要的音频-视频同步,且缺乏实例级别的精细空间和时间控制。 方法核心:提出AVI-Edit框架,包含三个关键组件:基于Wan2.2的音频同步视频骨干网络(通过帧级交叉注意力融合音频信息)、粒度感知遮罩精炼器(GAMR,迭代式地将用户提供的粗糙遮罩精化为精确的实例轮廓)、自反馈音频代理(通过“分离-生成-重混-修正”的闭环流程,利用外部工具生成高质量的引导音频)。 创新点:a) 引入“精度因子”来量化和控制遮罩的粗糙程度,实现迭代式遮罩精化;b) 设计了自反馈音频代理,能够根据场景自适应选择分离和生成模型,并通过质量评判进行迭代优化;c) 构建了首个大规模、实例中心的音频-视频编辑数据集AVISet。 实验结果:在AVISet和AvED-Bench两个数据集上,AVI-Edit在视觉质量(FVD/IS)、条件遵循(TC/AC)和音视频同步(Sync-C/D)等定量指标上均优于现有方法(AvED, Ovi, VACE-Foley)。用户研究显示,在音视频同步、文本对齐和总体偏好方面,AVI-Edit均获得最高支持率(最高达49.20%)。 实际意义:为高质量的视频内容创作提供了新工具,允许用户在保留背景和非目标音频的前提下,对视频中的特定实例及其关联音频进行精准、同步的编辑,适用于影视后期、短视频创作等场景。 主要局限性:a) 目前仅支持单实例顺序编辑,无法同时处理多个目标实例;b) 框架的音频代理模块依赖一组预设的外部模型,其性能受限于这些外部组件的质量和泛化能力。 🔗 开源详情 代码:论文中未提及代码链接 ...

2026-05-07 · 更新于 2026-06-22 · 3 min · 444 words

Benchmarking LLMs on the Massive Sound Embedding Benchmark (MSEB)

📄 Benchmarking LLMs on the Massive Sound Embedding Benchmark (MSEB) #音频大模型 #音频分类 #音频场景理解 #模型评估 #大语言模型 ✅ 7.0/10 | 前50% | #音频分类 | #模型评估 | #音频大模型 #音频场景理解 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Cyril Allauzen(未说明机构) 通讯作者:未说明 作者列表:Cyril Allauzen(未说明)、Tom Bagby(未说明)、Georg Heigold(未说明)、Ehsan Variani(未说明)、Ke Wu(未说明) 💡 毒舌点评 本文作为一篇系统性的基准测试论文,其亮点在于直面当前最热的“音频原生大模型”与传统“级联管道”的路线之争,利用权威的MSEB基准提供了宝贵的实证数据。然而,其主要短板在于结论略显保守和模糊——“最优方案不明确”虽然是事实,但对于寻求具体指导的研究者而言,这更像一个起点而非答案,且论文在提出新的评估范式或更精细的误差分析上似乎着墨不多。 📌 核心摘要 问题:随着能够处理音频的“音频原生”大语言模型(LLM)兴起,学术界和工业界面临一个关键选择:是用一个统一的多模态骨干网络取代以往复杂的、针对特定任务设计的音频处理流水线,还是继续沿用级联架构?目前缺乏系统性评估来指导这一架构决策。 方法:本文采用严格的经验性评估方法,在“大规模声音嵌入基准”(MSEB)的八项核心能力上,对来自Gemini和GPT系列的领先LLM进行测试,旨在量化评估其音频理解与处理效能,并检验其相对于传统专用编码器的“音频-文本对等性”。 新意:相比于早期针对特定编码器的评估,本文的新意在于将评估焦点转向新兴的、基于LLM的通用音频模型,并在同一基准下进行了大规模、多模型的横向对比。 主要结果:论文指出,尽管LLM展示了潜力,但在性能和鲁棒性上仍存在显著的“模态差距”(摘要中未提供具体数值或表格)。实验证据未能支持任何一种建模范式(音频原生 vs. 级联)具有绝对优势。 意义:为音频处理系统的架构选择提供了基于经验的参考。其结论强调,最优选择高度依赖于具体应用场景对延迟、成本、推理深度等的不同要求,有助于避免“一刀切”的技术路线讨论。 局限:核心结论(“最优方案不明确”)缺乏更强的结论性,可能无法给读者提供明确的行动指南。此外,评估的全面性(如是否覆盖所有典型音频任务、是否考虑了不同参数规模模型的表现)在摘要中未完全体现。 🔗 开源详情 代码:论文中未提及代码链接 模型权重:论文中未提及 数据集:论文中未提及(论文评估的MSEB基准测试本身为引用的第三方基准) Demo:论文中未提及 复现材料:论文中未提及 论文中引用的开源项目:未提及 🏗️ 模型架构 本文为评估性论文,核心在于评估多个已有的模型,而非提出新架构。因此,论文中未描述一个新的、统一的模型架构。其“架构”指的是被评估的各个LLM(如Gemini、GPT系列)以及作为基线的传统音频编码器。论文重点在于比较这些不同架构在统一基准(MSEB)上的表现差异。摘要中未提供架构图。 ...

2026-05-07 · 更新于 2026-06-22 · 1 min · 116 words

Beyond Seeing Is Believing: On Crowdsourced Detection of Audiovisual Deepfakes

📄 Beyond Seeing Is Believing: On Crowdsourced Detection of Audiovisual Deepfakes #音频深度伪造检测 #内容审核 #模型评估 #数据集 #评测协议 ✅ 7.0/10 | 前25% | #音频深度伪造检测 | #模型评估 | #内容审核 #数据集 | arxiv 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0.5 | 置信度 中 👥 作者与机构 第一作者:Michael Soprano(University of Udine, Department of Mathematics, Computer Science and Physics) 通讯作者:未说明(论文未明确指定通讯作者) 作者列表:Michael Soprano(University of Udine, Department of Mathematics, Computer Science and Physics)、Andrea Cioci(University of Udine, Department of Mathematics, Computer Science and Physics)、Stefano Mizzaro(University of Udine, Department of Mathematics, Computer Science and Physics) 💡 毒舌点评 这篇论文的亮点在于其严谨的实验设计,系统地量化了普通人在检测逼真假视频时的“集体盲点”,特别是对音视频联合伪造的无力感,为“眼见不一定为实”的当代困境提供了扎实的实证数据。但短板在于其结论高度依赖于特定的众包平台和数据集,且未与当前先进的自动检测模型进行对比,使得“人类筛查信号”到底有多强、能否与模型互补,仍是一个未解之谜。 ...

2026-05-07 · 更新于 2026-06-22 · 2 min · 364 words

Empirical Study of Pop and Jazz Mix Ratios for Genre-Adaptive Chord Generation

📄 Empirical Study of Pop and Jazz Mix Ratios for Genre-Adaptive Chord Generation #音乐生成 #和弦识别 #迁移学习 #领域适应 ✅ 7.5/10 | 前50% | #音乐生成 | #迁移学习 | #和弦识别 #领域适应 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者:Jinju Lee(PearlLeeStudio) 通讯作者:Jinju Lee(pearl1379@gmail.com) 作者列表:Jinju Lee(PearlLeeStudio) 💡 毒舌点评 本文的亮点在于极其扎实和清晰的实验设计,将“跨风格微调时需要多少旧数据”这个模糊问题量化为了一个可复现的实证研究,并给出了“1.5倍”这个具有实操价值的启发式阈值。其短板则在于任务本身和评估手段的局限性:一个25M参数的模型在两个小数据集上的结论,且最关键的“风格偏好”判断仅依赖作者一人的主观听感,缺乏形式化的听觉研究来支撑“指标最优≠听感最佳”的有趣结论,使得说服力打了折扣。 📌 核心摘要 本文研究了在将流行音乐预训练的和弦生成模型微调至爵士风格时,为防止“灾难性遗忘”所需的“复习”数据量。核心方法是固定使用全部约1,500条爵士训练序列,系统性地变化混合其中的流行音乐训练序列数量(从0到10,000条),使用一个25M参数的Music Transformer进行微调。实验发现:1)所有微调模型在爵士和弦预测准确率上均提升7-9个百分点;2)当流行复习数据量达到爵士数据量的1.5至2倍(约2,500条序列)时,即可完全防止流行音乐预测性能的崩溃;3)超过此阈值,性能收益饱和。论文还通过作者的非正式听感指出,虽然指标最优的中间混合比例(F3)在量化指标上平衡,但风格特征更鲜明的端点模型(流行偏向的F1或爵士偏向的F4)可能更受创作者青睐。这表明在音乐生成工具中,提供多种风格倾向的模型供用户选择可能比提供单一“最优”模型更具价值。主要局限在于实验仅基于单一模型架构和规模,且缺乏正式的多人听觉评估研究。 🔗 开源详情 代码:论文中未提及代码链接。论文中说明代码库由作者私人维护,访问权限需通过电子邮件(pearl1379@gmail.com)申请。 模型权重:所有六个检查点已发布于 HuggingFace Hub,链接为:https://huggingface.co/PearlLeeStudio。 数据集:论文中提及了六个使用的语料库,但未提供统一的开源数据集页面或下载链接。论文说明:“许可的源数据集本身不重新分发”。具体数据集名称及来源如下: Pop:Chordonomicon(用户生成)、McGill Billboard(CC0协议)。 Jazz:Jazz Harmony Treebank (JHT)(公开)、JazzStandards (iReal Pro)(社区)、Weimar Jazz Database (WJazzD)(ODbL协议)、JAAH(研究许可)。 外部数据集下载链接已包含在模型卡中。 Demo:论文中未提及在线演示链接。 复现材料:论文中提及,所有运行结果的每轮CSV、配置文件、随机种子以及分词器均打包在HuggingFace模型卡的元数据中,可用于端到端地重新生成本文结果。具体文件未在论文中列出,但可通过上述HuggingFace链接获取。 论文中引用的开源项目:论文在相关工作中提及了多个项目,但未在本文直接使用其代码。具体提及的项目包括:DoReMi(论文链接:https://arxiv.org/abs/2104.14216)、The Pile(论文链接:https://arxiv.org/abs/2101.00027)。 🏗️ 模型架构 论文采用标准的 Music Transformer 架构,专注于和弦符号序列的建模。 ...

2026-05-07 · 更新于 2026-06-22 · 2 min · 282 words

Hearing the Ocean: Bio-inspired Gammatone-CNN framework for Robust Underwater Acoustic Target Classification

📄 Hearing the Ocean: Bio-inspired Gammatone-CNN framework for Robust Underwater Acoustic Target Classification #音频分类 #信号处理 #时频分析 #实时处理 #水下声学 ✅ 7.5/10 | 前25% | #音频分类 | #信号处理 | #时频分析 #实时处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者:Rajeshwar Tripathi (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India) 通讯作者:未说明 作者列表:Rajeshwar Tripathi (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India)、Sandeep Kumar (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India)、Monika Aggarwal (Centre for Applied Research in Electronics (CARE), IIT Delhi, India)、Neel Kanth Kundu (Centre for Applied Research in Electronics (CARE), IIT Delhi, India) 💡 毒舌点评 亮点:论文清晰地论证并验证了“信号表示质量是决定性能上限的关键”这一观点,其生物启发的Gammatone前端在保持极低计算开销(0.77ms延迟)的前提下,显著优于传统线性和多分辨率特征,为资源受限的边缘声纳部署提供了切实可行的方案。短板:创新性更多体现在技术整合与领域迁移,而非Gammatone滤波器本身的原理突破;虽然在VTUAD数据集上表现优异,但验证仅限于单一公开数据集,其泛化能力至更复杂的真实海洋环境仍需更多证据。 ...

2026-05-07 · 更新于 2026-06-22 · 2 min · 341 words

JASTIN: Aligning LLMs for Zero-Shot Audio and Speech Evaluation via Natural Language Instructions

📄 JASTIN: Aligning LLMs for Zero-Shot Audio and Speech Evaluation via Natural Language Instructions #音频质量评估 #大语言模型 #多模态模型 #零样本 🔥 8.5/10 | 前10% | #音频质量评估 | #大语言模型 | #多模态模型 #零样本 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Leying Zhang(上海交通大学 计算机科学与技术学院,听觉认知与计算声学实验室,AI研究院) 通讯作者:Yanmin Qian(上海交通大学 计算机科学与技术学院,听觉认知与计算声学实验室,AI研究院) 作者列表: Leying Zhang(上海交通大学) Bowen Shi(独立研究者,美国) Haibin Wu(独立研究者,美国) Bach Viet Do(独立研究者,美国) Yanmin Qian(上海交通大学) 💡 毒舌点评 这篇论文把“指令跟随”从聊天机器人玩出了新花样,成功让一个3B参数的LLM学会了听声辨器,成为一个跨领域的全能“音频考官”,实验结果全面碾压了各种老牌打分模型和通用多模态大模型,实用性拉满。不过,它的“超能力”似乎建立在对训练数据分布的高度适应上,一旦遇到像语速评估这种对时序动态要求苛刻的任务,就立马“打回原形”,暴露了当前LLM在细粒度音频感知上的本质短板。 📌 核心摘要 要解决的问题:随着生成式音频模型的快速发展,现有评估方法(传统客观指标或通用多模态大模型)在领域泛化能力、零样本任务适应性和指令灵活性上存在严重瓶颈。一个模型往往只能用于特定任务或评估维度。 方法核心:提出JASTIN框架,将音频评估重新定义为指令驱动的自回归推理任务。其核心架构是冻结的预训练音频编码器(PE-A-Frame-base)+ 轻量级可训练音频适配器 + 微调的大语言模型(Llama-3.2-3B)。通过交错的对话模板输入,将自然语言评估指令与音频特征一起输入LLM,直接生成数值评分。 与已有方法相比新在哪里: 统一泛化:单个模型可零样本处理语音、音乐、音效等24种评估任务,无需任务特定重训练。 创新的数据准备管道:采用多源(人工标注、伪标签、代理任务数据)、多任务、多校准(动态评分范围、语义反转)、多描述(LLM驱动重述) 的异构数据增强策略,极大提升了模型对指令和评估标准的理解与鲁棒性。 指令鲁棒性与人类中心对齐:模型能灵活适应评分规则和标定的变化,同时对同义指令保持稳定输出,其预测结果与人类主观评分的相关性达到了新的SOTA水平。 主要实验结果�� 在QualiSpeech和SpeechEval两个语音数据集上,JASTIN在几乎所有指标上的皮尔逊(PCC)和斯皮尔曼(SRCC)相关系数均超过所有对比基线(包括专用评估模型、通用MLLM和传统指标)。例如,在QualiSpeech的失真(Dist.)指标上,JASTIN的PCC达到0.561,而第二好的专用模型QualiSpeech仅为0.518。 在跨领域AES数据集(语音、音效、音乐)上,JASTIN性能与专用的AES模型相当或更优,例如在语音质量(PQ)指标上PCC达0.707(AES模型为0.730),在音乐内容享受度(CE)上PCC达0.749(超过AES的0.748)。 在域外(OOD)任务(音乐文本对齐、整体音乐质量、合成语音MOS、ASMR语音MOS)上,JASTIN显著超越所有通用大模型(如Gemini-3-Pro, Qwen3-Omni),证明了其出色的零样本泛化能力。例如,在音乐文本对齐(M-TA)任务上,JASTIN的PCC为0.487,而Gemini-3-Pro仅为0.175。 实际意义:提供了一个通用、灵活、可扩展的自动化音频评估基础框架。研究人员和开发者可以像给人类评估员下指令一样,用自然语言定义评估任务和标准,无需为每个新任务收集数据或训练专用模型,极大降低了音频质量评估的门槛和成本。 主要局限性: 在时间敏感任务(如语速评估)上表现不佳,相关系数很低,与大多数基线模型一样,揭示了当前LLM架构在精细时序动态感知上的共同弱点。 在处理高度专业化或美学驱动的音频领域(如ASMR)时,模型可能因内部语音质量先验知识而产生误判,将高保真的耳语误认为音频伪影。 仅支持单音频评分,尚不支持多音频比较或参考音频评估。 🔗 开源详情 代码:https://github.com/vivian556123/Jastin 模型权重: 音频编码器基础模型:https://huggingface.co/facebook/pe-a-frame-base (论文中引用的第三方预训练模型,非Jastin自训练权重) 语言模型骨干:https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct (论文中引用的第三方预训练模型,非Jastin自训练权重) Jastin模型本身的训练权重:论文中未提及下载链接或开源权重。 数据集:论文中提及用于训练的多源数据集,但未提供统一的下载包或开源链接。具体数据集名称及来源见下文“论文中引用的开源项目”部分。 Demo:论文中未提及。 复现材料:论文中开源了模型设计、推理脚本、数据处理脚本以及所有模板、任务描述和提示。这些材料已包含在上述GitHub代码仓库中。论文中详细说明了训练配置(如使用8个A100 GPU,训练6000步等),但未提供训练好的检查点(checkpoint)。 论文中引用的开源项目: 模型: PE-A-Frame: https://huggingface.co/facebook/pe-a-frame-base Llama-3.2-3B: https://huggingface.co/meta-llama/Llama-3.2-3B-Instruct 数据集(部分提及): ChildSpeech: https://huggingface.co/datasets/TomRoma/Child_Speech_dataset_Whisper 其他作为数据来源被提及的公开数据集名称:BVCC、QualiSpeech、SpeechEval、UrgentMOS、LibriTTS、Expresso、CommonVoice、EARS、AudioSet、FreeSound、MusicCaps、MUSDB18、LibriSpeech、NCSSD、CHAINs。 完整任务列表:在论文的补充材料中提及,链接为 https://github.com/vivian556123/Jastin/blob/main/prompts-and-tasks.html 🏗️ 模型架构 JASTIN的整体架构如图1所示,旨在将连续的音频信号与离散的文本指令在LLM的语义空间中对齐。 ...

2026-05-07 · 更新于 2026-06-22 · 2 min · 418 words

Library learning with e-graphs on jazz harmony

📄 Library learning with e-graphs on jazz harmony #音乐信息检索 #音乐理解 #程序合成 #库学习 ✅ 6.5/10 | 前50% | #音乐信息检索 | #程序合成 | #音乐理解 #库学习 | arxiv 学术质量 5.5/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Zeng Ren (EPFL Lausanne, Vaud, Switzerland) 通讯作者:Martin Rohrmeier (EPFL Lausanne, Vaud, Switzerland) 作者列表:Zeng Ren (EPFL Lausanne, Vaud, Switzerland)、Maddy Bowers (MIT, Cambridge, Massachusetts, USA)、Xinyi Guan (EPFL Lausanne, Vaud, Switzerland)、Martin Rohrmeier (EPFL Lausanne, Vaud, Switzerland) 💡 毒舌点评 这篇论文将音乐模式发现巧妙地形式化为可重用程序片段的合成问题,并在技术上创造性地整合了演绎解析与e-graph上的库学习,理论框架新颖且自洽。然而,核心实验仅在3首长度有限的爵士乐曲上进行概念验证,其计算效率、对更复杂或更大规模语料库的适用性,以及学习到的模式是否具有音乐理论上的普适意义,都亟需更大规模的实验来验证,目前看更像一个技术探索而非成熟的解决方案。 ...

2026-05-07 · 更新于 2026-06-22 · 2 min · 304 words