语音/音乐/音频论文速递 2026-06-16

语音/音乐/音频论文速递 2026-06-16 共分析 62 篇论文 ⚡ 今日概览 📥 抓取 62 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 9篇 █████████ #语音合成 6篇 ██████ #多模态模型 5篇 █████ #自监督学习 4篇 ████ #音频生成 3篇 ███ #生成模型 2篇 ██ #语音生成 2篇 ██ #音乐信息检索 2篇 ██ 📊 论文评分排行榜(62 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 TuneJury: An Open Metric for Improving Music Generation 9.7分 前25% #多模态模型 🥈 Acoustic, VOC, and Multimodal Stress Source Localizatio 9.7分 前50% #声源定位 🥉 VoxWatermark: A Large-Scale Benchmark for Audio Waterma 9.4分 前50% #鲁棒性 4. Phonetically Explainable Speech Deepfake Detection 9.0分 前50% #语音伪造检测 5. FreeSonic: Training-Free Temporal-Aware Decoupled Atten 9.0分 前25% #音频生成 6. MambAdapter: Lightweight Mamba-Based Adapters for Param 8.9分 前25% #语音识别 7. XAI-Grounded Explanation Generation for Speech Deepfake 8.9分 前25% #多模态模型 8. Unified Audio Generation and Editing via Joint Conditio 8.7分 前25% #音频生成 9. AdaTT: Text-Guided Instrument Timbre Transfer with Targ 8.7分 前25% #音频生成 10. DuraMark: Duration-Embedded Watermarking in LLM-based T 8.7分 前25% #生成模型 11. When the Same Musical Knowledge Forgets Differently: A 8.6分 前10% - 12. Probing Low Frame Rate Degradation in Neural Audio Code 8.6分 前25% #语音生成 13. Rhythm of the Deep: A Computational-Linguistic Test of 8.5分 前25% #自监督学习 14. Beyond Artifacts: Towards Generalizable Synthetic Song 8.4分 前25% #音乐信息检索 15. Acoustic Prompting via Stage-wise Modulation for Few-Sh 8.3分 前50% #音频分类 16. ArtNet: A JEPA-Like Articulatory Predictive Framework f 8.3分 前50% #语音识别 17. MatchLM2Lite: A Scalable MLLM-to-Lite Framework for Rep 8.3分 前25% #音频分类 18. Bridging the SEA Gap: An Initial Benchmark for Neural A 8.2分 前25% #语音合成 19. An Empirical Study on Learning Latent Representations f 8.2分 后50% #语音合成 20. From Physics to Representation: Audio Learning with Syn 8.2分 前25% #自监督学习 21. An Asymmetric Formula for Interval Consonance and its R 8.0分 前25% #音乐信息检索 22. Universal adaptive beamforming: A Bayesian approach 8.0分 前50% #自适应滤波 23. Learning Input-Channel Permutation Equivariance for Mul 7.9分 前50% #音乐源分离 24. Stabilizing Short Duration Speaker Verification through 7.9分 前50% #说话人验证 25. AUDEDIT: Inversion-Free Text-Guided Editing with Pretra 7.8分 前25% #生成模型 26. Interpretable and Frugal Learning Systems Employing Mul 7.8分 前25% - 27. MuVAP: Multimodal Multiparty Voice Activity Projection 7.8分 前25% #语音对话系统 28. Dynamic Prosody Prediction in LLM-based TTS for Improvi 7.6分 前25% #语音合成 29. Scaling Human and G2P Supervision for Robust Phonetic T 7.6分 前25% #语音识别 30. SPRI: SVD-Partitioned Residual Initialization for Data- 7.6分 前25% #语音翻译 31. CraBERT: Efficient Phoneme Encoder Pre-Training via Cas 7.5分 前50% #语音合成 32. Pixel-TTS: Image based Text Rendering for Robust Text-t 7.5分 前50% #语音合成 33. AP-GRPO: Anchor-Gated Phonetic Alignment with Policy Op 7.4分 前50% #语音识别 34. Spectro-Temporal Interference Confounds Phase Encoding 7.4分 前50% #自监督学习 35. Teacher-Student Structure for Domain Adaptation in Ense 7.4分 前50% #多模态模型 36. SciText2Eq: Assessing LLMs for Explainable Equation Gen 7.3分 前50% #大语言模型 37. Confidence Score Guided Incremental and Speaker Adaptiv 7.2分 前50% #语音识别 38. Geometrically Constrained Decentralized Independent Vec 7.2分 前50% #语音分离 39. Dual-Granularity Orthogonal Disentanglement for General 7.2分 前50% #课程学习 40. Data-Driven Decoding of Russell's Circumplex Model 7.2分 前50% #语音情感识别 41. Connecting Speech to Words through Images 7.1分 前50% #无监督学习 42. Bridging the Usability Gap: Lessons from Interpreting S 7.1分 前50% #语音翻译 43. TMASC: Transmasculine Attitude and Speech Corpus 7.0分 前50% - 44. MUNI: Multimodal Unified Latent Diffusion for Coherent 6.9分 前50% #语音生成 45. Decoding while Adapting: Zero-Shot Online Speaker Adapt 6.8分 前50% #语音识别 46. Joycent: Diffusion-based Accent TTS without Accented Ph 6.8分 前50% #语音合成 47. Semi-Supervised Speech Confidence Detection using Pseud 6.8分 前50% - 48. Robust Spoofed Speech Detection via Temporal Pyramid Mo 6.7分 前50% #音频深度伪造检测 49. From Awareness to Adherence: Bridging the Context Gap i 6.7分 前50% #语音识别 50. ArtBoost: Synthetic Articulatory Data Augmentation for 6.5分 前50% #语音识别 51. DDPO-VC: Speaker De-Identification via Diffusion Denois 6.5分 前50% #语音转换 52. NVMOS: Non-Verbal Vocalization Quality Assessment in Sp 6.2分 前50% #自监督学习 53. Unifying Acoustic Features and Text with Multimodal LLM 6.2分 前50% #多模态模型 54. ROMPAR: Morphological Completion and Demographic Unlear 6.2分 前50% #语音识别 55. EChO-Agent: Evidence Chain Orchestration Agent for Audi 6.1分 前50% #音频问答 56. Beyond Classification: A Cough Regression Benchmark for 6.0分 前50% #音频事件检测 57. Towards Robust Generative Speech Enhancement Using Vect 5.9分 前50% #语音增强 58. Fast When, Careful Who: Dual-Process Multiparty Turn-Ta 5.9分 前50% #语音活动检测 59. MAF: Multimodal Adaptive Few-shot Prompting for Sentime 5.9分 前50% #多模态模型 60. An auscultation location specific study on the relation 5.8分 前50% - 61. Closed-Loop Triplet Synergistic Generation for Long-For 5.5分 前50% - 62. LLM-Based Synthetic Ground Truth Generation for Audio-B 5.3分 后50% #数据增强 📋 论文列表 🥇 TuneJury: An Open Metric for Improving Music Generation Preference Alignment 9.7/10 | 创新 1.5/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1.0/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.0/1.5 ...

2026-06-16 · 更新于 2026-07-28 · 36 min · 7668 words

FAConformer: Frequency-Aware Convolutional Transformer for Auditory Attention Decoding

📄 FAConformer: Frequency-Aware Convolutional Transformer for Auditory Attention Decoding #Transformer 7.5/10 | 创新 1.4/2 | 严谨 1.3/1.5 | 实验 1.4/1.5 | 清晰 1.3/1 | 影响 0.8/1.5 | 开源 0.4/1.5 | 复现 0.5/0.5 | 工程 0.4/1.5 ✅ 7.5/10 | 前25% | #Transformer | #Transformer | arxiv 👥 作者与机构 作者:Ziwei Wang, Xingyi He, Tianwang Jia, Hongbin Wang, and Dongrui Wu。 机构:华中科技大学人工智能与自动化学院,脑启发智能系统湖北省重点实验室。 💡 毒舌点评 论文在实验上做得扎实,对比了足够多的基线,消融实验和可视化分析也挺充分。但核心创新点——把多个频带的编码器独立开再做个注意力融合——感觉更像是工程上的巧妙组合,而非对AAD问题机理的突破。那个带级辅助监督(BAS)倒是个不错的小技巧,能防止某些分支“躺平”,但算不上革命性。最大的软肋在于,整个架构复杂度(8个并行分支、额外的FAA模块)换来那几个点的提升,在实时性要求高的脑机接口场景里是否真有实用价值,得打个问号。另外,所有实验都只在经典的、被用烂了的双说话人数据集上跑,结论的泛化能力存疑。审稿人最烦看到在“温室环境”里刷点然后大谈意义的工作。 📌 核心摘要 本文针对听觉注意力解码(AAD)任务中现有模型对EEG频域信息利用不充分的问题,提出了FAConformer框架。该框架包含三个核心组件:1)多频带分解;2)带内独立编码器(WBE),为每个频带分配独立的CNN-Transformer编码器;3)频率感知注意力(FAA)模块与带级辅助监督(BAS)。FAA将各频带的特征视为序列化的“频带标记”,通过Transformer建模跨频带依赖并进行自适应融合。BAS在训练时为每个频带分支提供独立的分类监督,防止分支优化不足。在DTU和KUL两个公开AAD数据集、三种决策窗口长度下的实验表明,FAConformer在所有设置下均显著优于12种基线模型。消融研究、注意力可视化和特征分布分析进一步验证了各组件的有效性和模型的可解释性。 🔗 开源详情 代码:https://github.com/wzwvv/FAConformer (论文提供链接,实际开源状态需验证) 模型权重:论文中未提及提供预训练模型权重。 数据集:论文使用了两个公开数据集:DTU和KUL。论文未提供直接下载链接,但明确指出了数据集的名称和出处。 Demo:论文中未提及。 复现材料:论文提供了详细的算法伪代码(Algorithm 1)和完整的参数设置(例如:批量大小32,最大训练轮数200,早停耐心10,学习率 \(5 \times 10^{-4}\),权重衰减 \(3 \times 10^{-4}\),损失权衡 \(\lambda=1\)),但未提及是否提供详细的训练配置文件(如config.yaml)或预训练检查点。 论文中引用的开源项目: FAConformer: https://github.com/wzwvv/FAConformer 其余在基线模型中提到的项目(如 EEGNet、SCNN、IFNet 等)论文中未提供具体的代码链接。 🏗️ 方法概述和架构 FAConformer是一个用于AAD的频率感知CNN-Transformer混合框架,其核心设计理念是“先分频带独立建模,再自适应融合”。整体架构(如论文图2所示)可分为三个阶段: ...

2026-06-15 · 更新于 2026-07-28 · 2 min · 335 words

Listening with Attention: Entropy-Guided Explainability for Transformer-Based Audio Models

📄 Listening with Attention: Entropy-Guided Explainability for Transformer-Based Audio Models #语音识别 #Transformer 9.6/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 🔥 9.6/10 | 前25% | #语音识别 | #Transformer | arxiv 👥 作者与机构 Ravi Ranjan (Florida International University,通讯作者),Utkarsh Grover (University of South Florida),Xiaomin Lin (University of South Florida),Agoritsa Polyzou (Florida International University)。论文已被INTERSPEECH 2026接收。 💡 毒舌点评 这篇论文在可解释AI(XAI)这个“网红”赛道上试图解决一个实际痛点:Transformer ASR模型的“黑箱”问题。LEAF-X这个名字起得很有品牌感,将“聆听”、“熵”、“注意力”、“忠实”几个关键词打包。其核心思想——用注意力的熵来筛选“靠谱”的注意力头,再结合跨层传播和因果消融——逻辑上是通的,也确实针对了现有方法(如纯注意力、LIME等)在音频时序定位和忠实度上的弱点。作者在实验设计上做足了功课,用了两个主流模型(Whisper, Canary)和两个数据集(LibriSpeech, TED-LIUM)进行交叉验证,并提出了一个相对全面的评估指标体系(LEAF-XBench)。结果也显示,在多项指标上取得了“最优或接近最优”的成绩。然而,作为一篇旨在提升透明度的方法论文,其自身的“透明度”仍有改进空间:1)实验部分对多次运行的标准差描述略显模糊(仅给出范围而非具体数值),这在严格的顶会审稿中可能会被追问统计显著性;2)关于计算开销的讨论,尤其是因果重加权部分的成本-收益权衡,目前的描述更像是功能开关而非定量的工程分析;3)最大的遗憾在于,尽管提到了“用户研究验证”,但最终并未提供,这使得“可解释性”在人类用户层面的价值未能闭环;4)方法中对“音频伪令牌”的描述以及其与编码器-解码器模型处理方式的差异,可以更清晰地阐述以提升通用性印象。总体而言,这是一篇扎实、有明确贡献的工作,但距离让审稿人无可挑剔(尤其是对实验严谨性和实用性论证的挑剔)还差临门一脚。 ...

2026-06-15 · 更新于 2026-07-28 · 1 min · 119 words

语音/音乐/音频论文速递 2026-06-15

语音/音乐/音频论文速递 2026-06-15 共分析 26 篇论文 ⚡ 今日概览 📥 抓取 26 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 4篇 ████ #语音合成 4篇 ████ #说话人识别 3篇 ███ #数据增强 2篇 ██ #音频问答 2篇 ██ #语音增强 1篇 █ #音乐信息检索 1篇 █ #强化学习 1篇 █ 📊 论文评分排行榜(26 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Listening with Attention: Entropy-Guided Explainability 9.6分 前25% #语音识别 🥈 MaskedFOP: Polyglot Speaker Identification under Missin 9.2分 前25% #说话人识别 🥉 HIDVAS: A Hearing Instrument Dataset in Various Acousti 9.0分 前25% #语音增强 4. BayLing-Duplex: Native Full-Duplex Speech Dialogue with 9.0分 前10% #语音合成 5. Moonlight in Latent Space: Chirality and Structural Cor 8.7分 前50% #音乐信息检索 6. Who Spoke When in Multi-Conversation: Target Speaker Ta 8.6分 前50% #说话人识别 7. Learning to Hear Hesitation: Continual Learning for Dis 8.3分 前25% #语音识别 8. The Holistic Storage of Verb+Up Phrases in Text-based a 8.2分 前50% #语音识别 9. OmniVideo-100K: A Dataset for Audio-Visual Reasoning th 8.2分 前50% #数据增强 10. Orchestra-o1: Omnimodal Agent Orchestration 8.1分 前50% #强化学习 11. Unsupervised Approaches for Global Prosodic Embedding E 7.8分 前25% #语音合成 12. Instantaneous Pitch Estimation via Wave-U-Net-Based Fun 7.7分 前25% #数据增强 13. A Deep Zero-Inflated Model of North Atlantic Right Whal 7.6分 前50% #概率图模型 14. FAConformer: Frequency-Aware Convolutional Transformer 7.5分 前25% #Transformer 15. From Self-Supervised Speech Models to Mixture-of-Expert 7.5分 前50% #自监督学习 16. The Perceived Fragility of Explanations in Audio Models 7.5分 前25% - 17. A Multi-Domain Feature Fusion Framework for Generalizab 7.4分 前50% #多模态模型 18. AudioDER: A Deduplication-Enhanced Reasoning Dataset fo 7.3分 前50% #音频问答 19. Beyond task performance: Decoding bioacoustic embedding 7.1分 前50% - 20. Explainable and Trustworthy Speech Emotion Recognition 7.0分 前50% #语音情感识别 21. FoleyGenEx: Unified Video-to-Audio Generation with Mult 7.0分 前50% #语音合成 22. Spatio-Temporal Audio Language Modeling for Dynamic Sou 6.9分 前25% #音频问答 23. Mask, Sample, Revise: A Revisable CTMC Inference Stack 6.8分 前25% #语音合成 24. MoDiCoL: A Modular Diagnostic Continual Learning Datase 6.5分 前50% #语音识别 25. Multimodal Speaker Identification in Classroom Environm 6.0分 前50% #说话人识别 26. Efficiency-Performance Trade-offs in Neural Speaker Dia 5.1分 后50% #说话人日志 📋 论文列表 🥇 Listening with Attention: Entropy-Guided Explainability for Transformer-Based Audio Models 9.6/10 | 创新 1.5/2 | 严谨 1.4/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ...

2026-06-15 · 更新于 2026-07-28 · 15 min · 3122 words

Test-Time Compute Scaling for ASR with Depth-Conditioned Looped Transformers

📄 Test-Time Compute Scaling for ASR with Depth-Conditioned Looped Transformers #语音识别 #无监督学习 #Transformer 7.8/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 0/1.5 | 复现 0.3/0.5 | 工程 0.8/1.5 ✅ 7.8/10 | 前25% | #语音识别 | #Transformer | #无监督学习 | arxiv 👥 作者与机构 论文作者:Yacouba Kaloga, Shashi Kumar, Shakeel A. Sheikh, Driss Khalil, Petr Motlicek, Ina Kodrasi。 机构:Idiap Research Institute (瑞士), EPFL (瑞士), BUT (捷克共和国), Novartis Institute of Biomedical Research (瑞士)。 核心贡献者:Yacouba Kaloga 和 Shashi Kumar 被标注为同等贡献。 ...

2026-06-04 · 更新于 2026-07-28 · 2 min · 282 words

语音/音乐/音频论文速递 2026-06-04

语音/音乐/音频论文速递 2026-06-04 共分析 22 篇论文 ⚡ 今日概览 📥 抓取 22 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 3篇 ███ #音频分类 2篇 ██ #音频生成 2篇 ██ #语音增强 2篇 ██ #多模态模型 1篇 █ #语音编码 1篇 █ #空间音频 1篇 █ #音乐生成 1篇 █ 📊 论文评分排行榜(22 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Multilingual Long-Form Speech Instruction Following: KI 10.0分 前10% #语音识别 🥈 Drift-Augmented Scoring: Text-Derived Noise Robustness 10.0分 前25% #音频分类 🥉 DetectZoo: A Unified Toolkit for AI-Generated Content D 9.3分 前25% #多模态模型 4. CleanCodec: Efficient and Robust Speech Tokenization vi 8.8分 前25% #语音编码 5. Read What You Hear: Reference-Free Hypotheses Evaluatio 8.6分 前25% #语音识别 6. UAT: Unified Audio-Text Diffusion for Audio Generation, 8.5分 前25% #音频生成 7. Flow-HOA: Generative Joint Optimization for Ambisonics 7.9分 前25% #空间音频 8. Test-Time Compute Scaling for ASR with Depth-Conditione 7.8分 前25% #语音识别 9. Channel-Oriented Design for EEG-to-Music Reconstruction 7.7分 前25% #音乐生成 10. Entity Binding Failures in Speech LLM Reasoning: Diagno 7.5分 前25% #语音问答 11. Video2LoRA: Parametric Video Internalization for Vision 7.5分 前50% #参数高效微调 12. Feasibility of Time-Domain DNN-Based Speech Enhancement 7.2分 前50% #语音增强 13. Differentiable Articulatory Copy-Synthesis of Biphonic 7.1分 前50% #音频生成 14. The Differentiable Auditory Loop (DAL): An ML Framework 7.1分 前50% #语音增强 15. Masked Wavelet Scattering Transform Neural Field for So 6.7分 前50% #音频质量评估 16. SHB-AE: Spherical harmonic beamforming based Ambisonics 6.7分 前50% #音频编码 17. SURF: Separation via Unsupervised Remixing Flow 6.4分 前25% #无监督学习 18. Gauss Circle Lattices with Geometric Convolutions for S 6.0分 前50% - 19. Plan First, Judge Later, Run Better: A DMAIC-Inspired A 5.8分 前50% #工业应用 20. Representation Matters in Randomized Smoothing for Audi 5.7分 前50% #音频分类 21. Neural Radiated-Noise Fields for Unmanned Underwater Ve 5.1分 前50% - 22. A Second-Order Cepstral Signature of Contact-Vibration 4.8分 后50% #信号处理基础 📋 论文列表 🥇 Multilingual Long-Form Speech Instruction Following: KIT's Submission to IWSLT 2026 10.0/10 | 创新 1.5/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

2026-06-04 · 更新于 2026-07-28 · 14 min · 2920 words

A Training-Efficient Transformer-Based Anti-Spoofing Network for Logical Access in ASVspoof 5

📄 A Training-Efficient Transformer-Based Anti-Spoofing Network for Logical Access in ASVspoof 5 #Transformer #数据增强 6.7/10 | 创新 1/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 1/1 | 影响 0.5/1.5 | 开源 0/1.5 | 复现 0.5/0.5 | 工程 1.2/1.5 ✅ 6.7/10 | 后50% | #Transformer | #Transformer | #数据增强 | arxiv 👥 作者与机构 论文作者为 Sidan Yin 和 Bo Zhao。论文中未明确提及作者所属机构信息。 💡 毒舌点评 这篇文章像一个精心搭建的乐高城堡,每个积木块(Transformer、Focal Loss、Pairwise Loss、Attention Pooling)都是现成的,拼装过程也算工整。它的价值在于向特定赛道(ASVspoof 5 Track 1 闭集)的选手证明了,用这些标准零件,确实能比用AASIST那些奇形怪状的图积木搭得更快、更省地,还能搭得稍微高一点(minDCF 0.2430 vs 0.2911)。但它的天花板也就仅限于此了。创新性基本停留在“排列组合”层面,缺乏对“为什么必须这样组合”的深度机理挖掘。实验局限在自家后院(闭集协议),从未与更广阔的SOTA世界(挑战赛高分系统、开放条件)交手。最致命的是,论文一边强调“平衡”,却对RawNet2在推理延迟和参数量上的优势轻描淡写,对AASIST内存异常高的原因缺乏深究,仿佛效率分析是为了凸显自家优点而量身定制的。它是一份合格的“技术报告”或“竞赛心得”,但距离一篇具有广泛启示意义的“研究论文”还有明显差距。 ...

2026-06-03 · 更新于 2026-07-28 · 3 min · 473 words

语音/音乐/音频论文速递 2026-06-03

语音/音乐/音频论文速递 2026-06-03 共分析 40 篇论文 ⚡ 今日概览 📥 抓取 40 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音合成 7篇 ███████ #语音识别 7篇 ███████ #音乐生成 3篇 ███ #音频生成 2篇 ██ #语音增强 2篇 ██ #多模态模型 2篇 ██ #语音情感识别 2篇 ██ #语音翻译 2篇 ██ 📊 论文评分排行榜(40 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 AnyAudio-Judge: A Dynamic Rubric-Based Benchmark and Ev 10.0分 前10% #语音合成 🥈 Cosmos 3: Omnimodal World Models for Physical AI 10.0分 前10% #音频生成 🥉 WavTTS: Towards High-Quality Zero-Shot TTS via Direct R 9.2分 前25% #语音合成 4. CoughSense: Five-Class Respiratory Disease Classificati 9.1分 前25% #数据增强 5. SoulX-Transcriber: A Robust End-to-End Framework for Mu 8.8分 前50% #语音识别 6. SVHalluc: Benchmarking Speech-Vision Hallucination in A 8.7分 前25% #语音识别 7. Benchmarking Speech-to-Speech Translation Models 8.7分 前25% #语音合成 8. The DeepSpeak-Agentic Dataset 8.7分 前50% #语音合成 9. EntangleCodec: A Unified Discrete Audio Tokenizer via S 8.6分 前10% #语音合成 10. SketchSong: Hierarchical Song Generation with Sketch Pl 8.6分 前25% #音乐生成 11. SegTune: Structured and Fine-Grained Control for Song G 8.5分 前25% #音乐生成 12. Exploiting Noise Inseparability for Weakly-Supervised D 8.5分 前50% #语音增强 13. A Comparison of Generative and Discriminative Methods f 8.3分 前25% #语音增强 14. FSA-GRPO: Teaching Auditory LLMs to Use Few-shot Demons 8.1分 前50% #语音识别 15. Tonal parsimony in chord-sequence analysis: combining m 8.1分 前25% #音乐信息检索 16. Efficient ASR Training with Conversations that Never Ha 8.0分 前50% #语音识别 17. LiveBand: Live Accompaniment Generation in the Audio Do 8.0分 前25% #音乐生成 18. Sandboxed Coding Agents are Competitive Omni-modal Task 7.9分 前25% #强化学习 19. OmniHalluc-L: Counterfactual Benchmarking and Modality- 7.8分 前25% #多模态模型 20. BaltiVoice: A Speech Corpus and Fine-tuned Whisper ASR 7.8分 前25% #语音识别 21. Speech Emotion Recognition using Attention-based LSTM-N 7.5分 前50% #语音情感识别 22. SpeakerCard-1M: An Evidence-Grounded Speaker Card Corpu 7.4分 前25% #说话人验证 23. C2GA: A Class-Controllable Generative Augmentation Fram 7.3分 前50% #音频分类 24. AlignAtt4LLM: Fast AlignAtt for Decoder-Only LLMs at IW 7.3分 前50% #语音翻译 25. Before Fusion, Ask What to Keep: Contextual Calibration 7.2分 前50% #语音情感识别 26. Diffusion-Based Heart Sound Generation: Evaluation with 7.1分 前50% #语音合成 27. SiamCTC: Learning Speech Representations through Monoto 7.0分 前50% #语音识别 28. Foley-Omni: A Unified Multimodal Generation Model from 7.0分 前25% #音频生成 29. Inference-Time Scaling for Joint Audio-Video Generation 6.9分 前50% #语音合成 30. Breaking the Pair: Evaluating Dyadic Interaction via Sp 6.9分 前50% - 31. Localizing broadband noise sources using the Loève spec 6.9分 前50% #声源定位 32. A Pocket Offline Model for Simultaneous Speech Translat 6.8分 前50% #语音翻译 33. Stable Hybrid Cross-Attention Fusion for Audio-Visual E 6.7分 后50% #自监督学习 34. A Training-Efficient Transformer-Based Anti-Spoofing Ne 6.7分 后50% #Transformer 35. MoDAl: Self-Supervised Neural Modality Discovery via De 6.6分 前25% #自监督学习 36. Audio Spotforming via Post-Filtering Using Cross-Array 6.6分 前50% #维纳滤波 37. Logit Distillation on Manifolds: Mapping by Learning 6.5分 前50% #语音识别 38. Domain-Agnostic Incremental Learning for Sound Classifi 6.1分 前50% - 39. Wavelet as Tokenizer: Preliminary Results on a Shared W 5.4分 后50% #多模态模型 40. In-the-Loop Training of Deep Feedback Cancellation for 5.3分 前50% #自适应滤波 📋 论文列表 🥇 AnyAudio-Judge: A Dynamic Rubric-Based Benchmark and Evaluator for Audio Instruction Following 10.0/10 | 创新 1.8/2 | 严谨 1.4/1.5 | 实验 1.5/1.5 | 清晰 1/1 | 影响 1.4/1.5 | 开源 1.3/1.5 | 复现 0.5/0.5 | 工程 1.3/1.5 ...

2026-06-03 · 更新于 2026-07-28 · 26 min · 5337 words

Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS

📄 Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS #流式处理 #扩散模型 #Transformer #语音合成 🔥 10/10 | 前25% | #语音合成 | #Transformer | #流式处理 #扩散模型 | arxiv 学术质量 7/7 | 影响力 2/2 | 可复现性 2/2 | 置信度 高 👥 作者与机构 Deokjin Seo: Resemble AI(与Gangin Park贡献均等) Gangin Park: 首尔国立大学(与Deokjin Seo贡献均等) Kihyun Nam: KAIST 论文标注了Deokjin Seo和Gangin Park的贡献均等(† footnote 1)。 💡 毒舌点评 这篇工作切入点很聪明,直击了块扩散方法在离散语音token上“水土不服”的痛点——静音token这类高频但低信息的“钉子户”严重干扰并行生成。提出的先验校准评分(PMI)和早期解码调度(ED)是实用的推理时补丁,无需改模型架构就能用,这点工程上很讨巧。但细看实验,几个关键点被包装得有点“圆滑”:1)在“标准”基准(LibriSpeech-PC, Seed-TTS)上,PMI相比更简单的TS调度(即OmniVoice的方法)在质量上几乎没有提升,其核心价值变成了为ED提供“可靠信号”——这更像是一个特性,而非一个强创新。2)在EmergentTTS-Eval上的10.6%相对WER提升是亮点,但这个基准是否足够主流和公允?论文未提供与OmniVoice等强基线在此基准的对比数据,使得提升幅度难以被客观衡量。3)宣称的“首个结合块扩散和原生流式推理的零样本TTS”定位准确,但与强大的AR流式系统(如Qwen3-TTS)相比,在TTFP上只是“具有竞争力”,而质量(如SIM-o)常落后于OmniVoice等NAR系统。说白了,这是一篇“工程上很不错,但科学上新瓶装旧酒”的论文,主要贡献是把已知技术组合并调优到了一个可用的状态,缺乏对块扩散在语音领域失败模式的更根本性解决方案。 📌 核心摘要 论文标题: Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS 论文ID: arXiv 2605.30748 核心问题: 如何在不牺牲质量的前提下,实现支持流式推理的高速零样本文本到语音(TTS)合成。现有自回归(AR)模型延迟高,而非自回归(NAR)模型不支持原生流式。直接将块扩散(Block Diffusion)解码应用于离散语音token会导致质量下降,原因是语音codec的token分布高度长尾(如静音token占比极大),干扰了并行位置选择。 核心方法: 模型架构: 通过微调一个预训练的自回归T3解码器(来自Chatterbox-TTS),将其转换为块扩散解码器。采用混合注意力掩码:对条件上下文\(\mathbf{c}\)为因果注意力,在每个语音块内为双向注意力,块间为因果注意力,从而保留流式能力。训练使用token-shift去噪损失和互补掩码策略。 推理时技术(无需架构改动): 先验校准评分(Prior-Calibrated Scoring): 使用点互信息(PMI)分数 \(s_i^{(k)} = \log p_i^{(k)}(\hat{x}_i^{(k)}) - \log \bar{p}(\hat{x}_i^{(k)})\) 来排序和选择要解掩的位置。其中 \(\bar{p}\) 是通过一次无条件前向传播计算的无条件块先验概率。此举旨在抑制长尾高频token(如静音)的偏差。 早期解码调度(Early-Decoding Schedule): 基于校准后的PMI分数,自适应地提前终止每个块的去噪迭代步骤。具体通过设置阈值 \(\theta_k\),并在不同步数 \(k\) 用动态分位数 \(q_k\) 控制。 主要结果: 质量: 在标准零样本TTS基准(LibriSpeech-PC, Seed-TTS)上,Chatterbox-Flash的质量(SIM-o, WER, UTMOS)匹配或超越了部分AR和NAR基线(如与Chatterbox相比有提升)。在更具挑战性的EmergentTTS-Eval上,PMI带来了约10.6%的相对WER提升。 效率: 实现了显著更低的实时因子(RTF,相比强AR基线Qwen3-TTS降低约2.7倍至3.8倍)和具有竞争力的时间首包(TTFP)。支持原生流式推理,这是许多NAR基线(如OmniVoice)不具备的。 技术验证: 先验校准评分为早期解码提供了可靠的置信度信号,允许在约20%的步骤节省下几乎不损失质量(WER)。PMI的主要优势在质量饱和的基准上不直接体现,而在于提供可靠的置信度信号。 关键贡献: 首个结合块扩散和原生流式推理的零样本TTS模型。 提出先验校准评分,一种简单有效的推理时校正方法,用于抑制长尾token偏差。 提出早期解码调度,自适应降低计算量。 在质量和流式效率上取得了优异的平衡。 局限性与未来工作: 在训练中未对数据源进行消融;当块大小(D)过大(\(\geq128\))时模型会崩溃;在质量饱和的基准上,先验校准评分与直接使用置信度的基线方法差异不大,其优势主要体现在为早期解码提供信号和在难样本上。 🔗 开源详情 代码:https://github.com/resemble-ai/chatterbox-flash (论文中明确提供) 模型权重:论文中未提及模型权重的具体下载链接。论文说明模型从预训练的 Chatterbox-TTS 检查点初始化。 数据集: 论文中列出了详细的训练数据集组成(公开和私有),见表6。 公开数据集名称包括:MLS-English, Emilia (en, part 1), Loquacious, GLOBE, LibriTTS-R, HiFi-TTS, EARS, Expresso。 评估使用的基准测试为 LibriSpeech-PC test-clean 和 Seed-TTS test-en。 未提供数据集的具体下载链接或开源协议。 Demo:论文中未提及在线演示链接。 复现材料:论文在附录(Appendix E)中提供了详细的实现细节,包括: 推理引擎基于 FlashInfer。 自定义注意力掩码实现(附录A)。 训练超参数(学习率、批大小、精度等,见3.2节)。 推理配置参数(块大小 D、去噪步数 K、调度参数 \(\tau\)、引导比例 w、采样温度 T 等,见3.2节)。 使用 CUDA Graph 进行推理加速。 论文中引用的开源项目: Chatterbox-TTS:https://github.com/resemble-ai/chatterbox (基础模型,论文中明确提供) FlashInfer:https://github.com/flashinfer-ai/flashinfer (用于推理注意力内核和键值缓存管理,论文中明确提供) MagiAttention:https://github.com/SandAI-org/MagiAttention (用于高吞吐量的长序列注意力,论文中明确提供) 🏗️ 方法概述和架构 Chatterbox-Flash是一个两阶段的零样本TTS系统,其核心创新在于将第一阶段的自回归解码器改造为支持流式生成的块扩散解码器。 ...

2026-06-01 · 更新于 2026-07-28 · 1 min · 190 words

Latent Space Disentanglement via Activation Steering for Interpretable Attribute Control in Symbolic Music Generation

📄 Latent Space Disentanglement via Activation Steering for Interpretable Attribute Control in Symbolic Music Generation #Transformer #音乐生成 ✅ 7.3/10 | 后50% | #音乐生成 | #Transformer | arxiv 学术质量 5/7 | 影响力 1.5/2 | 可复现性 0.8/2 | 置信度 中 👥 作者与机构 第一作者:Ioannis Prokopiou。所属机构未在论文正文明确提及,但根据项目主页推断可能来自雅典大学或其他研究机构。未提及小米或其他中国相关机构。 💡 毒舌点评 这篇论文像是把一个在语言模型上跑通的“标准操作”(DiffMean + 激活引导 + Gram-Schmidt)搬到了符号音乐模型上。创新性严重不足,核心方法都是现成的。更让人头疼的是评估指标,那个“质量降级δ”被当成核心指标反复使用,但其具体构成、权重、归一化方式一概不提,这就像在实验报告里说“性能有所提升”却不给数字一样不严谨。实验部分只在一个模型、一个数据集上打转,就宣称方法的普适性,说服力很弱。最要命的是,缺乏任何人类主观听觉评估来验证生成的音乐到底“好不好听”。总的来说,这是一篇动机清晰、执行工整但深度和广度都明显不足的工作,离顶会标准还有距离。 📌 核心摘要 本文针对预训练符号音乐生成模型(MMT)缺乏细粒度、可解释属性控制的问题,提出了一种基于机械可解释性和激活引导的无训练推理时控制框架。研究验证了音高和持续时间在模型残差流中存在线性可分的潜在方向(线性表征假设)。通过差异均值法提取控制向量,并在推理时注入。为解决多属性引导时的特征纠缠,引入了基于Gram-Schmidt正交化的双重引导框架。实验表明,该方法在无条件生成和上下文覆盖条件下均能有效控制属性,且正交化能降低干扰并保持生成质量。 🔗 开源详情 代码:论文在致谢部分提供了项目主页链接:https://giannisprokopiouorfium.github.io/music-transformer-sae/,其中包含代码和音频示例。未提供独立的GitHub仓库链接。 模型权重:论文中未提及模型权重的具体下载链接。 数据集:论文明确使用SOD数据集,但未提供数据集的下载链接或开源协议信息。 Demo:未提及在线演示链接。 复现材料:未提及训练配置、检查点或附录等具体复现材料。 论文中引用的开源项目:论文引用了多个相关工作(如MMT, MusicGen, Music FaderNets, SMITIN, MusicRFM, AxBench等),但未提供其具体链接(除MusicGen的官方GitHub仓库 https://github.com/facebookresearch/audiocraft 和 AxBench 的 https://github.com/meghdadk/axbench 外)。 🏗️ 方法概述和架构 论文提出的方法是一个基于机械可解释性的无训练推理时干预框架,旨在对预训练的多轨音乐Transformer(MMT)模型实现对音高和持续时间属性的独立控制。其核心流程可分解为以下几个关键组件: ...

2026-06-01 · 更新于 2026-07-28 · 2 min · 367 words