WAXAL-NET: Finetuned Edge ASR Across 19 African Languages

📄 WAXAL-NET: Finetuned Edge ASR Across 19 African Languages #语音识别 #低资源 #参数高效微调 8/10 | 创新 2/2 | 严谨 1.2/1.5 | 实验 1.2/1.5 | 清晰 0.8/1 | 影响 1.5/1.5 | 开源 1/1.5 | 复现 0.3/0.5 | 工程 0/1.5 🔥 8/10 | 前25% | #语音识别 | #参数高效微调 | #低资源 | arxiv 👥 作者与机构 Victor Tolulope Olufemi1,2, Oreoluwa Babatunde2, Ramsey Njema1, Bolarinwa Gbotemi2, Wanchi Lucia Yen1, John Uzodinma1, Sunday Ajayi1, Oluwademilade Williams2, Kausar Moshood2, Innocent Elendu Anyaele1, Akebert Arefaine1, Candace Hunzwi1, Wongel Dawit Daniel1, Emmilly Namuganga1, Cleophas Kadima1, Athanase Bahizire1, Onitsiky Ranaivoson1, Emmanuel Aaron1, Nicholaus Ladislaus1, Idris Muhammed1, Jonathan Enoch Simenya1, Martin Koome1, Matewos Tegete Endaylalu1, Peter Ifeoluwa Adeyemo1, Hondi Prisca Birindwa1, Ukachi Agnes Eze-Mbey1, Yacoba Oduro-Yeboah1, Pericles Adjovi1, Mikel K. Ngueajio1, Toluwani Aremu3, Prasenjit Mitra1。 1CMU Africa, 2LyngualLabs, 3MBZUAI。 ...

2026-06-02 · 更新于 2026-06-19 · 3 min · 561 words

When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes

📄 When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes 7.1/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 0/1.5 ✅ 7.1/10 | 前50% | #音频分类 | arxiv 👥 作者与机构 作者:Julien Lafrance 机构:Télécom Paris, Institut Polytechnique de Paris 💡 毒舌点评 一篇非常扎实、数据量庞大的“工程系统论文”。作者的核心论点是“一个管道打天下”,并通过95个数据集、7种模态的暴力评估来证明这一点。优点在于极度的诚实和透明:明确区分了四种比较方式,坦率地承认了在语音上的失败,并详细记录了基线修正后“救援制度”消失的过程。然而,这也暴露了其核心矛盾:作为一篇顶会论文,其“创新性”更像是对现有技术的严谨集成和压力测试,而非提出新的理论或算法。作者清晰地划分了“等效”和“提升”两种场景,并给出了部署指南,这对工程师很有价值。但对研究者而言,创新增量有限。最致命的是,那所谓的“提升”案例仅5个,且可预测性极差,这削弱了该管道作为“发现工具”的潜力。论文最后成了自己结论的证明:大部分情况下,你只是在为“免调优”这个便利性买单,而非获得性能飞跃。 📌 核心摘要 本文系统性评估了一个统一的三阶段分类管道(ETF预处理 + TabICL推理 + 温度校准)在冻结的特征表示上的跨模态性能。该管道在7种模态的95个数据集上进行了测试。主要结论是,该管道在约77%的跨模态任务(Panel A)和91.5%的表格任务(Panel B)上,能够匹配或超越使用相同冻结特征的最强轻量级调优基线,且无需针对每个数据集进行调优。性能被清晰地划分为两个“制度”:大多数数据集是“等效”制度(管道与基线持平),少数是“提升”制度(管道显著提升性能)。该管道在速度上比全骨干微调快4到200倍。论文详细阐述了部署实践,包括ETF预处理的选择、基于几何的早停准则、非对称集成策略和校准方法,并提供了置信度门控部署的工作流程。 ...

2026-06-02 · 更新于 2026-06-19 · 2 min · 341 words

语音/音乐/音频论文速递 2026-06-02

语音/音乐/音频论文速递 2026-06-02 共分析 35 篇论文 ⚡ 今日概览 📥 抓取 35 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #语音识别 9篇 █████████ #语音合成 5篇 █████ #自监督学习 2篇 ██ #多模态模型 2篇 ██ #音频分类 2篇 ██ #计算机视觉 1篇 █ #音乐推荐 1篇 █ #语音编辑 1篇 █ 📊 论文评分排行榜(35 篇,按分数降序) 排名 论文 总分 分档 主任务 🥇 Project SPARROW and the Future of Conservation Technolo 10.0分 前50% #计算机视觉 🥈 Multimodal Music Recommendation System using LLMs 10.0分 前50% #音乐推荐 🥉 Sympatheia: Emotionally Adaptive Voice Assistant with C 9.6分 前25% #语音合成 4. MOSS-Audio Technical Report 9.2分 前25% #语音识别 5. UniVocal: Unified Speech-Singing Code-Switching Synthes 8.9分 前25% #语音合成 6. PolySpeech-100: A Large-Scale Benchmark for Speech Unde 8.8分 前50% #语音识别 7. SpeechEditBench: A Bilingual Multi-Attribute Benchmark 8.7分 前25% #语音编辑 8. Context-aware child-directed speech detection from long 8.5分 前25% #自监督学习 9. RRP-Voice: A Longitudinal Dataset and Benchmark for Rec 8.3分 前50% #数据集 10. MURMUR: An Efficient Inference System for Long-Form ASR 8.3分 前50% #语音识别 11. Local Diagnostics of Continuous Normalizing Flow for Ou 8.1分 前50% #语音合成 12. WAXAL-NET: Finetuned Edge ASR Across 19 African Languag 8.0分 前25% #语音识别 13. Dynamic Interaction-Aware and Causality-Disentangled Fr 7.8分 前25% #多模态模型 14. Temporally-Aligned Evaluation for Audio-Driven Talking 7.6分 前25% #语音合成 15. HAIM: Human-AI Music Datasets for AI Music Production T 7.5分 前50% - 16. Spiking and Event-driven Neuromorphic Mamba Models for 7.5分 前50% #语音识别 17. JenBridge: Adaptive Long-Form Video Soundtracking acros 7.3分 前25% #音乐生成 18. MelT: GEMM-Native NDFT for Efficient Single-Stage Audio 7.3分 前50% #信号处理基础 19. Description and Discussion on DCASE 2026 Challenge Task 7.2分 前50% #无监督学习 20. SALSA: Speech Aware LLM Adaptation via Learned Steering 7.2分 前25% #语音识别 21. Advancing Electrolaryngeal Speech Enhancement Through S 7.1分 前50% #语音增强 22. DUET: Unified Dual-Space Emotion Control for Diffusion 7.1分 前25% #语音合成 23. When Tabular Foundation Models Transfer Across Modaliti 7.1分 前50% #音频分类 24. Echo: A Joint-Embedding Predictive Architecture for Spe 7.0分 前50% #语音识别 25. AnyMo: Scaling Any-Modality Conditional Motion Generati 7.0分 前50% #多模态模型 26. Kinship Verification Using Voice 6.9分 前50% #声纹识别 27. Quality Audio Prototyping: a prototype system for unifi 6.9分 前50% #音频检索 28. A Lightweight Slot-Attention Framework for Multi-Instru 6.7分 前50% #音乐信息检索 29. A 1000-hour EEG-EMG-audio dataset of Japanese speech pr 6.5分 前50% - 30. DAStatFormer: A Hybrid Multibranch Transformer with Sta 6.4分 前50% #音频事件检测 31. Parameter-efficient Dual-encoder Architecture with Diff 6.4分 前25% #音频分类 32. Beyond the Mouth: Upper-Face Affective Cues in Audiovis 5.5分 前50% #语音识别 33. SN-WER: Script-Normalized WER for Multi-Script Indic AS 5.3分 前50% #语音识别 34. Privacy-preserving Prosody Representation Learning 4.9分 前50% #自监督学习 35. AI Slop or AI-enhancement? Student perceptions of AI-ge 3.7分 后50% - 📋 论文列表 🥇 Project SPARROW and the Future of Conservation Technology 10.0/10 | 创新 2.0/2 | 严谨 1.5/1.5 | 实验 1.5/1.5 | 清晰 1.0/1 | 影响 1.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 1.5/1.5 ...

2026-06-02 · 更新于 2026-06-19 · 21 min · 4469 words

3DAE: Binaural Quality Assessment for Audio Novel View Synthesis with Spatial Maps and Benchmark

📄 3DAE: Binaural Quality Assessment for Audio Novel View Synthesis with Spatial Maps and Benchmark #音频质量评估 #基准测试 ✅ 6.5/10 | 前50% | #音频质量评估 | #基准测试 | arxiv 学术质量 6.5/7 | 影响力 6.0/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 作者:Jialu Xu, Yifan Zhou (共同一作) 机构:滑铁卢大学 💡 毒舌点评 这篇论文解决了一个真实存在的痛点:现有全局指标(如 RMSE)掩盖了错误来源,让模型调优如同盲人摸象。提出的框架在诊断性和可视化上做得不错,尤其是“警告感知”的逻辑是个贴心设计,避免将时间偏移误诊为频谱问题。然而,作为一篇工具论文,其技术深度和实验广度都稍显不足。框架的核心是多个误差指标的“打包”与一个启发式的归因规则,缺乏理论上的突破。实验部分仅在一个模型(ViGAS)和两个数据集上进行了演示,虽然展示了问题,但说服力有限。最大的遗憾是未开源代码,这让一个以“基准测试”为名的工作大打折扣——谁来用你的基准?此外,讨论部分有些自说自话,与传统指标的对比停留在定性层面,缺乏定量的对比实验。总的来说,它是一个有用的工具雏形,但距离成为一个被广泛采纳的“标准”还有相当距离。 📌 核心摘要 本文针对音频新视角合成(Audio Novel View Synthesis)模型评估中全局指标(如波形 RMSE、STFT 误差)无法定位和解释双耳预测误差具体来源的问题,提出了一个全参考的诊断框架。该框架包含两个核心组件:1)3DAE Map:一个交互式的三维时频诊断工具,可生成包括幅度、ILD、IPD、时间对齐、响度、高频损失在内的多种误差图。2)3DAE Bench:一个模型无关的基准测试系统,可自动计算多维误差分数向量,识别主导故障模式(如时间偏移、ILD 失配),并输出包含“警告”的分析报告,以避免将严重的时间或响度偏差错误归因于频谱误差。实验使用 ViGAS 模型在 Replay-NVAS(真实场景)和 SoundSpaces-NVAS(合成场景)数据集上进行评估,揭示了同一模型在不同数据集上主导故障模式的差异(时间偏移 vs. ILD 失配),证明了单一全局指标的不足。 🔗 开源详情 代码:论文中未提供任何代码链接或仓库。尽管详细描述了 3DAE Bench 的设计和流程,但未提供可执行代码。 模型权重:论文中未提及提供 ViGAS 或其他模型的权重下载链接。实验使用的是开源模型 ViGAS 的输出。 数据集:论文中引用了两个开源数据集,但未在文中提供直接的下载链接。获取这些数据集需要查阅对应的原始论文。 Replay-NVAS [17] SoundSpaces-NVAS [6] Demo:论文中未提及在线演示或本地可运行的 Demo。 复现材料:论文中未提供。尽管方法部分足够详细,理论上可以复现核心算法,但未提供训练配置、检查点、环境配置或可直接运行的脚本。可视化界面(附录 A)的具体实现代码也未提供。 论文中引用的开源项目: ViGAS [5]:论文使用了该模型的输出进行评估,但未提供其代码或主页链接。 Replay-NVAS [17]:论文引用了该数据集,但未提供链接。 SoundSpaces-NVAS [6]:论文引用了该数据集,但未提供链接。 3D Gaussian splatting [10]:仅作为类比提及,未提供链接。 其他在相关工作中引用的项目(如文献 [2], [3], [4], [7], [8], [11], [12], [13], [14], [16]),论文中均未提供对应的开源项目链接。 🏗️ 方法概述和架构 本文提出的方法是一个由诊断可视化工具(3DAE Map)和基准测试系统(3DAE Bench)构成的全参考评估框架。其核心设计遵循“验证-诊断-评分-归因”的流程,旨在系统性地揭示双耳预测错误的具体来源。 ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 464 words

A Unified and Reproducible Experimentation Framework for Speech Understanding

📄 A Unified and Reproducible Experimentation Framework for Speech Understanding #语音识别 #语音合成 #语音情感识别 #语音翻译 #低资源 #基准测试 📝 5.5/10 | 前50% | #语音识别 | #语音合成 | #语音情感识别 #语音翻译 | arxiv 学术质量 5.5/7 | 影响力 5.0/2 | 可复现性 1.5/2 | 置信度 中 👥 作者与机构 论文作者来自上海交通大学X-LANCE实验室、南京大学、杭州电子科技大学、香港中文大学(深圳)以及AISpeech Ltd。主要联系人为上海交通大学的Peng Du和Kai Yu。 💡 毒舌点评 这篇工作本质上是一份详尽的“实验工具使用说明”和“初步评测报告”,而非一篇技术方法论或系统性突破的论文。它正确地指出了语音理解领域评测标准不统一、结果不可比和训练难复现的痛点,但给出的解决方案——一个评测框架和一套转换脚本——更像是一个工程团队或社区维护的“基础设施”,而非NeurIPS级别论文应有的理论或算法贡献。核心“创新”在于“统一”和“标准化”,但这些都是朴素且早该做的事情。最大的亮点是那个“智能体辅助转换流水线”,这听起来很时髦,但论文里只用了两个模型做了个“概念验证”,说服力严重不足。整篇论文读起来像是一个大型项目README的学术化版本,充满了链接、格式说明和“我们发布了…”的宣告。给5.5分,是对其指出正确问题并迈出第一步的鼓励,但其学术贡献的深度和广度远未达到顶会论文的标准。 📌 核心摘要 针对语音理解领域模型评估标准不统一、结果不可比以及训练过程难以复现的问题,本文提出了一个名为SURE的统一实验框架。该框架通过三个核心赛道进行设计:1) 面向真实场景的前端语音任务压力测试(Track I);2) 全栈语音理解能力的横向对比评估(Track II);3) 通过智能体辅助的代码转换流程,实现基于统一协议和开源数据的受控从头训练初步探索(Track III)。框架提供了统一的预测格式、归一化方法、评分脚本及动态的相对性能评分(RPS)指标。实验发现,在干净条件下级联管道在核心感知任务上仍有竞争力,情感识别是普遍挑战,且初步的受控训练结果显示不同模型在各任务上表现与其设计重点相关。 🔗 开源详情 代码: 项目主页:https://sure-eval-framework.github.io/speechllm_series/ 统一评估流水线:https://anonymous.4open.science/r/evaluation-pipeline-839C 代理辅助训练转换流水线:https://anonymous.4open.science/r/ReproAgent-9898 模型权重:论文中未提及开源模型权重。 数据集:论文中提及了多个开源数据集(VoxPopuli-en, AISHELL-5, AMI, AliMeeting, CS-Dialogue, KeSpeech, ContextASR, LibriSpeech, AISHELL-1, CoVoST2, IEMOCAP, MELD, SLURP, MMSU-Reason),并指出测试和训练套件已发布在ModelScope:https://modelscope.cn/datasets/SUREBenchmark/SURE_Test_Suites。 Demo:论文中未提及。 复现材料:论文未提供具体的训练配置、检查点或附录链接。但论文详细描述了代理辅助转换流程,该流程可将论文和代码转换为可运行的swift训练流程,并提供版本化的转换计划和验证报告。 论文中引用的开源项目: meeteval:用于计算DER和cpWER的后端工具。 sacrebleu:用于计算BLEU和chrF2的工具。 swift:用于可控训练的开源框架。 (注:以上工具在论文脚注中提供了链接) 🏗️ 方法概述和架构 SURE是一个端到端的实验套件,其核心架构分为统一评估流水线和智能体辅助训练转换流水线两大部分。 ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 535 words

AnchorSteer: Self-Discovered Concept Injection for Structure-Preserving Music Editing

📄 AnchorSteer: Self-Discovered Concept Injection for Structure-Preserving Music Editing #扩散模型 #自监督学习 #音乐生成 🔥 8.6/10 | 前50% | #音乐生成 | #自监督学习 | #扩散模型 | arxiv 学术质量 5.3/7 | 影响力 1.6/2 | 可复现性 1.7/2 | 置信度 高 👥 作者与机构 作者: Chih-Heng Chang, Keng-Seng Ho, Chih-Yu Tsai, Kuan-Lin Chen, Yi-Hsuan Yang, Jian-Jiun Ding 机构: National Taiwan University 📌 核心摘要 本文针对基于扩散模型的音乐编辑任务中存在的“语义编辑能力”与“结构保真度”之间的根本性矛盾,提出了AnchorSteer框架。该框架通过显式解耦并协同两种机制来解决此矛盾:1) 结构锚定:利用预训练的MuseControlLite适配器,注入显式的旋律、节奏等结构条件,严格约束生成过程的时间对齐和结构骨架。2) 语义引导:提出一种自监督方法,从预训练扩散模型的内部隐藏状态空间(h-space)中,无需人工标注数据,自动发现并学习可解释的“概念向量”(如“钢琴音色”或“爵士风格”)。这些概念向量被封装成即插即用的注入模块,在推理时与结构锚定器协同工作,向模型隐藏层提供额外的语义驱动力。论文还设计了两种注入变体:非条件注入(静态向量,更利于结构保真)和条件注入(基于当前隐藏状态的轻量网络,在强锚定下实现更鲁棒的语义迁移)。在ZoME-Bench数据集上的实验表明,AnchorSteer(尤其是条件注入变体)在语义编辑强度(GAP分数)上显著优于所有基线,同时保持了与强结构锚定方法相当或可接受的结构保真度。主观试听测试也证实其在目标属性匹配度上表现最佳。 🔗 开源详情 代码:https://github.com/hengtsune1024/AnchorSteer 模型权重:论文中未提及具体的模型权重链接。论文指出其骨干模型为预训练的Stable Audio Open (SAO),但未提供该模型权重的直接下载链接。 数据集:使用了ZoME-Bench数据集进行评估,但论文中未提供该数据集的具体下载链接。 Demo:论文中未提及在线演示链接。 复现材料:论文中未提及独立的复现材料包(如完整的训练配置、检查点等)。论文在“Implementation details”(5.4节)中提供了详细的实验设置,包括优化器、学习率、训练轮数等超参数。 论文中引用的开源项目: Stable Audio Open (SAO):论文中未提供链接。 Hugging Face Diffusers库:论文中未提供链接。 MuseControlLite:论文中未提供其官方实现的链接。 LAION-CLAP(用于CLAP评估):论文中提及了具体的模型检查点music_audioset_epoch_15_esc_90.14.pt,但未提供下载链接。 DDPM-Friendly:论文中未提供链接。 SDEdit:论文中未提供链接。 MusicMagus:论文中未提供链接。 🏗️ 方法概述和架构 AnchorSteer框架的核心架构是“结构锚定”与“语义引导”的协同,如论文图1和图4所示。其整体编辑流程(图4)分为两个并行路径处理源音频:一条路径进行结构特征提取(如通过CQT提取旋律、通过节拍检测提取节奏),形成条件序列 \(C_{struct}\),并输入到MuseControlLite适配器;另一条路径则通过预优化的概念注入模块 \(f_l^*\)。两条路径的输出共同作用于预训练扩散模型(SAO) 的隐藏层,引导去噪过程。 ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 529 words

Audio Pirates: Black-box Audio Watermark Removal via Diffusion Priors

📄 Audio Pirates: Black-box Audio Watermark Removal via Diffusion Priors #扩散模型 #生成模型 ✅ 7.4/10 | 前25% | #扩散模型 | #生成模型 | arxiv 学术质量 4.3/7 | 影响力 1.5/2 | 可复现性 1.6/2 | 置信度 高 👥 作者与机构 Lingfeng Yao (University of Houston),Xincong Zhong (University of Houston),Chenpei Huang (University of Houston),Xuandong Zhao (Tsinghua University),Hanqing Guo (University of Houston),Aohan Li (University of Houston),Jiang Liu (Nanjing University of Posts and Telecommunications),Tomoaki Ohtsuki (Keio University),Miao Pan (Texas A&M University) ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 522 words

Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS

📄 Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS #流式处理 #扩散模型 #Transformer #语音合成 🔥 10/10 | 前25% | #语音合成 | #Transformer | #流式处理 #扩散模型 | arxiv 学术质量 7/7 | 影响力 2/2 | 可复现性 2/2 | 置信度 高 👥 作者与机构 Deokjin Seo: Resemble AI(与Gangin Park贡献均等) Gangin Park: 首尔国立大学(与Deokjin Seo贡献均等) Kihyun Nam: KAIST 论文标注了Deokjin Seo和Gangin Park的贡献均等(† footnote 1)。 💡 毒舌点评 这篇工作切入点很聪明,直击了块扩散方法在离散语音token上“水土不服”的痛点——静音token这类高频但低信息的“钉子户”严重干扰并行生成。提出的先验校准评分(PMI)和早期解码调度(ED)是实用的推理时补丁,无需改模型架构就能用,这点工程上很讨巧。但细看实验,几个关键点被包装得有点“圆滑”:1)在“标准”基准(LibriSpeech-PC, Seed-TTS)上,PMI相比更简单的TS调度(即OmniVoice的方法)在质量上几乎没有提升,其核心价值变成了为ED提供“可靠信号”——这更像是一个特性,而非一个强创新。2)在EmergentTTS-Eval上的10.6%相对WER提升是亮点,但这个基准是否足够主流和公允?论文未提供与OmniVoice等强基线在此基准的对比数据,使得提升幅度难以被客观衡量。3)宣称的“首个结合块扩散和原生流式推理的零样本TTS”定位准确,但与强大的AR流式系统(如Qwen3-TTS)相比,在TTFP上只是“具有竞争力”,而质量(如SIM-o)常落后于OmniVoice等NAR系统。说白了,这是一篇“工程上很不错,但科学上新瓶装旧酒”的论文,主要贡献是把已知技术组合并调优到了一个可用的状态,缺乏对块扩散在语音领域失败模式的更根本性解决方案。 📌 核心摘要 论文标题: Chatterbox-Flash: Prior-Calibrated Block Diffusion for Streaming Zero-Shot TTS 论文ID: arXiv 2605.30748 核心问题: 如何在不牺牲质量的前提下,实现支持流式推理的高速零样本文本到语音(TTS)合成。现有自回归(AR)模型延迟高,而非自回归(NAR)模型不支持原生流式。直接将块扩散(Block Diffusion)解码应用于离散语音token会导致质量下降,原因是语音codec的token分布高度长尾(如静音token占比极大),干扰了并行位置选择。 核心方法: 模型架构: 通过微调一个预训练的自回归T3解码器(来自Chatterbox-TTS),将其转换为块扩散解码器。采用混合注意力掩码:对条件上下文\(\mathbf{c}\)为因果注意力,在每个语音块内为双向注意力,块间为因果注意力,从而保留流式能力。训练使用token-shift去噪损失和互补掩码策略。 推理时技术(无需架构改动): 先验校准评分(Prior-Calibrated Scoring): 使用点互信息(PMI)分数 \(s_i^{(k)} = \log p_i^{(k)}(\hat{x}_i^{(k)}) - \log \bar{p}(\hat{x}_i^{(k)})\) 来排序和选择要解掩的位置。其中 \(\bar{p}\) 是通过一次无条件前向传播计算的无条件块先验概率。此举旨在抑制长尾高频token(如静音)的偏差。 早期解码调度(Early-Decoding Schedule): 基于校准后的PMI分数,自适应地提前终止每个块的去噪迭代步骤。具体通过设置阈值 \(\theta_k\),并在不同步数 \(k\) 用动态分位数 \(q_k\) 控制。 主要结果: 质量: 在标准零样本TTS基准(LibriSpeech-PC, Seed-TTS)上,Chatterbox-Flash的质量(SIM-o, WER, UTMOS)匹配或超越了部分AR和NAR基线(如与Chatterbox相比有提升)。在更具挑战性的EmergentTTS-Eval上,PMI带来了约10.6%的相对WER提升。 效率: 实现了显著更低的实时因子(RTF,相比强AR基线Qwen3-TTS降低约2.7倍至3.8倍)和具有竞争力的时间首包(TTFP)。支持原生流式推理,这是许多NAR基线(如OmniVoice)不具备的。 技术验证: 先验校准评分为早期解码提供了可靠的置信度信号,允许在约20%的步骤节省下几乎不损失质量(WER)。PMI的主要优势在质量饱和的基准上不直接体现,而在于提供可靠的置信度信号。 关键贡献: 首个结合块扩散和原生流式推理的零样本TTS模型。 提出先验校准评分,一种简单有效的推理时校正方法,用于抑制长尾token偏差。 提出早期解码调度,自适应降低计算量。 在质量和流式效率上取得了优异的平衡。 局限性与未来工作: 在训练中未对数据源进行消融;当块大小(D)过大(\(\geq128\))时模型会崩溃;在质量饱和的基准上,先验校准评分与直接使用置信度的基线方法差异不大,其优势主要体现在为早期解码提供信号和在难样本上。 🔗 开源详情 代码:https://github.com/resemble-ai/chatterbox-flash (论文中明确提供) 模型权重:论文中未提及模型权重的具体下载链接。论文说明模型从预训练的 Chatterbox-TTS 检查点初始化。 数据集: 论文中列出了详细的训练数据集组成(公开和私有),见表6。 公开数据集名称包括:MLS-English, Emilia (en, part 1), Loquacious, GLOBE, LibriTTS-R, HiFi-TTS, EARS, Expresso。 评估使用的基准测试为 LibriSpeech-PC test-clean 和 Seed-TTS test-en。 未提供数据集的具体下载链接或开源协议。 Demo:论文中未提及在线演示链接。 复现材料:论文在附录(Appendix E)中提供了详细的实现细节,包括: 推理引擎基于 FlashInfer。 自定义注意力掩码实现(附录A)。 训练超参数(学习率、批大小、精度等,见3.2节)。 推理配置参数(块大小 D、去噪步数 K、调度参数 \(\tau\)、引导比例 w、采样温度 T 等,见3.2节)。 使用 CUDA Graph 进行推理加速。 论文中引用的开源项目: Chatterbox-TTS:https://github.com/resemble-ai/chatterbox (基础模型,论文中明确提供) FlashInfer:https://github.com/flashinfer-ai/flashinfer (用于推理注意力内核和键值缓存管理,论文中明确提供) MagiAttention:https://github.com/SandAI-org/MagiAttention (用于高吞吐量的长序列注意力,论文中明确提供) 🏗️ 方法概述和架构 Chatterbox-Flash是一个两阶段的零样本TTS系统,其核心创新在于将第一阶段的自回归解码器改造为支持流式生成的块扩散解码器。 ...

2026-06-01 · 更新于 2026-06-19 · 1 min · 190 words

DOA: Training-Free Decoder-Only Attention Policy for Long-Form Simultaneous Translation with SpeechLLMs

📄 DOA: Training-Free Decoder-Only Attention Policy for Long-Form Simultaneous Translation with SpeechLLMs #语音翻译 #流式处理 #多模态模型 ✅ 7.8/10 | 前25% | #语音翻译 | #流式处理 | #多模态模型 | arxiv 学术质量 5.7/7 | 影响力 1.6/2 | 可复现性 0.5/2 | 置信度 高 👥 作者与机构 论文作者是Sara Papi和Luisa Bentivogli,隶属于意大利的Fondazione Bruno Kessler (FBK)。 💡 毒舌点评 这篇论文提出了一个简单而有效的思路:既然decoder-only的SpeechLLMs没有显式的交叉注意力,那能不能从自注意力中“借用”对齐信号来做流式决策?答案是“可以”,而且效果还不错。核心思想(从自注意力矩阵中截取前S列作为代理交叉注意力)直观且易于实现,实验也证明了其在长时序翻译上的有效性,甚至优于一些AED基线。然而,方法的“新颖性”更多体现在“首次将”这个概念应用于该架构,而非方法论上的重大突破。实验虽然充分,但局限性(如单一源语言、缺乏计算延迟分析)限制了结论的普适性。总体是一篇扎实的、解决实际问题的系统论文,但离改变范式还有距离。 📌 核心摘要 本文针对decoder-only架构的语音大语言模型(SpeechLLMs)在长时序同步语音翻译(SimulST)中的应用,提出了一种名为解码器注意力策略(DOA)的无训练方法。该方法的核心思想是,从decoder的自注意力权重中提取一个代理交叉注意力矩阵,用以推断生成文本与源音频的对齐关系,并基于此对齐信号动态决策读取和生成时机。研究旨在回答一个关键问题:decoder-only模型的自注意力是否能像encoder-decoder模型的交叉注意力一样,提供足够稳定的对齐信号以指导流式推理?在Phi4-Multimodal和Qwen3-Omni两个开源SpeechLLMs上的实验表明,DOA策略能够有效地支持低延迟的长时序SimulST,生成质量接近离线解码,且无需对模型进行任务特定的重训练。此外,研究发现基于标点符号的文本历史选择策略在decoder-only架构上优于传统的固定词数策略。 🔗 开源详情 代码:https://github.com/hlt-mt/simulstream (Apache 2.0 License) 模型权重: Phi4-Multimodal: https://huggingface.co/microsoft/Phi-4-multimodal-instruct Qwen3-Omni: https://huggingface.co/Qwen/Qwen3-Omni-30B-A3B-Instruct SeamlessM4T (基线): https://huggingface.co/facebook/hf-seamless-m4t-medium 数据集: MCIF (测试集):作为IWSLT评测数据集公开,论文中未提供直接链接。 ACL 60/60 (开发集):作为IWSLT评测数据集公开,论文中未提供直接链接。 复现材料:论文在附录A中提供了详尽的实验设置��包括所有模型的具体版本、权重、推理提示模板、超参数(\(f\)值范围、音频块大小、最大音频长度、最大生成令牌数、最大文本历史长度)以及硬件环境信息。 论文中引用的开源项目: SimulStream toolkit: https://github.com/hlt-mt/simulstream (推理框架) OmniST-Eval: https://github.com/CTTAT/OmniST-Eval (用于计算LongYAAL, LongLAAL) StreamAtt: (基线方法,原始代码库未在本文中提供直接链接) HuggingFace Transformers: https://github.com/huggingface/transformers (实验所用版本见表1) 🏗️ 方法概述和架构 DOA(Decoder-Only Attention)是一个无训练的流式推理策略,旨在将现成的decoder-only SpeechLLMs应用于长时序同步语音翻译(SimulST)。其核心是将解码器的自注意力(self-attention)机制重新解释为源-目标对齐的信号,并基于此对齐信号构建一个读写决策策略。该方法包含两个主要部分:流式策略设计和长时序适应。 ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 570 words

Escaping the Linearity Trap: Manifold Detours for Black-Box Adversarial Attacks on Singing Audio Deepfake Detection

📄 Escaping the Linearity Trap: Manifold Detours for Black-Box Adversarial Attacks on Singing Audio Deepfake Detection #自监督学习 🔥 9.7/10 | 前25% | #自监督学习 | #自监督学习 | arxiv 学术质量 6.2/7 | 影响力 1.5/2 | 可复现性 2/2 | 置信度 高 👥 作者与机构 作者: Yifan Liao, Yule Liu, Zhen Sun, Zongmin Zhang, Yupeng He, Jiaheng Wei, Xinhu Zheng, Xinlei He (通讯作者) 机构: 武汉大学, 香港科技大学(广州) 💡 毒舌点评 这篇工作切入点精准,直击SSL-based SVDD在对抗攻击下的“虚假鲁棒性”问题,并将其归因于“线性陷阱”。作者提出的MARS框架,从优化目标(从跨界到操纵证据)和优化方法(从直线到迂回)两个层面进行设计,逻辑自洽,实验也相当全面。然而,将一项黑盒攻击工作标榜为“安全评估框架”有些拔高,这本质上还是攻击方法的研究。最大的硬伤在于理论部分:“线性陷阱”的数学形式化严重不足,目前主要依赖定义、角度度量和低维示意图,这在顶会审稿人眼中是显著的弱点。双层优化的收敛性和复杂度分析也是空白。实验虽然全面,但消融研究仍有可深入之处,例如对artifact锚点取多个代理模型平均的影响分析缺失。论文写作精良,图表清晰,但核心理论的深度与其标题“Escaping the Linearity Trap”所宣称的野心并不完全匹配。 📌 核心摘要 本文针对基于自监督学习(SSL)的歌声深度伪造检测(SVDD)系统,提出了一种名为MARS的元对抗攻击框架。论文首先指出,现有攻击在SSL-based SVDD上表现不佳,并非因为后者固有鲁棒性,而是由于现有方法存在“线性陷阱”:优化目标局限于跨越代理模型决策边界,优化方向则被代理模型的主导梯度所束缚。为逃离此陷阱,MARS在优化目标上,采用基于Neyman-Pearson引理启发的假设检验框架,构建“推拉”证据比代理目标,利用从预训练SSL空间提取的“自然锚点”和从微调检测器空间提取的“artifact锚点”;在优化方法上,采用双层优化策略:内层通过切向排斥扰动探索以逃离直接路径,外层在探索点上进行基于证据的引导。在CtrSVDD等数据集上的大量实验表明,MARS在多种SSL骨干网络与检测头组合的黑盒设置下,均取得了显著高于现有最先进方法的攻击成功率(平均ASR达89.36%),揭示了当前SSL-based SVDD系统面临严重漏洞。 ...

2026-06-01 · 更新于 2026-06-19 · 3 min · 592 words