WavFlow: Audio Generation in Waveform Space

📄 WavFlow: Audio Generation in Waveform Space #音频生成 #流匹配 #音视频 #音频大模型 #数据集 ✅ 6.7/10 | 前25% | #音频生成 | #流匹配 | #音视频 #音频大模型 | arxiv 学术质量 5.7/8 | 影响力 0.5/1 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Feiyan Zhou (Meta AI) 通讯作者:未明确说明(论文中仅标注*为Corresponding author,但未明确指出是哪位作者) 作者列表:Feiyan Zhou (Meta AI), Luyuan Wang (Meta AI), Shoufa Chen (Meta AI), Zhe Wang (Meta AI), Zhiheng Liu (Meta AI), Yuren Cong (Northeastern University), Xiaohui Zhang (Northeastern University), Fanny Yang (Northeastern University), Belinda Zeng (Northeastern University)。论文中明确标注Northeastern University为合作机构。 💡 毒舌点评 这篇论文勇敢地挑战了音频生成领域的“潜空间教条”,证明了在原始波形空间生成高质量音频是可行的,其技术路线(波形分块+幅度提升+xx预测)简洁有效,结果也颇具说服力。然而,其最大的“资产”——号称5000万样本的专有数据集——恰恰是最大的复现壁垒,使得论文的核心结论更像是一次强大的工业展示而非可广泛复现的学术研究。此外,论文声称与SOTA“匹配或超越”,但在关键的数据规模前提下,这一结论的公平性和说服力需要打上问号。 ...

2026-05-19 · 更新于 2026-05-19 · 3 min · 524 words

SpeakerLLM: A Speaker-Specialized Audio-LLM for Speaker Understanding and Verification Reasoning

📄 SpeakerLLM: A Speaker-Specialized Audio-LLM for Speaker Understanding and Verification Reasoning #说话人验证 #音频大模型 #音频理解 #多粒度表征 #结构化推理 #多任务学习 ✅ 7/10 | 前25% | #说话人验证 | #音频大模型 | #音频理解 #多粒度表征 | arxiv 学术质量 5.6/8 | 影响力 0.6/1 | 可复现性 0.8/1 | 置信度 高 👥 作者与机构 第一作者:KiHyun Nam (韩国科学技术院 KAIST) 通讯作者:Joon Son Chung (韩国科学技术院 KAIST) 作者列表:KiHyun Nam (韩国科学技术院 KAIST), Jungwoo Heo (首尔大学), Siu Bae (韩国科学技术院 KAIST), Ha-Jin Yu (首尔大学), Joon Son Chung (韩国科学技术院 KAIST, 通讯作者) 💡 毒舌点评 这篇论文的动机清晰,针对音频优先智能体时代通用Audio-LLM在说话人理解上的不足,提出了一个专用的框架。其核心亮点在于通过分层说话人分词器整合了互补的多粒度说话人表征,并设计了结构化、可审计的验证推理目标,将传统二分类问题转化为包含环境、剖面和决策链的自然语言推理过程,这在方法论上是新颖的。然而,其主要短板在于实验的说服力不足:虽然在受控的、规模有限的基线(通用Audio-LLM)上展示了优势,但缺乏与现代端到端说话人验证模型(如基于ECAPA-TDNN或ResNet的模型)在公认的大规模标准测试集(如VoxCeleb2测试集、VoxSRC)上的直接性能对比。这使得其“说话人专用”模型的实际性能水平(是超越还是不及当前SOTA)成疑,更像是一次在特定设定下的方法验证。此外,结构化推理模板的刚性可能限制了其在更复杂、开放场景下的泛化能力。 ...

2026-05-15 · 更新于 2026-05-19 · 3 min · 621 words

NAACA: Training-Free NeuroAuditory Attentive Cognitive Architecture with Oscillatory Working Memory for Salience-Driven Attention Gating

📄 NAACA: Training-Free NeuroAuditory Attentive Cognitive Architecture with Oscillatory Working Memory for Salience-Driven Attention Gating #音频事件检测 #音频大模型 #长音频处理 #零样本 ✅ 7.0/10 | 前25% | #音频事件检测 | #音频大模型 | #长音频处理 #零样本 | arxiv 学术质量 7.0/8 | 影响力 0.85/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Zhongju Yuan(根特大学) 通讯作者:未说明 作者列表:Zhongju Yuan(根特大学), Geraint Wiggins(根特大学), Dick Botteldooren(根特大学) 💡 毒舌点评 这篇论文提出了一个名为NAACA的框架,其核心是受神经科学启发的振荡工作记忆(OWM)模块。该设计巧妙地将听觉显著性检测重构为一个无需训练的在线滤波问题,在暴力音频检测任务上取得了显著的性能提升和计算节省。生物启发的理论基础和严格的数学证明是其最大亮点。然而,该框架的性能上限完全受制于上游预训练编码器(PANN)和音频语言模型(AudioQwen)的能力,且其在单一、偏“电影化”的数据集(XD-Violence)上的评估,以及仅以定性方式展示的通用性(USoW),使其更像一个针对特定任务精心设计的“门控插件”,而非一个经过充分验证的普适性架构革新。 📌 核心摘要 这篇论文旨在解决当前音频语言模型(ALM)在处理长音频流时面临的“注意力稀释”问题——即模型的注意力容易被持续存在的背景模式所占据,从而遗漏后期出现的稀有但关键的声音事件。为此,论文提出了一种名为NAACA的无需训练的框架,其核心是一个受神经科学启发的“振荡工作记忆”(OWM)模块。OWM将预训练编码器输出的类别概率转化为频率调制的振荡驱动信号,并在一个二维网格上维持动态的吸引子状态,通过监测系统总能量的波动来自适应地检测声音场景的“显著性变化”。仅当检测到显著变化时,才将对应的原始音频片段送入ALM进行语义推理。与基于统计或表示学习的传统漂移检测方法不同,OWM不依赖长期历史数据缓存。实验表明,在XD-Violence数据集上,NAACA将AudioQwen的平均精度(AP)从53.50%提升至70.60%,同时通过门控机制减少了约40%的ALM调用次数。在USoW数据集上的定性分析展示了OWM检测新事件、抵抗瞬态暂停以及捕捉子类别变化的能力。论文的局限性在于其性能受限于所选编码器和ALM的固有能力,且当前定量评估主要集中在异常检测任务上。 🔗 开源详情 代码:https://github.com/zjyuan1208/NAACA-Oscillatory-Working-Memory 模型权重:论文中未提供专用模型权重链接。文中使用的预训练模型如PANN和AudioQwen为公开模型,但论文未提供其具体的权重下载链接或版本号。 数据集:论文中未提供专用数据集链接。文中使用的数据集XD-Violence和Urban Soundscapes of the World (USoW) 均为已发表的公开数据集。 Demo:论文中未提及 复现材料:论文的附录B提供了完整的载波频率分配与网格映射策略、附录C提供了主检测算法(C.1)和自适应阈值计算算法(C.2)的伪代码、附录J提供了额外的FFT频谱分析图。这些附录内容为复现OWM模块提供了关键的算法细节和参数配置。 论文中引用的开源项目: PANN:论文中未提供链接(知名的预训练音频特征提取模型)。 AudioQwen:论文中未提供链接(作为ALM基线使用的模型)。 HL-Net:论文中未提供链接(作为监督音频基线被引用)。 AVadCLIP:论文中未提供链接(作为监督音频基线被引用)。 S3R:论文中未提供链接(作为监督视频基线被引用)。 VadCLIP:论文中未提供链接(作为监督视频基线被引用)。 Holmes-VAU:论文中未提供链接(作为监督视频基线被引用)。 TRACE:论文中未提供链接(作为零样本视频基线被引用)。 🏗️ 方法概述和架构 NAACA是一个多阶段的、无需训练的在线音频处理流水线,旨在为音频语言模型(ALM)提供显著性门控,以实现高效、准确的长音频理解。其整体流程为:输入音频流 → 分段与编码 → 基于OWM的显著性检测 → 选择性ALM推理 → 输出语义解释。 ...

2026-05-14 · 更新于 2026-05-19 · 2 min · 362 words

Task-Aware Answer Preservation under Audio Compression for Large Audio Language Models

📄 Task-Aware Answer Preservation under Audio Compression for Large Audio Language Models #音频大模型 #长音频处理 #音频压缩 #音频问答 #模型评估 #部署优化 ✅ 6.5/10 | 前25% | #音频问答 | #音频压缩 | #音频大模型 #长音频处理 | arxiv 学术质量 6.5/7 | 选题价值 2.0/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者:Amir Ivry(Technion–Israel Institute of Technology,电气与计算机工程系) 通讯作者:Amir Ivry(aivry@ieee.org) 作者列表:Amir Ivry(Technion–Israel Institute of Technology,电气与计算机工程系) 💡 毒舌点评 这篇论文为“如何在压缩音频时保住回答正确率”这个实际问题,搭建了一套非常严谨的理论评估框架(家庭级超额风险),比简单地看平均准确率高级得多。它还煞费苦心地设计了实验来验证理论预测,比如平均指标如何“隐藏”最差情况。然而,理论很丰满,实践却骨感:论文自己用作案例的“学习型选择器”不仅在V1里训练得“早退”了,而且在V2实验中,那个理论上能省预算的“查询条件压缩”,增益忽正忽负,甚至在特定数据集(MMSU)上还帮了倒忙,让人怀疑这个“任务感知”到底有多少实战价值。最终,它更像是一份严谨的“评估方法论文”而非一个“压缩算法突破”。 📌 核心摘要 要解决什么问题:大型音频语言模型在部署时,常需压缩输入音频以降低内存和延迟。但这可能导致对某些特定类型问题的回答准确性急剧下降,而这种损害会被整体平均准确率所掩盖,存在部署风险。 方法核心是什么:提出一个任务感知的答案保留框架。该框架将压缩器的评估从“整体误差”转向“最坏查询家族的超额误差”。它形式化了家庭级超额风险(Δ_𝒬)和答案保留前沿(b_𝒬⋆),并推导出一个实用的签核协议,该协议考虑了查询家族划分、统计置信区间和解耦审计(§4, 5)。 与已有方法相比新在哪里:据作者称,这是首个将部署时的压缩预算决策与特定查询家族的答案保留明确联系起来的框架。它超越了基于平均性能或感知保真度的传统评估,引入了家庭级风险保证和查询条件压缩的理论优势分析(定理3.4),并提供了可操作的签核流程(算法1)。 主要实验结果如何:在五个音频问答基准和两个Qwen骨干模型上评估。关键发现包括: (a) 家庭级损害隐藏:数据集平均误差(Δ_avg)总是低估了最坏家族的误差(Δ_fam),差距在AudioMCQ-StrongAC上高达6.79个百分点(在关键词划分下,见表1和图1、图3)。 (b) 划分决定结论:查询家族划分的粒度(关键词、原生、语义)显著影响测得的家庭级风险差距和批准的压缩预算(表13)。 (c) 查询条件压缩是情景依赖的:理论上可节省预算(定理3.4),但在实践中仅在AudioMCQ-StrongAC数据集上表现出稳定正增益(表3和表20、21),在MMSU的某些任务(如对话轮次计数、语调感知)上甚至有害(表28、图13,§I.11)。 (d) 查询条件压缩器在使用查询:解耦审计(§5.1)表明,在AudioMCQ-StrongAC上,查询条件选择器的查询使用对下游答案保留前沿有显著影响(表4)。 实际意义是什么:为音频大模型的部署提供了一套更可靠的压缩接口签核流程。它强调了报告家庭级性能、审慎选择查询划分的重要性,并指出了查询条件压缩策略的适用边界和局限性。 主要局限性是什么:(a) 实验依赖特定类型的“硬分块保留”压缩器和启发式查询家族划分(§H.2,§G.6)。(b) 作为案例的学习型选择器在V1中训练不完整(早停,§H.3),其查询条件压缩优势在实践中不稳定(§I.7)。(c) 理论假设查询在编码时可用,且与音频独立,这不适用于离线归档压缩(§Limitations)。(d) 论文未完全解耦信息丢失与下游模型能力不足的影响(仅部分估计了模型类差距,§J.5)。 🔗 开源详情 代码:论文中未提及代码链接。 模型权重:论文中未提供(论文引用了 Qwen2-Audio-7B-Instruct [3] 和 Qwen2.5-Omni-7B [25],但未提供具体下载链接)。 数据集: DCASE 2026 dev: https://dcase-repo.github.io/dcase2026/challenge/task_audio_dependent_question_answering/dev/ AudioMCQ-StrongAC: https://huggingface.co/datasets/voidful/AudioMCQ (论文中引用了 [9],并指出评测集为 “StrongAC” 子集) MMSU: https://huggingface.co/datasets/moonwu/MMSU (论文引用 [24]) MMAR: https://huggingface.co/datasets/juliusfrost/MMAR (论文引用 [15]) BigBench Audio: https://huggingface.co/datasets/juliusfrost/bigbench-audio (论文引用 [20, 21]) Demo:论文中未提及。 复现材料:论文提供了非常详尽的附录,构成了主要的复现材料: 附录 D:扩展的问题设置和操作预算细节。 附录 E:主文所述理论的完整证明和辅助推导。 附录 F:实际估计器、不确定性聚合和坐标轴约定。 附录 G:数据集和查询家族详情。 附录 H:实验协议,包括模型、选择器架构、训练配方、评估协议和推断时压缩器配置。 算法 1:面向实践者的候选压缩器签核协议。 附录 I:包含所有次要图表、表格、消融研究和家族级分析。 附录 J:记录了不完整或可疑结果及注意事项。 论文中引用的开源项目: Qwen2-Audio: https://arxiv.org/abs/2407.10759 (论文引用 [3]) Qwen2.5-Omni: https://arxiv.org/abs/2503.20215 (论文引用 [25]) SoundStream: https://arxiv.org/abs/2107.00637 (论文引用 [28]) EnCodec: https://arxiv.org/abs/2210.13438 (论文引用 [5]) AudioLM: https://arxiv.org/abs/2208.09392 (论文引用 [2]) Gumbel-softmax: https://arxiv.org/abs/1611.01144 (论文引用 [10]) AdamW 优化器: 未提供具体链接,但为标准优化器(论文提及)。 e5-large-v2 嵌入模型:用于语义分区,但未提供具体链接(论文在 J.6 部分提及)。 Bootstrap 重采样方法:论文引用了 [12, 6, 19, 8] 等标准统计文献。 🏗️ 方法概述和架构 该论文提出的是一个评估框架和签核协议,而非一个端到端的压缩模型。其核心是定义一套方法论,用于判断一个给定的音频压缩器在特定部署配置下是否可被接受。 ...

2026-05-08 · 更新于 2026-05-19 · 4 min · 751 words

Benchmarking LLMs on the Massive Sound Embedding Benchmark (MSEB)

📄 Benchmarking LLMs on the Massive Sound Embedding Benchmark (MSEB) #音频大模型 #音频分类 #音频场景理解 #模型评估 #大语言模型 ✅ 7.0/10 | 前50% | #音频分类 | #模型评估 | #音频大模型 #音频场景理解 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Cyril Allauzen(未说明机构) 通讯作者:未说明 作者列表:Cyril Allauzen(未说明)、Tom Bagby(未说明)、Georg Heigold(未说明)、Ehsan Variani(未说明)、Ke Wu(未说明) 💡 毒舌点评 本文作为一篇系统性的基准测试论文,其亮点在于直面当前最热的“音频原生大模型”与传统“级联管道”的路线之争,利用权威的MSEB基准提供了宝贵的实证数据。然而,其主要短板在于结论略显保守和模糊——“最优方案不明确”虽然是事实,但对于寻求具体指导的研究者而言,这更像一个起点而非答案,且论文在提出新的评估范式或更精细的误差分析上似乎着墨不多。 📌 核心摘要 问题:随着能够处理音频的“音频原生”大语言模型(LLM)兴起,学术界和工业界面临一个关键选择:是用一个统一的多模态骨干网络取代以往复杂的、针对特定任务设计的音频处理流水线,还是继续沿用级联架构?目前缺乏系统性评估来指导这一架构决策。 方法:本文采用严格的经验性评估方法,在“大规模声音嵌入基准”(MSEB)的八项核心能力上,对来自Gemini和GPT系列的领先LLM进行测试,旨在量化评估其音频理解与处理效能,并检验其相对于传统专用编码器的“音频-文本对等性”。 新意:相比于早期针对特定编码器的评估,本文的新意在于将评估焦点转向新兴的、基于LLM的通用音频模型,并在同一基准下进行了大规模、多模型的横向对比。 主要结果:论文指出,尽管LLM展示了潜力,但在性能和鲁棒性上仍存在显著的“模态差距”(摘要中未提供具体数值或表格)。实验证据未能支持任何一种建模范式(音频原生 vs. 级联)具有绝对优势。 意义:为音频处理系统的架构选择提供了基于经验的参考。其结论强调,最优选择高度依赖于具体应用场景对延迟、成本、推理深度等的不同要求,有助于避免“一刀切”的技术路线讨论。 局限:核心结论(“最优方案不明确”)缺乏更强的结论性,可能无法给读者提供明确的行动指南。此外,评估的全面性(如是否覆盖所有典型音频任务、是否考虑了不同参数规模模型的表现)在摘要中未完全体现。 🔗 开源详情 代码:论文中未提及代码链接 模型权重:论文中未提及 数据集:论文中未提及(论文评估的MSEB基准测试本身为引用的第三方基准) Demo:论文中未提及 复现材料:论文中未提及 论文中引用的开源项目:未提及 🏗️ 模型架构 本文为评估性论文,核心在于评估多个已有的模型,而非提出新架构。因此,论文中未描述一个新的、统一的模型架构。其“架构”指的是被评估的各个LLM(如Gemini、GPT系列)以及作为基线的传统音频编码器。论文重点在于比较这些不同架构在统一基准(MSEB)上的表现差异。摘要中未提供架构图。 ...

2026-05-07 · 更新于 2026-05-19 · 1 min · 116 words

VocalParse: Towards Unified and Scalable Singing Voice Transcription with Large Audio Language Models

📄 VocalParse: Towards Unified and Scalable Singing Voice Transcription with Large Audio Language Models #音乐转录 #语音识别 #音频大模型 #预训练 ✅ 7.0/10 | 前25% | #音乐转录 | #音频大模型 | #语音识别 #预训练 | arxiv 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者:Yukun Chen(西安交通大学,南洋理工大学) 通讯作者:论文中未明确说明通讯作者。 作者列表:Yukun Chen(西安交通大学,南洋理工大学), Tianrui Wang(天津大学,南洋理工大学), Zhaoxi Mu(蚂蚁集团,浙江大学), Xinyu Yang(西安交通大学), EngSiong Chng(南洋理工大学) 💡 毒舌点评 亮点:将复杂的歌声转录多阶段任务优雅地统一到一个基于LALM的自回归生成框架中,其提出的“CoT式提示”策略巧妙地解决了预训练语义模型与结构化生成目标之间的冲突。 短板:模型的核心能力很大程度上继承自强大的基座模型(Qwen3-ASR),创新更多是“术”而非“道”的层面;同时,其赖以生存的训练数据(SingCrawl)虽方法开源,但数据本身和模型权重均不公开,使得论文的复现性和实用推广价值大打折扣。 📌 核心摘要 要解决什么问题:歌唱语音合成(SVS)需要大规模高质量标注数据,但人工标注成本高昂。现有的自动转录系统存在多阶段误差累积、词-音符对齐困难以及对分布外(OOD)歌唱数据泛化能力差等问题。 方法核心是什么:提出VocalParse,一个基于大型音频语言模型(LALM)的统一歌声转录框架。其核心是将转录重构为对交错(interleaved)歌词-音符序列的自回归生成。为解决交错格式破坏预训练LALM语义理解能力的问题,引入了链式思维(CoT)风格的提示策略:先生成纯歌词序列作为语义支架,再生成交错的歌词-音符序列。 与已有方法相比新在哪里:1) 统一框架:用一个自回归模型联合预测歌词、旋律及词-音符对应关系,无需复杂的多阶段流水线和后处理对齐。2) 结构化生成:交错提示序列直接编码了词与音符的层级关系。3) CoT适配策略:在保持预训练LALM强大语义解码能力的同时,实现了结构化输出的生成。4) 可扩展的数据管线SingCrawl:自动从网络爬取歌曲并生成伪标签训练数据。 主要实验结果如何:在多个歌唱数据集上达到最先进性能。在Opencpop数据集上,音频-歌词联合推理模式在音高MAE(0.35)、音符MAE(0.43)、时值MAE(0.33)和音符数量误差(0.11)上均优于ROSVOT等基线。歌词转录WER在三个数据集上与专用ASR模型Qwen3-ASR接近(Opencpop上3.79% vs 3.41%)。消融实验证明,CoT策略将WER从7.18%显著降低至3.79%;移除SingCrawl数据后,音高MAE从0.56急剧上升至0.94。下游SVS实验证明,使用VocalParse生成的伪标签训练的模型,在节奏和旋律相似度上显著优于仅使用小规模人工标注数据训练的模型。 ...

2026-05-07 · 更新于 2026-05-19 · 4 min · 643 words

Khala: Scaling Acoustic Token Language Models Toward High-Fidelity Music Generation

📄 Khala: Scaling Acoustic Token Language Models Toward High-Fidelity Music Generation #音乐生成 #自回归模型 #音频大模型 #预训练 #模型评估 ✅ 7.5/10 | 前25% | #音乐生成 | #自回归模型 | #音频大模型 #预训练 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Jiafeng Liu (中央音乐学院) 通讯作者:Maosong Sun (清华大学) 作者列表:Jiafeng Liu (中央音乐学院), Yuanliang Dong (中央音乐学院), Hongjia Liu (中央音乐学院), Yuqing Cheng (中央音乐学院), Zhancheng Guo (中央音乐学院), Huijing Liang (中央音乐学院), Wenbo Zhan (中央音乐学院), Yuming Sun (中央音乐学院), Xiaobing Li (中央音乐学院), Feng Yu (中央音乐学院), Maosong Sun (清华大学) 💡 毒舌点评 亮点:大胆摒弃了音乐生成中常见的“语义token+声学解码器”或“扩散模型”的双阶段异构范式,提出并验证了在一个统一的64层RVQ声学token层次中完成从结构到高保真度生成的可能性,这种思路的简洁性和统一性本身就是一个重要的理论贡献。 短板:虽然人类评估结果亮眼,但论文避开了与当前最强开源模型(如MusicGen, Udio等)在标准客观指标(如FAD, CLAP score)上的直接对比,使得“开源最强”的宣称在客观比较维度上显得不够硬核;其核心发现“文本对齐可在纯声学模型中涌现”极度依赖精巧的训练技巧(Task 0),这暗示了纯声学路径的脆弱性,并未真正消解对显式语义建模的需求。 ...

2026-05-05 · 更新于 2026-05-19 · 2 min · 403 words

AudioTrust: Benchmarking The Multifaceted Trustworthiness of Audio Large Language Models

📄 AudioTrust: Benchmarking The Multifaceted Trustworthiness of Audio Large Language Models #基准测试 #模型评估 #音频大模型 #鲁棒性 ✅ 7.5/10 | 前25% | #基准测试 | #基准测试 | #模型评估 #音频大模型 学术质量 5.5/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Kai Li(论文中标注为共同第一作者,其机构为清华大学计算机系) 通讯作者:Xinfeng Li(论文中标注为†,其机构为南洋理工大学) 作者列表: Kai Li(清华大学计算机系, Institute for AI, BNRist) Can Shen(北京师范大学-香港浸会大学联合国际学院,BNBU) Yile Liu(早稻田大学,Waseda University) Jirui Han(独立研究者) Kelong Zheng(华中科技大学,HUST) Xuechao Zou(北京交通大学,BJTU) Lionel Z. Wang(未说明具体机构,作者列表归属南洋理工大学) Shun Zhang(清华大学) Xingjian Du(罗切斯特大学) Hanjun Luo(浙江大学) Yingbin Jin(香港理工大学) Xinxin Xing(独立研究者) Ziyang Ma(上海交通大学,及12号单位) Yue Liu(新加坡国立大学) Yifan Zhang(中国科学院,CAS) Junfeng Fang(新加坡国立大学) Kun Wang(南洋理工大学) Yibo Yan(香港科技大学(广州)) Gelei Deng(南洋理工大学) Haoyang Li(香港理工大学) Yiming Li(南洋理工大学) Xiaobin Zhuang(字节跳动) Tianlong Chen(北卡罗来纳大学教堂山分校) Qingsong Wen(松鼠AI学习) Tianwei Zhang(南洋理工大学) Yang Liu(南洋理工大学) Haibo Hu(香港理工大学) Zhizheng Wu(香港中文大学(深圳)) Xiaolin Hu(清华大学计算机系, Institute for AI, BNRist) Eng-Siong Chng(南洋理工大学) Wenyuan Xu(浙江大学) XiaoFeng Wang(南洋理工大学) Wei Dong(南洋理工大学) Xinfeng Li(南洋理工大学) 💡 毒舌点评 本文最大的亮点在于其雄心和系统性:它是第一个为ALLM量身定做可信度评估框架的工作,直指音频模态引入的“非语义”攻击面,如情绪操纵、口音偏见和环境声伪造,这比单纯评估文本安全要深刻得多。然而,其短板也相当明显:作为一个“评估”工作,它严重依赖GPT-4o和Qwen3作为评估器,这本质上是用一个黑箱模型去评判另一个黑箱模型的可信度,其评估结果本身的“可信度”值得打个问号;此外,部分实验(如隐私推断)的自动化评估结果与常识或直觉可能存在偏差(如论文所示,所有模型在隐私推断上几乎全部失败),需要更深入的人类评估来验证。 ...

2026-05-04 · 更新于 2026-05-19 · 3 min · 440 words

AudioX: A Unified Framework for Anything-to-Audio Generation

📄 AudioX: A Unified Framework for Anything-to-Audio Generation #音频生成 #音频大模型 #多模态模型 #扩散模型 #数据集 ✅ 7.5/10 | 前25% | #音频生成 | #扩散模型 | #音频大模型 #多模态模型 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Zeyue Tian (Hong Kong University of Science and Technology) 通讯作者:Wei Xue† (Hong Kong University of Science and Technology), Yike Guo† (Hong Kong University of Science and Technology) 作者列表:Zeyue Tian (Hong Kong University of Science and Technology), Zhaoyang Liu (Hong Kong University of Science and Technology), Yizhu Jin (Hong Kong University of Science and Technology), Ruibin Yuan (Hong Kong University of Science and Technology), Liumeng Xue (Hong Kong University of Science and Technology), Xu Tan (Independent Researcher), Qifeng Chen (Hong Kong University of Science and Technology), Wei Xue† (Hong Kong University of Science and Technology), Yike Guo† (Hong Kong University of Science and Technology) 💡 毒舌点评 本文的亮点在于构建了一个工程上非常扎实的统一框架,其设计的多模态自适应融合模块(MAF)有效解决了不同模态信号干扰的问题,并且配套构建的IF-caps数据集在质量和规模上都为训练该类模型提供了宝贵资源。短板在于,尽管实验全面,但论文中声称的“任何东西到音频生成”在当前实现中主要限于文本、视频和音频三种条件输入,对于“任何东西”(如图像、草图等)的泛化能力论证不足,更像一个“文本/视频/音频到音频”的强统一模型。 ...

2026-05-04 · 更新于 2026-05-19 · 4 min · 756 words

Echo: Towards Advanced Audio Comprehension via Audio-Interleaved Reasoning

📄 Echo: Towards Advanced Audio Comprehension via Audio-Interleaved Reasoning #音频大模型 #强化学习 #音频问答 #多模态模型 #数据集 🔥 8.5/10 | 前10% | #音频问答 | #强化学习 | #音频大模型 #多模态模型 学术质量 6.0/7 | 选题价值 1.8/2 | 复现加成 0.7 | 置信度 高 👥 作者与机构 第一作者:Daiqing Wu(中国科学院信息工程研究所 IIE, ByteDance中国) 通讯作者:Yangyang Kang(ByteDance中国), Yu Zhou(南开大学 VCIP & TMCC & DISSec) 作者列表: Daiqing Wu(IIE, ByteDance中国, 中国科学院大学) Xuan Zhang(ByteDance中国) Dongbao Yang(IIE) Jiashu Yao(ByteDance中国) Longfei Chen(上海科技大学信息科学与技术学院) Qingsong Liu(ByteDance中国) Sicheng Zhao(清华大学心理学与认知科学系) Can Ma(IIE) Yangyang Kang(浙江大学, ByteDance中国)(带†和‡标注,应为共同通讯或同等贡献) Yu Zhou(南开大学 VCIP & TMCC & DISSec)(带†和‡标注,应为共同通讯或同等贡献) 💡 毒舌点评 这篇论文最亮眼的是提出了一个符合人类认知直觉的“音频交错推理”框架,并用一套从数据生成到训练的完整工程化方案将其落地,实验也做得扎实全面。然而,其性能提升高度依赖于自动合成的训练数据(EAQA),这本质上是用一个强大的“教师”(DeepSeek-R1)的知识来蒸馏模型,而数据生成的“天花板”和潜在偏差可能限制模型的上限;此外,模型当前只能“回放”原始音频片段,无法进行更复杂的音频分析操作(如慢放、滤波),这为未来的扩展留下了空间,但也是当前的局限。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 226 words