SIREM: Speech-Informed MRI Reconstruction with Learned Sampling

📄 SIREM: Speech-Informed MRI Reconstruction with Learned Sampling #医学图像重建 #多模态模型 #实时处理 #高效推理 #语音信号 #可学习采样 ✅ 7.3/10 | 前40% | #医学图像重建 | #多模态模型 | #实时处理 #高效推理 | arxiv 学术质量 6.1/8 | 影响力 0.7/1 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Md Hasan(Friedrich-Alexander-Universität Erlangen-Nürnberg, Pattern Recognition Lab) 通讯作者:Paula A. Pérez-Toro(Friedrich-Alexander-Universität Erlangen-Nürnberg, Pattern Recognition Lab) 作者列表:Md Hasan(Pattern Recognition Lab, FAU),Nyvenn Castro(Institute of Radiology, University Hospital Erlangen),Daiqi Liu(Pattern Recognition Lab, FAU),Lukas Mulzer(Pattern Recognition Lab, FAU),Jana Hutter(Institut für Informationsverarbeitung, Leibniz Universität Hannover),Jonghye Woo(Department of Radiology, Harvard Medical School and Massachusetts General Hospital),Moritz Zaiss(Institute of Radiology, University Hospital Erlangen),Andreas Maier(Pattern Recognition Lab, FAU),Paula A. Pérez-Toro(Pattern Recognition Lab, FAU) 💡 毒舌点评 论文提出了一个极具洞察力的跨模态融合思路,将语音信号作为实时MRI重建的显式先验,概念新颖且物理动机扎实。然而,其核心验证存在“自证”困境:关键的“语音解释性”空间权重图(w_EbA)由手动分割掩码提供,这相当于用解剖学知识预先定义了语音的有效区域,极大地削弱了模型“学习”跨模态关联的创新性,并导致方法在更通用或数据有限的场景下的有效性存疑。实验基线选择偏弱,缺乏与现代深度学习重建方法的对比,使得其“速度优势”的宣称说服力不足。尽管如此,该工作首次系统性地探索了多模态融合在rtMRI重建中的可行性,其开创性价值值得肯定。 ...

2026-05-19 · 更新于 2026-05-19 · 3 min · 515 words

Real-time Speech Restoration using Data Prediction Mean Flows

📄 Real-time Speech Restoration using Data Prediction Mean Flows #音频修复 #流匹配 #实时处理 #高效推理 #均值流 #数据预测 ✅ 7.5/10 | 前25% | #音频修复 | #流匹配 | #实时处理 #高效推理 | arxiv 学术质量 6.3/8 | 影响力 0.7/1 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Sebastian Braun(论文未说明其所属机构) 通讯作者:论文中未明确标注通讯作者 作者列表:Sebastian Braun(论文中仅列出此一位作者,未说明其机构) 💡 毒舌点评 这篇论文定位明确,直击实时生成式语音修复中“高质量”与“低延迟、低算力”的矛盾,并通过组合技术(DP-IMF)和精心设计的新架构(RMFSR)给出了一个工程上极具吸引力的解决方案(120倍算力节省)。然而,其主观测试结果(Overall MOS 2.91)与自称“接近”的非因果上界(3.20)存在统计显著性未明的差距,且WER随NFE上升暴露了生成幻觉的风险;加之关键训练细节的缺失,使得这篇面向实用的工作在复现和全面评估上打了折扣。 📌 核心摘要 本文旨在解决生成式语音修复模型(如扩散/流匹配)因计算量大、延迟高而无法实时部署的问题。核心方法是提出一个结合数据预测(DP)损失与改进均值流(IMF) 训练的流匹配框架,并设计了一个新型低延迟卷积U-net架构(RMFSR)。相比已有工作,其主要贡献在于:1)首次将DP-IMF组合应用于音频流匹配,通过直接预测干净数据并训练大步长,减少推理步数;2)提出了针对性的训练调度(r=t比例与r-t跨度)以及流匹配分布设计(logit-normal时间采样、粉红噪声先验);3)设计了RMFSR架构,通过因果卷积、TCN瓶颈等,在将MACs/s降低120倍(从142.78G降至1.22G)的同时,仅引入STFT窗长(20ms)的算法延迟。实验在SIG2024测试集上表明,RMFSR-DP-IMF模型在多步推理(NFE>1)下,客观指标接近强大的非因果基线,主观整体MOS(2.91)相比未处理信号(2.72)有显著提升,但仍低于非因果基线(3.20)。该工作为资源受限的实时音频应用(如通信、助听器)提供了一种高效的解决方案,但其一步推理质量不佳,且与SOTA在主观感知上仍有可察觉的差距。 🔗 开源详情 代码:论文中提供了代码仓库链接:https://github.com/sebraun-msr/realtimemeanflowspeechrestoration 模型权重:论文中未提及是否开源模型权重。 数据集: 训练数据使用了 EARS 数据集 (项目页面: https://github.com/facebookresearch/EARS)、DNS Challenge 背景噪声 (项目页面: https://github.com/microsoft/DNS-Challenge) 和 DAPS 数据集 (获取方式: https://zenodo.org/record/2594445)。 测试评估使用了 Signal Improvement Challenge 2024 (SIG2024) 测试集 (相关挑战页面: https://github.com/microsoft/Signal-Improvement-2024)。 Demo:论文中提供了音频示例页面:https://sebraun-msr.github.io/realtimemeanflowspeechrestoration/ 复现材料:论文中未提及训练配置、检查点等复现材料的具体链接或获取方式。 论文中引用的开源项目: Whisper (用于WER评估): https://github.com/openai/whisper DNS Challenge 工具包 (用于生成数据): https://github.com/microsoft/DNS-Challenge EARS 数据集: https://github.com/facebookresearch/EARS DAPS 数据集: https://zenodo.org/record/2594445 Signal Improvement Challenge 2024 (SIG2024): https://github.com/microsoft/Signal-Improvement-2024 🏗️ 方法概述和架构 整体流程概述 本文提出一个端到端的语音修复系统。输入为带失真的语音信号,首先通过短时傅里叶变换(STFT)并进行幅度压缩(系数c=0.3),得到复数压缩谱域表示X^c。该表示y与当前带噪状态xt拼接作为条件,输入到一个基于流匹配的生成模型(RMFSR)中。该模型通过迭代求解普通微分方程(ODE),从带噪的先验分布p_init逐步恢复出干净的语音谱表示x0。最终,对输出谱进行逆操作(解压缩、逆STFT),得到修复后的时域语音信号。整个流程的核心是训练一个能够高效、少步数地执行这一生成过程的神经网络。 ...

2026-05-18 · 更新于 2026-05-19 · 3 min · 466 words

Physics-Based iOCT Sonification for Real-time Interaction Awareness in Subretinal Injection

📄 Physics-Based iOCT Sonification for Real-time Interaction Awareness in Subretinal Injection #医疗音频 #信号处理 #实时处理 #音频事件检测 #跨模态 ✅ 6.5/10 | 前40% | #医疗音频 | #信号处理 | #实时处理 #音频事件检测 | arxiv 学术质量 5.4/8 | 影响力 0.6/1 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Luis D. Reyes Vargas (Technical University of Munich, Computer Aided Medical Procedures) 通讯作者:Luis D. Reyes Vargas (邮箱 luis.reyes@tum.de 明确标识为通讯作者) 作者列表:Luis D. Reyes Vargas (Technical University of Munich, Computer Aided Medical Procedures),Veronica Ruozzi (未说明机构),Andrea K. M. Ross (Rotterdam Eye Hospital),Shervin Dehghani (Technical University of Munich, TUM Klinikum Rechts der Isar),Michael Sommersperger (Technical University of Munich, Computer Aided Medical Procedures),Koorosh Faridpooya (未说明机构),Mohammad Ali Nasseri (Technical University of Dresden, Centre for Tactile Internet with Human-in-the-Loop),Merle Fairhurst (Technical University of Dresden, Chair for Social Affective Touch),Nassir Navab (Technical University of Munich, Computer Aided Medical Procedures; Munich Center for Machine Learning),Sasan Matinfar (Technical University of Munich, Computer Aided Medical Procedures) 💡 毒舌点评 这篇论文精准地抓住了视网膜下注射手术中一个真实且关键的痛点:iOCT数据的视觉认知过载。其提出的解决方案——将实时分割的解剖结构映射到一个物理声音模型——在工程逻辑上清晰且具有临床洞察力。用户研究的结果也确实表明,这种听觉反馈在传递“水泡形成”这类动态事件上显著优于简单参数映射。然而,这篇论文的创新性上限被其“系统集成”的本质所限制:核心的声音生成模型(质量-弹簧-阻尼器)和驱动它所需的分割技术均非新创。论文更像是一次精心设计的、面向特定场景的“管道集成”和应用验证,其贡献在于证明了这种集成方式在临床任务上的有效性,而非在音频合成、物理建模或分割算法本身上提出新原理。实验完全基于模拟环境和有限的专家反馈,与真实的、高风险的手术室应用之间,仍隔着一道名为“临床验证”的深水区。 ...

2026-05-15 · 更新于 2026-05-19 · 2 min · 407 words

Streaming Speech-to-Text Translation with a SpeechLLM

📄 Streaming Speech-to-Text Translation with a SpeechLLM #语音翻译 #自回归模型 #流式处理 #多语言 #实时处理 ✅ 6.8/10 | 前25% | #语音翻译 | #自回归模型 | #流式处理 #多语言 | arxiv 学术质量 5.9/8 | 影响力 0.7/1 | 可复现性 0.2/1 | 置信度 高 👥 作者与机构 第一作者:Titouan Parcollet(三星AI中心剑桥) 通讯作者:未说明 作者列表:Titouan Parcollet(三星AI中心剑桥)、Shucong Zhang(三星AI中心剑桥)、Xianrui Zheng(三星AI中心剑桥,实习期间)、Rogier C. van Dalen(三星AI中心剑桥)。论文明确指出“这些作者贡献相等”。 💡 毒舌点评 这篇论文的核心想法——让LLM学会自主决定何时“等待”更多音频,而非依赖外部固定规则——在解决流式语音翻译的实时性鲁棒性矛盾上,是一个清晰且有实际价值的贡献。提出的短语级对齐生成方法也针对了跨语言对齐的真正痛点。然而,其全部实验建立在未公开的3B参数内部大模型、私有训练数据集“CoLiMu”和私有训练流程之上,且与社区广泛使用的、可公开复现的SOTA模型(如SeamlessM4T)缺乏直接对比。这使得其“显著优于现有固定策略”的宣称,在外部研究者看来,其有效性范围和绝对性能高度存疑。可复现性是其成为顶会论文的硬伤。 📌 核心摘要 要解决什么问题:现有的流式语音到文本翻译(STT)系统,尤其是基于SpeechLLM的系统,普遍采用固定的“wait-k”或类似外部启发式策略(如AlignAtt)。这些策略无法适应真实语音输入的变化(如静音开头、语速不均、停顿),导致在真实场景下产生翻译幻觉、遗漏或性能崩溃。 方法核心是什么:提出一种“混合”(intermixed)架构,将预训练的LLM作为统一的决策与生成核心。LLM在自回归解码时,不仅输出翻译文本标记,还能输出一个特殊的“等待”(W)标记。当模型输出W时,系统获取下一音频块;否则输出翻译词。模型通过自动对齐生成的监督序列,学会在信息不足时主动输出W以请求更多音频,从而实现自适应流式输出。 与已有方法相比新在哪里:(1)将等待策略从外挂式、非学习的模块(如wait-k, AlignAtt)变为LLM内部的可学习行为,与语言生成任务统一建模。(2)提出利用LLM和ASR工具链自动生成适合流式训练的短语级对齐数据,解决了跨语言(特别是英语-韩语)词级对齐困难导致的监督信号噪声问题。(3)设计了一种可选的“早期退出等待策略”,在LLM早期层拦截决策,以降低设备端能耗,而无损翻译质量。 主要实验结果如何:在Fleurs数据集的英-法和英-韩翻译任务上,所提混合模型在1-2秒的低延迟下,取得了接近离线基线(同架构离线模型)的翻译质量(COMET分数)。与Bestow的固定wait-k策略相比,其平均逻辑延迟降低约2.3倍,翻译质量提高约19.4%。在模拟真实场景的“SilFleurs”(输入前添加5秒静音)测试中,固定策略模型性能崩溃(COMET分数大幅下降),而混合模型保持稳定。关键数据见下表: 模型 策略 平均逻辑延迟 (秒) 质量 (COMET) SilFleurs 质量 (COMET) Bestow wait-k (步长640ms) ~2.0 0.820 0.509 Bestow AlignAtt (窗口f=12) ~2.0 0.832 0.604 Intermixed (本文) 学习策略 (最优κ) ~1.8 0.840 0.840 (注:以上数值基于论文图3(a)英-法任务描述及图5(a)鲁棒性测试结果) 实际意义是什么:为在移动设备、会议系统等场景部署低延迟、高鲁棒性、低功耗的实时语音翻译系统提供了新的架构思路,核心是解决了固定策略在非理想音频流下的致命缺陷。 ...

2026-05-15 · 更新于 2026-05-19 · 2 min · 341 words

Online Segmented Beamforming via Dynamic Programming

📄 Online Segmented Beamforming via Dynamic Programming #声源定位 #波束成形 #麦克风阵列 #流式处理 #实时处理 ✅ 6.0/10 | 前25% | #声源定位 | #波束成形 | #麦克风阵列 #流式处理 | arxiv 学术质量 6.0/8 | 影响力 1.0/2 | 可复现性 0.5/1 | 置信度 高 👥 作者与机构 第一作者:Manan Mittal(论文中未提及具体机构) 通讯作者:未说明 作者列表:Manan Mittal、Ryan M. Corey、Diego Cuji、John R. Buck、Andrew C. Singer(论文中未说明各作者所属机构) 💡 毒舌点评 本文提出的“在线分段波束成形”框架思路清晰,将动态规划思想引入非平稳声学环境中的协方差矩阵估计,试图解决传统固定窗口方法的核心矛盾。论文在仿真和真实实验中展示了其性能优势。然而,其核心在线算法实为对经典OSRLS思想的借鉴与应用,创新性主要体现在工程整合与特定问题的应用上。理论分析严重缺失,对算法近似性能、关键超参数的影响均未提供任何分析,实验部分也未进行消融研究或计算复杂度对比,使得论文更像一项扎实的工程改进,而非具有坚实理论基础的突破。 📌 核心摘要 要解决什么问题:在时变、非平稳的声学环境中,传统自适应波束成形(如Capon/MVDR)依赖固定时间窗口的样本协方差矩阵估计。长窗口导致估计值“涂抹”,无法跟踪环境变化;短窗口则估计方差大,干扰抑制能力弱。这构成了一个根本性的偏差-方差权衡难题。 方法核心是什么:提出“在线分段波束成形”(Online Segmented Beamformer)。核心思想是将观测时间线动态分割为若干个平稳段,在每个段内使用单一的MVDR权值。算法在每个时刻在线评估:是延续当前段(利用更多样本降低方差),还是开始一个新段(避免来自旧环境的偏差)。这被形式化为一个动态规划问题,并通过维护多个候选模型的在线近似求解(类OSRLS算法)。 与已有方法相比新在哪里:与传统固定窗口方法(滑动窗口、指数遗忘)相比,本方法将积分窗口长度从一个静态超参数变为一个由数据驱动的动态变量。它显式地对环境的分段平稳性进行建模,能够自适应地检测变化点并重置协方差估计,从而在无需预设环境平稳时间尺度的情况下,尝试同时实现快速跟踪和统计平滑。 主要实验结果如何:在复杂混响仿真和真实世界高混响实验中,与一系列不同固定窗口长度的MPDR基线相比,所提方法(OSRLS)在关键指标上均取得最优。仿真结果(Table I):OSRLS的SI-SDR增益为5.91 dB,PESQ为1.08,显著优于最佳基线(MPDR Win=20, SI-SDR 3.10 dB, PESQ 1.06)。真实实验结果(Fig. 2):在四个不同目标说话人场景下,OSRLS的SI-SDR和PESQ得分均持续高于或接近所有固定窗口MPDR,尤其在短窗口MPDR表现不佳(SI-SDR低)和长窗口MPDR表现受限(PESQ低)的极端情况下优势明显。 实际意义是什么:为智能设备语音增强、水下声纳/雷达目标跟踪等在动态声学环境中工作的阵列信号处理系统,提供了一种更稳健、自适应性更强的波束成形框架。它有望减少系统对场景先验知识的依赖。 主要局限性是什么:论文未提供代码开源;在线近似算法的理论性能保证(如相对于全局最优的近似比)未做分析;关键超参数(正则化项C, 最小段长τ)的选择依据和影响未充分讨论;实验未涉及计算复杂度分析与对比;作者声称其为“参数无关的替代方案”,但算法仍需设定C和τ,这一声明与事实不符。 🔗 开源详情 代码:论文中未提及代码链接。论文仅提供了算法伪代码(Algorithm 1)。 模型权重:论文中未提及。 数据集: Massive Distributed Microphone Array Dataset:用于真实世界实验,论文引用了文献[3]并说明使用了该数据集,但未提供直接的下载URL。 VCTK corpus:用于生成目标和干扰语音信号,论文引用了该语料库但未提供具体链接。 Demo:论文中未提及。 复现材料:论文中未提及。论文提供了详细的算法描述和实验设置,但未提供完整的复现材料包。 论文中引用的开源项目: pyroomacoustics:论文在模拟实验部分提及(“built upon the pyroomacoustics framework [8]”),这是一个用于声学模拟的开源Python库。其官方GitHub仓库链接为:https://github.com/LCAV/pyroomacoustics。 VCTK corpus:论文在真实世界实验部分提及,用于生成语音信号。其官方主页或数据集获取链接通常为:https://datashare.ed.ac.uk/handle/10283/3443,但论文中未提供此URL。 🏗️ 方法概述和架构 本文提出的“在线分段波束成形”是一个端到端的自适应波束成形框架。其输入为多传感器阵列接收到的时域或短时傅里叶变换(STFT)域信号向量 x[n],以及导向向量(或相对传递函数RTF)ν。核心处理单元是一个在线决策与模型维护模块,该模块在每个时间步接收新数据,并动态决定是延续当前的波束成形模型(即维持协方差矩阵估计),还是启动一个新的模型(即重置协方差矩阵估计)。输出为经过空间滤波、抑制了干扰和噪声的波束成形信号 z[n],以及检测到的分割点集合 I。 ...

2026-05-12 · 更新于 2026-05-19 · 3 min · 448 words

LiVeAction: a Lightweight, Versatile, and Asymmetric Neural Codec Design for Real-time Operation

📄 LiVeAction: a Lightweight, Versatile, and Asymmetric Neural Codec Design for Real-time Operation #多模态压缩 #神经网络编解码器 #实时处理 #边缘计算 #信号处理 🔥 8.5/10 | 前25% | #多模态压缩 | #神经网络编解码器 | #实时处理 #边缘计算 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者:Dan Jacobellis (University of Texas at Austin) 通讯作者:Neeraja J. Yadwadkar (University of Texas at Austin) 作者列表:Dan Jacobellis (University of Texas at Austin), Neeraja J. Yadwadkar (University of Texas at Austin) 💡 毒舌点评 这篇论文最漂亮的地方是它毫不含糊地实现了承诺:把编解码器塞进低功耗设备里跑,而且还能处理从音频到3D医学图像的“花式”数据。但尴尬的是,它的“通用性”主要体现在对网格化信号的处理上,对于真正的非结构化数据(如点云、图信号)的通用性并未在论文中得到验证,有点“避重就轻”的嫌疑。此外,简化率惩罚依赖于潜变量分布为指数族的假设,在复杂分布下可能次优。 ...

2026-05-08 · 更新于 2026-05-19 · 5 min · 945 words

Hearing the Ocean: Bio-inspired Gammatone-CNN framework for Robust Underwater Acoustic Target Classification

📄 Hearing the Ocean: Bio-inspired Gammatone-CNN framework for Robust Underwater Acoustic Target Classification #音频分类 #信号处理 #时频分析 #实时处理 #水下声学 ✅ 7.5/10 | 前25% | #音频分类 | #信号处理 | #时频分析 #实时处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者:Rajeshwar Tripathi (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India) 通讯作者:未说明 作者列表:Rajeshwar Tripathi (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India)、Sandeep Kumar (Central Research Laboratory, Bharat Electronics Limited, Ghaziabad, India)、Monika Aggarwal (Centre for Applied Research in Electronics (CARE), IIT Delhi, India)、Neel Kanth Kundu (Centre for Applied Research in Electronics (CARE), IIT Delhi, India) 💡 毒舌点评 亮点:论文清晰地论证并验证了“信号表示质量是决定性能上限的关键”这一观点,其生物启发的Gammatone前端在保持极低计算开销(0.77ms延迟)的前提下,显著优于传统线性和多分辨率特征,为资源受限的边缘声纳部署提供了切实可行的方案。短板:创新性更多体现在技术整合与领域迁移,而非Gammatone滤波器本身的原理突破;虽然在VTUAD数据集上表现优异,但验证仅限于单一公开数据集,其泛化能力至更复杂的真实海洋环境仍需更多证据。 ...

2026-05-07 · 更新于 2026-05-19 · 2 min · 341 words

语音/音频论文速递 2026-05-07

语音/音频论文速递 2026-05-07 共分析 22 篇论文 ⚡ 今日概览 📥 抓取 22 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #音频分类 3篇 ███ #音乐信息检索 2篇 ██ #音乐生成 2篇 ██ #音频质量评估 1篇 █ #语音识别 1篇 █ #语音情感识别 1篇 █ #标签分布学习 1篇 █ #视频编辑 1篇 █ 📊 论文评分排行榜(22 篇,按分数降序) 排名 论文 评分 分档 主任务 🥇 JASTIN: Aligning LLMs for Zero-Shot Audio and Speech Ev 8.5分 前10% #音频质量评估 🥈 PHALAR: Phasors for Learned Musical Audio Representatio 8.5分 前10% #音乐信息检索 🥉 The TTS-STT Flywheel: Synthetic Entity-Dense Audio Clos 8.5分 前25% #语音识别 4. To Fuse or to Drop? Dual-Path Learning for Resolving Mo 8.0分 前25% #语音情感识别 5. Trustworthy Federated Label Distribution Learning under 8.0分 前25% #标签分布学习 6. AVI-Edit: Audio-sync Video Instance Editing with Granul 8.0分 前25% #视频编辑 7. Empirical Study of Pop and Jazz Mix Ratios for Genre-Ad 7.5分 前50% #音乐生成 8. Hearing the Ocean: Bio-inspired Gammatone-CNN framework 7.5分 前25% #音频分类 9. Sparse Tokens Suffice: Jailbreaking Audio Language Mode 7.5分 前25% #音频安全 10. SEI-SHIELD: Robust Specific Emitter Identification Unde 7.5分 前25% #信号处理 11. OceanPile: A Large-Scale Multimodal Ocean Corpus for Fo 7.5分 前25% #音频分类 12. MiniMind-O Technical Report: An Open Small-Scale Speech 7.5分 前25% #语音对话系统 13. APEX: Large-scale Multi-task Aesthetic-Informed Popular 7.5分 前25% #音乐评估 14. Spatial-Magnifier: Spatial upsampling for multichannel 7.0分 前25% #语音增强 15. VocalParse: Towards Unified and Scalable Singing Voice 7.0分 前25% #音乐转录 16. Benchmarking LLMs on the Massive Sound Embedding Benchm 7.0分 前50% #音频分类 17. Stage-adaptive audio diffusion modeling 7.0分 前25% #音频生成 18. Adaptive Diagonal Loading for Norm Constrained Beamform 7.0分 前25% #波束成形 19. RenCon 2025: Revival of the Expressive Performance Rend 7.0分 前50% #音乐生成 20. Beyond Seeing Is Believing: On Crowdsourced Detection o 7.0分 前25% #音频深度伪造检测 21. Stage Light is Sequence^2: Multi-Light Control via Imit 7.0分 前25% #舞台技术 22. Library learning with e-graphs on jazz harmony 6.5分 前50% #音乐信息检索 📋 论文列表 🥇 JASTIN: Aligning LLMs for Zero-Shot Audio and Speech Evaluation via Natural Language Instructions 🔥 8.5/10 | 前10% | #音频质量评估 | #大语言模型 | #多模态模型 #零样本 | arxiv ...

2026-05-07 · 更新于 2026-05-19 · 14 min · 2879 words

Can Speech LLMs Think while Listening?

📄 Can Speech LLMs Think while Listening? #语音对话系统 #语音大模型 #微调 #自回归模型 #实时处理 ✅ 7.5/10 | 前25% | #语音对话系统 | #微调 | #语音大模型 #自回归模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Yi-Jen Shih(The University of Texas at Austin, Meta Superintelligence Labs) 通讯作者:Michael L. Seltzer(Meta Superintelligence Labs) 作者列表:Yi-Jen Shih(The University of Texas at Austin, Meta Superintelligence Labs)、Desh Raj(Meta Superintelligence Labs)、Chunyang Wu(Meta Superintelligence Labs)、Wei Zhou(Meta Superintelligence Labs)、SK Bong(Meta Superintelligence Labs)、Yashesh Gaur(Meta Superintelligence Labs)、Jay Mahadeokar(Meta Superintelligence Labs)、Ozlem Kalinli(Meta Superintelligence Labs)、Michael L. Seltzer(Meta Superintelligence Labs) 💡 毒舌点评 这篇论文最大的亮点在于将“边听边想”从一个人机交互概念落实为一套可训练、可控制的技术方案,尤其是提出的“问题完整度”指标,巧妙地将语义完备性与生成时机联系起来。然而,一个显眼的短板是,其核心指标“问题完整度”的计算严重依赖于外部LLM(如Llama-3-8B-Chat)的预测概率,这在部署时可能带来额外的计算开销和延迟,且该指标的泛化能力(是否对不同LLM稳定)并未充分验证。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 347 words

Generative Adversarial Post-Training Mitigates Reward Hacking in Live Human-AI Music Interaction

📄 Generative Adversarial Post-Training Mitigates Reward Hacking in Live Human-AI Music Interaction #音乐生成 #强化学习 #对抗训练 #实时处理 #音乐信息检索 ✅ 7.0/10 | 前25% | #音乐生成 | #强化学习 | #对抗训练 #实时处理 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者:Yusong Wu (Mila, Quebec Artificial Intelligence Institute, Université de Montréal) 通讯作者:Natasha Jaques (University of Washington), Cheng-Zhi Anna Huang (Massachusetts Institute of Technology) 作者列表:Yusong Wu (Mila, Université de Montréal), Stephen Brade (Massachusetts Institute of Technology), Aleksandra Teng Ma (Georgia Institute of Technology), Tia-Jane Fowler (University of Washington), Enning Yang (McGill University), Berker Banar (Independent Researcher), Aaron Courville (Mila, Université de Montréal), Natasha Jaques (University of Washington), Cheng-Zhi Anna Huang (Massachusetts Institute of Technology) 💡 毒舌点评 亮点:在强化学习后训练中巧妙引入对抗训练思想来解决“奖励黑客”问题,特别是通过一个自适应更新的判别器来平衡“真实感”与任务目标,方案设计精巧且有实验验证。短板:方法的核心创新是将GAN和RL思想结合用于序列模型,这并非完全原创;研究场景(实时旋律-和弦伴奏)非常垂直,其影响力可能局限于音乐生成领域,对更广泛的序列生成任务(如对话)的普适性未得到充分论证。 ...

2026-05-04 · 更新于 2026-05-19 · 2 min · 342 words