长音频流里记住声源并更新属性:AMemOps 如何拆开识别、保留与更新
AMemOps 用增益与声像位置可控的长音频流检验最新属性取回、未变属性保留与缺席拒绝,用录音、熟悉度与冲突历史配对控制比较固定尺寸递推记忆与注意力,说明更新优势在什么录音与历史条件下出现以及擦除的作用。
AMemOps 用增益与声像位置可控的长音频流检验最新属性取回、未变属性保留与缺席拒绝,用录音、熟悉度与冲突历史配对控制比较固定尺寸递推记忆与注意力,说明更新优势在什么录音与历史条件下出现以及擦除的作用。
针对音频编码器产生过长音频 Token 序列导致解码器自注意力开销过大的问题,AudioTETRIS 用编码器隐状态的帧间变化构造音素过渡先验,再与随深度切换的解码器注意力分数相乘做逐层 top-k 剪枝,在 Qwen2-Audio 等三个模型上用 25% Token 保持接近未压缩精度,但高压缩下转写任务仍先退化且需一次校准确定交叉层。
论文用定位去除与等大随机去除的配对比较检验断言是否依赖特定音频区域,发现空白基线的优势主要来自删除时长,而定位是否有效与解码纠正能否起作用都随模型而变化。
HMU-Bench 用 1029 对乐谱问答和 460 对音频问答考查同一批全模态模型,最强系统乐谱得分接近 3.9 而音频最高仅 1.33,且两类排名几乎无关,局部困难音频与移调八度错误进一步暴露了评分与定位短板。
论文把实时语音系统放到 176 段闲聊的真实停顿和话轮末尾,比较它是否像真人一样保持沉默或接话,最强证据是托管 API 几乎从不沉默而全双工模型才会沉默,代价是历史输入通道不同且标注和触发方式影响结论适用范围。
论文把保留内容与韵律的单码本语音单元同时用作统一模型的输入与生成目标,在相同框架和数据下比较识别、判别与合成,并在问答微调后检验保留情况,但合成只用自动指标且局限于英语朗读语音。
论文要解决演唱录音缺专家诊断配对的问题,把 Reddit 评论整理成 Focused QA 和 Overall Feedback 来微调音频语言模型,在 VocalCoachBench 上把有效诊断加纠正的比例从 21.3% 提高到 61.0%,代价是严格匹配专家诊断仍很低且识别类辅助任务没有带来开放式指导增益。
针对重叠与运动下指定声源在指定时刻位置难定位的问题,SonicWorld 用持续声源状态组织声学证据,在 Sonic-Bench 上把单声源方向准确率从 43.75% 提升到 50.00%,代价是需要完整片段离线推理与两阶段微调。
针对 16 kHz 音频语言模型看不见 8 kHz 以上信号的问题,论文用搬移频带加同时刻双视图融合复用冻结编码器,在高频决定答案的对照测试上取得明显提升,但结论依赖特定的构造评测与微调预算。
针对音频语言模型感知细节弱且所有问题都用同样计算深度的问题,AdaLoop 在音频编码器与语言模型之间插入共享权重的循环精炼模块并按音频与问题自适应停机,在三个模型与三个基准上平均准确率提升 2.9 到 3.8 个百分点,代价是最多 8 步循环与不足 3% 的额外参数。
针对全双工语音智能体每轮要做的多个封闭式小决策,DuplexJev 把语音编码器隐状态经小连接器送入冻结大模型并只读答案字母的下一个词分布,一次前向批量回答 80 个决策约 0.1 秒,内容理解接近读文本,而性别与情感需靠答案 token 监督才能从 55% 和 28% 提升到 90%,代价是情感数据会拉低部分内容问答。
针对音频大模型偏向文本先验而幻觉的问题,该文用完整与扰动音频对比的多模态偏好优化微调 Qwen2-Audio,在 DCASE 问答与 AH 存在性验证上提升准确率,但结论只在给定划分、提示与扰动配置下成立且伴随三倍数据等代价。
论文针对单耳大模型丢掉双耳方位线索、专用空间模型又缺乏通用理解的问题,用语义分支加空间分支的双分支编码器和分层语义到空间调制,在大规模合成双耳场景上训练,实测在真实空间推理上大幅领先且通用单耳任务基本不下降,但细粒度轨迹和多源计数仍明显变难。
针对同时训练多种音频理解技能时互相干扰的问题,SkillFormer 在音频编码器与语言模型之间插入 6 个低秩适配器并用问题控制的路由器加权组合,在三个模型上把三基准平均准确率提高 2.4 到 4.1 个百分点,代价是增加不到 4% 的参数和两阶段训练。
论文发现视觉等多模态大模型合并可提升音频与视频模型的本模态成绩,提出只用 256 个校准样本求闭式权重更新的方向性跨模态对齐迁移方法,在音频平均提升 29.55%、视频平均提升 24.92%,代价是视觉端性能可能受损且结论限于共享基座的权重可合并结构。
论文用短时傅里叶域遮蔽加对照审计 AdvWave-P 在 Qwen2-Audio 上的表现,发现八频段排序几乎被扰动能量解释,深层音频表示差异与遮蔽必要性正相关但不能定位因果层。
针对音频语言模型怕噪声、怕遮挡、怕注入文本误导的问题,AnchorPrompt 冻结模型只训练解码器输入处的 8 个软提示向量,用干净输入的教师答案做自蒸馏目标并在证据不足时学拒答,报告显示九组干净准确率中有六组提升且重度破坏下幻觉回答大幅下降,代价是拒答目标的零样本外推仍有两组混响一致性下降。
AudioJev 把波形、问题与调用方候选直接映射为候选分布,用随机错排配对与语义对齐对称 KL 训练顺序校准,在完整 MMAU 与 MMAR 上报告 68.88% 与 55.33% 平均准确率并降低乱序 SKL,推理保持单次前向。
该研究用 1636 个问答和 20 组多轮对话检验语音智能体按文档作答的能力,发现级联系统接地最稳而端到端实时系统在长上下文和多轮后出现断崖与遗忘,且重注文档只对部分架构有效。
RMS-AQA 针对家庭具身助手需同时判断事件是什么、在哪何时发生的问题,采用先事件接地再条件推理的两段式选择题与 10 秒一阶 Ambisonics 片段,并用实测房间脉冲响应合成训练加真实录制验证测试的组合,证明轻量空间插件能大幅提升冻结音频语言主干的接地推理链,但并发声源、远场与仿真到真实差距仍是主要瓶颈。