让冻结的音频语言模型自己找证据:ReListen 在小时级录音中的做法
ReListen 用冻结的音频语言模型对短窗口逐个打分找证据再回答,在 VoiceGiraffe 上找准证据并提升答题准确率,但结论依赖单一样本模型与三套评测条件且长尾问题仍需更大预算。
ReListen 用冻结的音频语言模型对短窗口逐个打分找证据再回答,在 VoiceGiraffe 上找准证据并提升答题准确率,但结论依赖单一样本模型与三套评测条件且长尾问题仍需更大预算。
针对语音大模型音频 KV 缓存过大带来的长上下文推理瓶颈,论文提出按 KV 头共享竞争与层次分裂合并自适应分配检索粒度的 C3 个方法,在四个语音大模型和识别翻译摘要任务上于相同检索预算下取得最强检索精度且在小预算下优势最大,但结论只在所测模型长度预算与贪婪解码条件下成立并伴随短上下文额外开销。
MedAstra 把冻结 WavLM 语音表示经轻量适配器映射到冻结 E5 文本空间做首轮语音稠密检索,再用文本证据与实体、诊断、关系启发做回答,报告的检索与问答数值只在输入来源与评测条件受限下成立。
ReFrame 针对全双工语音模型每帧都做稠密推理的问题,用双方静音时的推测执行和用户说话时的折叠并行来省 GPU 时间,并把省出的帧预算用于可恢复的检索与语言模型查询,在 1225 段对话上省 18.80-31.01% 执行时间并保持文本基本一致。
针对长音频中与问题相关的证据分散且全量输入代价过高的问题,AudioHelix 为每段录音离线构建文本与声学双通道三层图并做跨块相关性传播,在三个长音频基准上用少量音频片段提升问答效果,但离线建图仍需数百秒。
论文要解决跨数十到上百小时视频的细粒度时空推理问题,用与问题无关的持久记忆加按需检索和三类技能的 4DMemory Harness 把任务时长与模型原生窗口解耦,在 5214 题上最高联合成功率 77.79% 但分布式计数等仍是短板。
针对相邻情绪易混淆且错误集中在少数情绪对的问题,CASE 在冻结多模态大模型参数的前提下,用可进化的成对文本技能做第二轮二选一复判,在 DFEW 上进化出的技能可直接用于 CA-MER 和 EMER,最强证据是 Qwen3-VL-8B 在 CA-MER 上从 46.80% 提升到 59.13%,代价是需要两轮推理和外部编辑与验证流程。
论文要解决音频语言模型能否按特定人的背景、观点、性格、文风和音乐反应来回答文本与音乐刺激的问题,采用人物摘要加个人记忆加共享模型三路分工与四类训练目标,在十个留出人物上用人物保真度与通用音乐理解联合评估,最强证据是音乐反应组合分提升而通用理解未明显遗忘,代价是古典音乐为主且人物被当作静态。
针对无机器标识的混合机器声音异常检测,HARMONY 用锚点引导的几何重分区把缠结特征整理成紧凑 Voronoi 区域再做分层检索,在 DCASE 2020 上达到 90.00% 平均 AUC,分层检索在同一 CPU 上实现 7.8 倍加速且只损失 0.20 个百分点。
DuplexLedger 用 1094 个中英持久会话把打断、停顿、旁人说话和附和与 Write、Update、Ignore、Retain 四种记忆操作对齐,发现现有全双工模型都无法兼顾交互边界与最终记忆状态,而 8.92M 参数的 ACT-Mem 外挂模块把最新值准确率从 4.11% 提升到 8.68%,但完整状态重建仍很困难且打断停止变慢。
针对提示式上下文识别装不下大热词表的问题,VISH 直接在帧级 CTC 后验上做受限维特比搜索来打分排序,M-VISH 用共享前缀与剪枝把大表验算变快,Bi-MVISH 再加反向证据补强弱首音,在五组评测上提升预选 Best-F1 并在 2000 词时大幅降低候选搜索耗时。
E3-System 针对零样本语音合成中文字意图缺乏声学依据、音色与风格纠缠的问题,用 1012 小时多语种 EmoData 构建风格空间、用 Style-RAG 把文字意图映射为语音风格提示、用 Dual-TTS 实现音色与风格解耦合成,在双提示条件下直接语音提示与检索文字控制分别达到不同的可懂度与相似度平衡。
ARIA 把粤语作词拆成先从带字槽的歌声估计 0243 声调层级序列、再以该序列为控制生成歌词,TRATE 与 DRA-TCLG 分别解决音频侧相对调高恢复与文本侧一对多选词问题,代价是依赖字符边界且第二阶段一般只实现而不修复第一阶段的错误。
AuraLuxMuse 用音乐与灯光的对比对齐检索专家灯光序列并按偏好适配,证据是演唱会与综艺场景专家评分占优而戏剧场景不显著,代价是依赖固定语料库且单次推理约 7.65 秒。
论文把文本条件合成器得到的 78 维配置经由基于角色的映射固定为可复用的音色塑形效果器,用四种吉他音色提示的频谱与非线性测量加打乱映射消融证明结构化分工带来提示可区分性,并用检索增强的合成器生成器提升表示的文本相似度,代价是映射为启发式且评估只限单段吉他演奏与信号级指标。
Jarvis 针对共享文档的多人讨论,用小型模型的检测加规则门限决定是否纠正遗漏或说错的事实,并用等候空档与举手加屏幕引证来进入对话,在合成与真实会议中验证了时机与正确性,但结论只在文档可查证的范围内成立。
论文把音频问答拆成命名树节点加语音转写文本再由冻结文本大模型作答,在 SAKURA 上超过所比音频大模型并用干预证明节点有因果作用,代价是计数排序与细粒度场景题仍落后且推理端需要跑多个编码器与转写模型。
针对多人多会话语音对话中说话人混淆与事实新旧混淆问题,PERSIST 用可读事件记录加语义加说话人加时间联合打分做检索,并复用对话主干中间表示把检索延迟从 578.42 ms 降到 7.03 ms,代价是仍依赖转写与说话人归属质量。
该论文用参考音频的关系结构来重组检索源音频的短时颗粒,再送入预训练生成器,FO 变体在保持声音类别的同时改善了时间对齐并降低了源波形局部复现,代价是离散搜索不保证全局最优且分布指标只是维持而非提升。
SEER 针对人工耳蜗处理后情感线索变弱的问题,用同一情感的参考语音去引导情感语音转换,并学习为每个源语句挑选最有帮助的参考,在 N8 条件下把源语音的宏平均 F1 在 RAVDESS 和 ESD 上分别提高 7.30 和 11.66 个百分点,但稀疏通道和部分情感边界上仍有局限。