让冻结的音频语言模型自己找证据:ReListen 在小时级录音中的做法
ReListen 用冻结的音频语言模型对短窗口逐个打分找证据再回答,在 VoiceGiraffe 上找准证据并提升答题准确率,但结论依赖单一样本模型与三套评测条件且长尾问题仍需更大预算。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
ReListen 用冻结的音频语言模型对短窗口逐个打分找证据再回答,在 VoiceGiraffe 上找准证据并提升答题准确率,但结论依赖单一样本模型与三套评测条件且长尾问题仍需更大预算。
针对长音频中与问题相关的证据分散且全量输入代价过高的问题,AudioHelix 为每段录音离线构建文本与声学双通道三层图并做跨块相关性传播,在三个长音频基准上用少量音频片段提升问答效果,但离线建图仍需数百秒。
论文用闭环仿真量化了全双工语音模型在 10 分钟会话中的响应、内容和音色退化,再用特权上下文自蒸馏把短会话能力迁移到长会话,并用双分辨率上下文把远期历史压缩成要点记忆,在训练时长内和超长 20 分钟会话中都验证了稳定性提升与显存增长下降的代价。
针对随语音生成长时间全身动作时会风格漂移和历史代价增大的问题,PASPA 把远历史压缩为跨块持续状态、把当前块用双向注意力精细建模,并在块式流匹配下用多块监督与混合引导训练推理,在 BEAT2 与 SHOW 上取得最优的生成质量指标,但长尾大位移与超长记忆仍有限制。
论文针对全模态大模型在长时多语多说话人视频中说不清谁何时说了什么的问题,构建 297 条六语种平行音视频基准并评测 9 个模型,发现文字转写尚可但时间定位与说话人区分仍是主要瓶颈且视觉不总是有帮助。
针对长录音中目标很短且查询约束多的问题,该文用查询调制加连续时间时序建模先产生多个候选,再由冻结大音频语言模型选优并做局部边界修正,在 LAT-Bench 英文子集上提升定位精度但严格阈值下仍有选择瓶颈。
针对流式语音识别中 RNN-T 训练要保存巨大联合隐状态和词表 logits 的问题,该文用分块打包加专用核与检查点重算完整求和,在中长语音上同时给出高吞吐的不分块版本和低显存的分块版本,但结论只在给定的三批数据、模型配置和联合加损失测量范围内成立。
AMemOps 用增益与声像位置可控的长音频流检验最新属性取回、未变属性保留与缺席拒绝,用录音、熟悉度与冲突历史配对控制比较固定尺寸递推记忆与注意力,说明更新优势在什么录音与历史条件下出现以及擦除的作用。
针对 5 分钟长音频中事件定位与密集描述易幻觉的问题,论文用 EgoSCAPE 评测与 ATTEST 强化学习约束模型只说音频中有证据的时间段,代价是需要多轮采样与注意力统计的训练开销。
Logbook 把小时级音频理解定义为无空隙切分加每段事件标签与描述,用三套数据比较 52 种级联与端到端系统,发现任务可行但普遍过分割,微调能缓解而端到端在更长窗口上会退化。
该文用同一批俄语录音的长单元与短窗口对照微调并做全尝试连续合成评估,报告在约 1200 词时自回归模型的长目标训练大幅降低词错误率,而流匹配模型的绝对错误率仍高于 90%,代价是转录格式与语料构成等混杂尚未完全分离。
针对小时级音视频问答无法把整段录像放入上下文的问题,LEAP 用 600 秒分块定位加至多 9 窗有界回答,在四个主基准上高于同栈整体读取基线,代价是每题需要多遍定位且文本通道只在语音证据充分时可替代媒体扫描。
针对一分钟语音变成 750-1500 个音频 token 且语言模型浅层仍高度关注音频的问题,用编码器输出的闭式线性映射预测全层注意力排序并在模型前剪枝,转录用分箱覆盖、选择题再在第 2 层做精度融合校正,保守预算下与全音频差距控制在小范围内,激进预算下全面领先可运行基线,代价是线性先验在两类 Qwen-Audio 模型上失效且需用漂移筛查区分。
针对长时多方全双工对话缺数据缺评测的问题,论文用两阶段脚本合成加 IndexTTS2 渲染构建 57.6k 小时中英并行流语料并以两阶段微调 Moshi,在 MultiTalkBench 上最终分从 4.66 升到 13.15 但仍远低于人类 68.74。
针对长上下文音频推理缺数据、开放生成难评测的问题,该工作用全开权重三阶段流水线合成 8800 段首诊医患对话与 1329 小时音频及 SOAP 病历,最强证据是级联系统在忠实度上明显优于端到端大音频语言模型,代价是参考病历仍由大模型生成且声学难度未完全复刻真实诊室。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
VoxMem 用四种声学证据与四种记忆操作的分类构造多会话语音记忆基准,在 15 个大音频语言模型上显示 32K 时无人超过 40%,且词汇语义远好于说话人、韵律与环境声,并随历史变长持续下降。
针对语音语言模型中语音 token 过长且时域冗余的问题,论文提出在编码器后按成对余弦相似度自适应合并的 AdaTS,用阈值 0.85 附近约 2 倍压缩在 ASR、问答与翻译上保持或超过均匀下采样,代价是阈值过低与只在对齐阶段压缩会明显掉点。
该文新建 14 口音 128.6 小时角色扮演客服对话只做评测,报告显示手动切分多为最优而固定长窗仅对 Qwen3-ASR 更优,且口音间绝对差距可超 10%,平均词错误率降低并不自动带来口音鲁棒性。
针对多角色长篇有声书语义连贯与情感可控难兼得的问题,Audiobook-CC 用前后文建模加风格解耦加自蒸馏,在章节级取得 M-MOS 为 4.25 分与对话 S-MOS 为 4.11 分,代价是三阶段大数据训练与章节边界后文缺失时的空标记回退。