同一段用户录音考四种本事:实时语音系统的抢话、答题、耳语与记性
InteractionBench 用同一套 221 项录制用户音频测七个实时语音系统在对话时机、口语任务、耳语与音量、二十多轮 groundedness 上的表现,发现全双工系统内时机与任务正相关而离线级联相反,且网络延迟显著抬高托管系统的客户端时机分。
InteractionBench 用同一套 221 项录制用户音频测七个实时语音系统在对话时机、口语任务、耳语与音量、二十多轮 groundedness 上的表现,发现全双工系统内时机与任务正相关而离线级联相反,且网络延迟显著抬高托管系统的客户端时机分。
论文冻结 MiniCPM-o 4.5 只在它由听转说的时刻读隐藏状态拟合逻辑回归失败风险门控,内部 240 问上激进策略以 50% 上交率把准确率从 42.1% 提到 69.2%,同时比全部上交把平均服务器等待从 8.68 秒降到 5.95 秒,代价是仍需云端专家和转写合成开销且对多步执行失误几乎无效。
ReFrame 针对全双工语音模型每帧都做稠密推理的问题,用双方静音时的推测执行和用户说话时的折叠并行来省 GPU 时间,并把省出的帧预算用于可恢复的检索与语言模型查询,在 1225 段对话上省 18.80-31.01% 执行时间并保持文本基本一致。
共分析 48 篇语音/AI 论文
针对全双工语音咨询中只回应最近一句话而丢失早期根本困扰的问题,CounselPlex 在说话人沉默时生成 1-7 词的压力源状态并在倾听时注入文本流,结合位置偏移增强训练,在 ESConv 与 ESCoT 合成语音上的咨询质量评分超过同域微调基线,但延迟增加且未检测到简短附和声。
论文用闭环仿真量化了全双工语音模型在 10 分钟会话中的响应、内容和音色退化,再用特权上下文自蒸馏把短会话能力迁移到长会话,并用双分辨率上下文把远期历史压缩成要点记忆,在训练时长内和超长 20 分钟会话中都验证了稳定性提升与显存增长下降的代价。
论文针对全双工语音模型在数十分钟对话中出现重复、长时间沉默和胡言乱语的问题,用受控重放与实时交互两轨基准定位崩溃,并用保留首个缓存表项与抑制近期复读的无重训方法把滑动窗口模型的崩溃大幅降低,同时保持实时运行。
共分析 80 篇语音/AI 论文
针对两人混合录音恢复后说话人会串轨道的问题,论文用固定注册身份在扩散前对粗分离流做排序,在 CANDOR 25 分钟对话上把错轨时间从 43.86% 降到 4.08%,只增加 1.84M 参数和约 2.8% 耗时且重建音质不变。
DIVE 用 525 个带精确时间窗的连续音视频样本,把是否该说、何时说、说得对不对分开测,发现头部实时模型平均延迟已压到 1 秒内,但窗口命中率最高仅 53.77%,且在语音触发干预和说话中改口上最弱。
DuplexLedger 用 1094 个中英持久会话把打断、停顿、旁人说话和附和与 Write、Update、Ignore、Retain 四种记忆操作对齐,发现现有全双工模型都无法兼顾交互边界与最终记忆状态,而 8.92M 参数的 ACT-Mem 外挂模块把最新值准确率从 4.11% 提升到 8.68%,但完整状态重建仍很困难且打断停止变慢。
共分析 34 篇语音/AI 论文
VISAGENT 针对公共热线多业务分散、菜单转接繁琐的问题,用端到端语音交互加两级路由把通用对话和数百个领域智能体接起来,在 114 真实场景和三组对照评测中验证了低延迟与路由可扩展性,但记忆与跨业务能力尚未充分验证。
Jarvis 为全双工语音智能体增加独立协调层,用版本化任务账本加代码校验管住并发修改,在前端和后端都不变时把 τ-Voice 从 29 题提升到 192 题,但及时取消仍受工作器完成速度限制。
论文用一个全双工对话主干同时驱动语音合成与手势表情合成,并用语义调用加模板库补足稀疏的语义手势,在保持语音问答与轮流准确率的同时提升了对话手势与表情指标,但结论只在所建 138 段人工验证集与所用参考型评测条件下成立。
论文用 240 段合成多方对话同时考轮次结束与成功抢话两件事,发现轮次结束可达 92.6% 召回而抢话最高仅 56.2%,且五个全双工智能体进场很准但选择性让话接近随机。
论文针对全双工语音模型每次只能固定一种抢话多少的风格的问题,提出从模型自身对话中提取晚层残差方向并按剂量加减来读写抢话倾向,再用五分钟参考录音为每个人选剂量,最强证据是换用他人剂量在 93% 左右以上情形下匹配变差,而统一剂量与不干预无区别,代价是每帧都要做加法干预并需在开发对话上试剂量。
共分析 69 篇语音/AI 论文
D2 把已具备理解与生成能力的半双工语音模型按固定短块切分对话,用流式编码器蒸馏加全双工监督微调实现边听边说,在 80 毫秒块下 Qwen3-Omni-D2 仍保持 70.1 的 VoiceBench 总分,但小块会明显削弱停顿容忍并保留合成与数据构造等限制。
DuplexAct 把边听边说的交互拆成 8 个动作和 24 种条件,用立即执行与后续跟进两段成功率评价 14 个模型,发现能力分布不均且后续跟进普遍偏弱。