不用单独声纹编码器:从内容编码器中间层直接取说话人表示做流式转换
针对流式语音转换中说话人验证嵌入抑制帧级发音差异的问题,VOSSA 冻结内容编码器并从其中间层聚合说话人嵌入,与重建加转换双路径联合训练,在保持可比质量与可懂度的条件下减少约 19% 参数并改善音高与共振峰保持。
针对流式语音转换中说话人验证嵌入抑制帧级发音差异的问题,VOSSA 冻结内容编码器并从其中间层聚合说话人嵌入,与重建加转换双路径联合训练,在保持可比质量与可懂度的条件下减少约 19% 参数并改善音高与共振峰保持。
PACT-SLM 用配对分支与可变起始点检验部分语音是否支撑外显动作,修正后 WavLM 探针在 onset 后语义标签准确率仅 26.03% 且未超过置换参考,完整轨迹准确率仅 5.94%,而时长对照更准地命中时机,说明身份与时机必须分开度量。
该文把离线音乐分离模型不改权重地按单跳滑窗流式运行,用读出位置控制算法延迟,证明窗口长度处存在质量拐点,并在 23 与 93 毫秒下用 HT-Demucs 与 SCNet 达到专用实时模型相当的分离质量,代价是除 HT-Demucs 外仍高于实时计算量。
针对免提通话需要因果低延迟联合回声噪声控制的问题,DiffVQE2 用因果卷积加单向 GRU 改造混合扩散框架并辅以有限前视,在 ICASSP 2023 AEC 盲测上以更低算力取得更高的主观 MOS,但客观双讲指标仍有代价。
针对全双工语音每秒输入必须在下一秒前变成一秒语音的截止期问题,DuplexCadence 把时钟速率与保留界声明给运行时,用按需定址的携带缓存与精确形状图回放在合成尾段实现约 2.85 倍加速与约 38.8% 峰值内存下降并保持逐字节一致,代价是一次性捕获预热与自回归阶段仍在无损范围之外。
FlowAct-R2 要解决长时间直播中边播边换参考仍保持身份与连续的问题,用流式多模态参考扩散变换器实现连续视频生成、用离线规划加在线调度的主动交互智能体决定演什么与何时演,在与 Vidu-S1 的人评中取得视频质量 +54.76% 与实时交互 +40.48% 的 GSB 分,代价是原文未公开训练数据、定量协议与延迟成本细节。
MyoCodec 针对肌电信号的流式与多任务需求,用因果 Transformer 编码加六级残差向量量化把 2 千赫兹肌电压成每通道 50 赫兹 2400 比特每秒的离散表示,在十二个公开数据集上训练后重建与四个下游任务上可复现地优于对照,但数据偏向打字与手势且下游结构未为离散 token 重设计。
在机载旋翼自噪声下识别十个飞行指令词时,跟踪窗前两秒每频带噪声地板并做条件化输入,能在保持对数梅尔基线误报率的同时把低信噪比检出率转成实际增益,而直接相减的归一化虽能提逐段准确率却会放大连续噪声上的误报。
针对原生大词表 CTC 需物化帧乘词表激活的问题,论文用目标词并集加 blank 做对齐、用全词表归一化加分块重算保持等价,并以有限波束剪枝和因果查询读出把预训练 LLM 做成非自回归与流式识别,在编码器上全步显存降 2.3 至 5.1 倍、LLM-CTC 保持在 LLM-CE 的 7% 相对词错率内并快 7.2 至 10.3 倍,代价是每步增加约 14 至 …
针对全双工语音要求持续低延迟而知识推理与工具调用耗时可变的问题,SALMONN-duo 用常开全双工前端负责交互并决定是否异步委派给后端智能体,再用知识边界感知监督与成本感知强化学习控制委派效用,证据显示其在问答与任务对话上改善准确与委派权衡,代价是仍依赖强后端与仿真延迟条件。
针对连续音频流中的关键词检测任务,论文把已训练好的卷积主干切成以池化结尾的子模型并按静态调度稀疏执行,在保持识别精度的同时报告最高 82% 和 46% 的每秒计算量下降,但分类间隔拉长带来了可控的平均延迟增加。
该研究把问题定为按多热查询减去 1-3 类触发音并保留残差声景,用 6 毫秒分块的流式双路径网络实现 10 毫秒算法延迟,并在 30 名误音症受试者中报告困扰下降 2.37 点但抑制后仍高于基线地板。
针对全双工语音模型靠压缩隐向量读取外部知识易丢精确值的问题,论文用单次块预填充把检索原文直接注入对话流,并在问答与全双工评测中验证了可行性,代价是每词一帧带来的内存开销与对后端识别和大模型推理的依赖。
Duplex-MPE 用 2000 对显式与隐式称呼配对的多人连续语音场景,检验全双工助手何时新发起回答、答对、保持安静与在他人解决后收声,最强证据是 MiniCPM-o 4.5 在三项能力领先而高语音覆盖常伴随答错或侵入,代价是合成场景与自动语义打分只在抽样上经人工验证。
共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读
该研究用 123M 参数的缓存感知流式混合 RNNT/CTC 模型解决日语流式与完全开放不能兼得的问题,在五个测试集上以 12.4% 平均 CER 超越大 5-8 倍的开放基线,代价是预训练筛选与多域微调加解码器容量三者组合时会在讲座域明显退化。
针对注意力编解码器逐字生成慢而 CTC 贪心快但易错的问题,论文提出在同一联合模型内用 CTC 贪心做初稿、注意力解码器只重写低置信位置的 SASD,并在 AISHELL-1 等数据上报告接近注意力重打分的字错率与 2.8 到 3.5 倍加速,但跨硬件的非同条件数值只能定性参考。
针对全双工语音模型长时交互中声学键值缓存持续膨胀的问题,该研究在听音空隙内增设转写旁路并驱逐旧声学状态,在十分钟会话上将峰值流式缓存从 11.35K 降至 4.02K 并保持实时处理,但反通道接管率有所上升。
该工作把同时传译拆成因果数据构造、自适应等待策略、解耦词义与声音的双流架构和只罚可避免延迟的指标,用约 2.7K 小时每语言对的数据在西德法转英上以可运行的自适应策略超越固定切块并降低延迟,但语音端质量仍依赖更大合成与翻译模型补强。
针对只能看到 2-8 秒前缀时的语音质量估计问题,ANCHOR 在 ARECHO 上引入块级与整句级双分辨率自回归解码与块优先顺序,在 2 秒前缀上把 PLCMOS 误差降低 48%,代价是在长前缀的 UTMOS 等全局指标上出现可预期的交叉落后。