用脑电做线索,在音频编解码隐空间里直接生成目标说话人语音
NeuroCodec 把含脑电和混合语音的提取任务改为在冻结音频编解码器隐空间中生成目标隐变量,用图卷积脑电编码加跨模态注意与 Mamba 融合,并在 Cocktail Party 和 KUL 上以可懂度和听感得分验证,同时给出因果在线扩展的精度与实时因子代价。
NeuroCodec 把含脑电和混合语音的提取任务改为在冻结音频编解码器隐空间中生成目标隐变量,用图卷积脑电编码加跨模态注意与 Mamba 融合,并在 Cocktail Party 和 KUL 上以可懂度和听感得分验证,同时给出因果在线扩展的精度与实时因子代价。
RubatoCodec 用保留比固定的事件预算和潜变量变化加波形频谱通量决定的边界,在低事件率下以自适应切分提升重建可懂度和预测质量,并用显式时长支持流式合成,代价是需要传输时长边信息且波形细节仍落后于最强基线。
StreamEval 用 300 个定时交互用例考查边生成边响应能力,发现好看和像本人不等于听指令,最高请求执行分也只有 36.90、25.93 和 15.00,而完整编辑还要同时付出保源和保时的代价。
StyleStream 2.0 用去风格的内容提取加少步数生成重建解决流式整体风格转换延迟高且只能用参考音频指定目标的问题,用自回归微调保流式质量、用文字控制器实现风格向量设计与编辑,在参考音频转换上风格相似度最强但可懂度和情感编辑仍有代价。
针对流式端到端 diarizer 只有 N 个并发槽位、超过 N 人就会把不同人复用到同一槽位的问题,论文用只读槽位后验和音频的因果链接器做重标号,在 1418 个会话上把超限时的 DER 从 36.81% 降到 22.64%,且不改变漏检和误检。
SpikeAid 针对噪声下助听既要降噪又要按压缩曲线放大的耦合问题,用 NR-Net 做语音噪声分支表征、WDRC-Net 估计分支增益并联合优化,以 DRN 神经元兼顾快瞬态和慢包络,在固定压缩配置和离线构造目标下提升目标一致性和感知指标,并以 FPGA 流式实现换来能效提升。
JAVIS 针对对话系统缺视觉通道与级联延迟问题,用共享大语言模型加联合精炼头产生统一音视表示并分两支流式生成语音和面部动作,在 VStyle 未见样本上取得更好的唇同步与表情恰当性,并把初始延迟降到 1.27 秒,但结论依赖合成训练数据与特定评测条件。
StreamLSC 针对超低码率下严格逐帧因果的语音压缩问题,用帧内归一化、边界缓存因果卷积与 RWKV 循环状态做主干并配帧级熵模型,在 LibriTTS 上以约 1.1 kbps 取得与离线版本相当的率失真表现,但模型达 149.2M 参数且实时系数为 0.0539。
论文用一个全双工对话主干同时驱动语音合成与手势表情合成,并用语义调用加模板库补足稀疏的语义手势,在保持语音问答与轮流准确率的同时提升了对话手势与表情指标,但结论只在所建 138 段人工验证集与所用参考型评测条件下成立。
论文要解决多人多智能体长时间交互中动作后果易丢失的问题,用 DAO 维护可计算的共享世界状态、用 JING 按观察者条件逐段生成第一人称视听体验,在 WBench 上双向与四步自回归版本取得 Full 平均 81.0 与 79.9 分,代价是需要分阶段训练、记忆检索与蒸馏来控制历史与步数。
针对全流式零样本语音合成在超过训练长度后发音和音色保持不住的问题,论文通过缩小注意力窗口并增强对声音提示的偏置,在不训练的情况下维持了长语音的稳定性和自然度,代价是发音准确率仍不及专门做长语音训练的模型。
论文把越南语语音识别输出的口语串流式转成带标点大小写和数字时间的书面串,用预训练 EnViT5 加读标注写策略和前后缀缓存优化,在 5M 句自建数据上接近离线端到端基线并快于混合流式方法,但含噪语音和罕见外来词仍是主要代价和适用边界。
D2 把已具备理解与生成能力的半双工语音模型按固定短块切分对话,用流式编码器蒸馏加全双工监督微调实现边听边说,在 80 毫秒块下 Qwen3-Omni-D2 仍保持 70.1 的 VoiceBench 总分,但小块会明显削弱停顿容忍并保留合成与数据构造等限制。
Drama 3 用混合线性注意力骨干加逐码本预测解码器把配音、修订、拼场和补录写成同一种对话,用单一人类偏好奖励做强化学习,在多语克隆和按需修改上测得可复述的提升,代价是更大的总参数和更复杂的推理工程。
LiveAnon 用冻结的流式语音识别编码器特征直接驱动自回归编解码器语言模型做语音转换,并用截断的残差量化延迟同时控制隐私、情感保留和延迟,代价是仍依赖编码器分块带来的数百毫秒算法延迟。
LiveSynth 用流式 MIDI 加 CLAP 音色向量逐帧生成连续音频隐变量再经因果 VAE 解码,在 NSynth 和 Slakh 上取得与离线基线可比的音色相似度和更低的频谱距离,代价是音符准确率和制作质量偏低,且实时性结论只在 M3 MacBook Air 上 10 ms 帧长下成立。
Oído 把 13M 参数 Conformer-CTC 以整句整块加按帧动态 int8 的方式装进 ESP32-S3 并在 LibriSpeech 上做到 3.70%/8.23%,代价是单核约 2 倍实时、文本要在说话结束后数秒才出现。
RASSG 针对流式语音中用户修正参数会导致已启动工具产生不可逆陈旧执行的问题,用三次识别一致启动加校准无效风险在最后可取消时刻否决继续执行,在受控执行时钟下把 ReCAST 修正子集的陈旧率从 50.00% 降到 3.15%,代价是保留 3.676 s 成功延迟并依赖固定工具时间假设。
Sonic-AMG 针对双耳音频流加世界系声源位置输入,用 what 与 where 分离表征加因果 Transformer 与流头逐段生成动作,并以排练训练和空间反馈缓解历史与空间条件失配,在 SAM 上取得最优 FID 与 R-precision 且保持实时流式生成,但结论限于 SAM 划分与已知声源位置条件。
针对非音乐音频到符号音乐的一对多转换问题,Sori 用只在音乐音频上训练的编码器加双解码器结构配合域对抗训练和无分类器引导,在 AudioSet 评测上用连续参数控制贴合输入与音乐性之间的权衡,并以平均实时率 0.82 在消费级 CPU 上实现流式推理。