论文解读

逐帧可流式传输的低码率语音压缩 StreamLSC

StreamLSC 针对超低码率下严格逐帧因果的语音压缩问题,用帧内归一化、边界缓存因果卷积与 RWKV 循环状态做主干并配帧级熵模型,在 LibriTTS 上以约 1.1 kbps 取得与离线版本相当的率失真表现,但模型达 149.2M 参数且实时系数为 0.0539。

 · 更新于 2026-10-20 · 约 18 分钟 · 8723 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-10-16

共分析 69 篇语音/AI 论文

 · 更新于 2026-10-20 · 约 147 分钟 · 73483 字 阅读 →
论文解读

BridgeCodec:在冻结编解码器之间做潜在特征搬运的低码率互通框架

BridgeCodec 要解决冻结的 8 kHz 源编码器与 48 kHz 目标解码器无法直接通信的问题,用 Schrödinger Bridge 在潜在空间做最优传输并以 Mamba 增强的 U-Net 建模长时依赖,在 1 kbps 传输下实现 48 kHz 重建,代价是需要两阶段训练且高频内容带有生成性幻觉。

 · 更新于 2026-10-20 · 约 20 分钟 · 9771 字 阅读 →
论文解读

FOAdapter:给冻结单声道编码外挂一条空间码流的低码率 FOA 语音编码

FOAdapter 冻结单声道编码只传 W 声道内容,再用一条 275 bit/s 的空间码流恢复四声道 FOA,在 Spatial LibriSpeech 上把方向误差稳定到约 7 度,代价是语音客观质量低于同骨干的四通道独立编码。

 · 更新于 2026-10-20 · 约 18 分钟 · 8745 字 阅读 →
论文解读

SemiCodec:用半离散表示同时保留离散接口和高保真重建

针对离散语音编码易丢声学细节而连续隐变量难做离散建模的问题,SemiCodec 用同步的离散 token 加连续隐变量做波形重建,并用先保留后接地两阶段训练缓解连续通路捷径,在 LibriSpeech test-other 上以 25 帧每秒实现 PESQ-WB 4.03 与 WER 5.02%,代价是仍需保留连续通路和两阶段训练。

 · 更新于 2026-10-20 · 约 18 分钟 · 8539 字 阅读 →
每日研究速递

语音/音乐/音频论文速递 2026-10-15

共分析 146 篇语音/AI 论文

 · 更新于 2026-10-20 · 约 299 分钟 · 149424 字 阅读 →
论文解读

GS-Codec:用一维高斯溅射代替量化器的神经语音编码

GS-Codec 把编码器隐变量拟合成加权一维高斯基函数之和再做标量量化,用单检查点实现基元数与位深控制的码率调节,在 3 到 6 kbps 附近达到与 EnCodec 和 DAC 可比的重建质量,代价是迭代拟合的编码耗时需用预测网络摊销。

 · 更新于 2026-10-20 · 约 21 分钟 · 10495 字 阅读 →
论文解读

好看的听感分数为何留不住可懂度和声纹:非洲语音上的编解码器多任务基准

论文在三种非洲语音上固定识别与验证后端、只替换编解码器重建音频,显示参考型结构与基频误差比神经 MOS 更能跟踪下游退化,且中码率 RVQ 相对稳定而极低码率语义压缩在识别可用时仍可能丢失声纹,轻量 LoRA 适配可部分收回识别损失。

 · 更新于 2026-10-20 · 约 16 分钟 · 7983 字 阅读 →
论文解读

低帧率也要两手抓:可学习查询如何分开压缩语义与声音

针对 6.25 Hz 下语言信息与声学细节难以兼顾的问题,Q-SPT 用两组独立可学习查询分别压缩语义流与声学流并以自回归文本损失监督语义,在 LibriSpeech test-clean 重建与下游识别合成中取得同帧率最优,但合成可懂度仍弱于 FlexiCodec 且需更大训练开销。

 · 更新于 2026-10-20 · 约 20 分钟 · 9772 字 阅读 →
论文解读

动态帧率编解码的边界在何处切分:音节尺度为何优于音素尺度

论文以 FlexiCodec 为公共接口比较七种边界分配方法,发现音节、BPE 与词对齐更强的方法池化失真更低、重建词错误率更低,而音素级固定切分不如均匀切分,但自适应分配仍优于固定音节切分,代价是动态规划类方法边界选择耗时明显更高。

 · 更新于 2026-10-20 · 约 21 分钟 · 10044 字 阅读 →
会议总览

interspeech-2026 论文深度解读

共收录 1354 篇 interspeech-2026 会议论文的 Reader 深度解读

 · 更新于 2026-10-20 · 约 2613 分钟 · 1309023 字 阅读 →
论文解读

把音色抽出来、把冗余帧并起来:DySTCodec 如何做低码率双流语音离散化

针对单码本语音 token 同时建模内容与音色且固定帧率浪费码率的问题,DySTCodec 用 32 个固定长度全局说话人 token 加相似度动态聚合语义帧,在 LibriSpeech 上以 0.7 kbps 固定帧率和 0.57 kbps 动态帧率保持可懂度和音色相似度,但 25 Hz 激进压缩仍出现可懂度下降。

 · 更新于 2026-10-20 · 约 20 分钟 · 9570 字 阅读 →
论文解读

用三种增强输入拆开语音:AugCodec 如何把语义、音色和韵律分开压缩

AugCodec 针对低帧率下语义与说话人纠缠导致重建词错误率高的问题,用语音转换、换句同说话人和低频保留三种增强输入分别提取语义、说话人和韵律令牌,并在 LibriSpeech test-clean 上以 12.5 Hz 三路令牌取得更低词错误率和更高音质,代价是依赖外部语音转换模型和固定低频分界等构造选择。

 · 更新于 2026-10-20 · 约 20 分钟 · 9571 字 阅读 →
论文解读

内容是剩下的东西:用平行话语逼出不变的语音内容标记

针对自监督语音特征中说话人、韵律和通道信息泄漏进语义标记的问题,论文用平行话语加增强对齐微调 HuBERT 得到 PINT,最强证据是说话人探针从 93.1% 降到 1.2% 且语言模型困惑度降低 27–30%,代价是仍残留部分情感信号并依赖强制对齐与平行数据构造。

 · 更新于 2026-10-20 · 约 19 分钟 · 9057 字 阅读 →
论文解读

不用蒸馏也能解耦:CycleCodec 用换说话人再换回来约束内容流

针对无可靠教师模型的低资源语言因式分解编码问题,CycleCodec 用编解码器内部的循环说话人交换自监督代替蒸馏,在英语训练、中越零样本测试中提升了解耦稳定性,重建 WER 仍弱于有 WavLM 教师的 LSCodec。

 · 更新于 2026-10-20 · 约 19 分钟 · 9199 字 阅读 →
论文解读

把比特花在变化处:DTM-Codec 用掩码与等路径分段做可变帧率语音编码

针对固定帧率均匀分配分辨率的问题,DTM-Codec 用保留令牌加可学习掩码填充与线性时间边界选择 PLE,在计入位置边信息后的严格匹配总比特率下重建质量优于同架构固定帧率基线,代价是每步 1 比特掩码开销与高码率下增益收窄。

 · 更新于 2026-10-20 · 约 23 分钟 · 11189 字 阅读 →
论文解读

离散省步数、连续补细节:HybridCodec 在 6.25 Hz 下如何保住说话人

针对低帧率离散化丢失音色和微韵律的问题,论文用离散 token 做自回归骨架加单步连续残差精修,在 LibriTTS 上于 12.5 Hz 把 TTS 自然度从 1.99 拉回 4.10,代价是需维护双路编解码与两类损失的联合训练。

 · 更新于 2026-10-20 · 约 18 分钟 · 8681 字 阅读 →
论文解读

所谓语义码本为何更像语音:四种语音编码器的语义与语音 probing

论文用同义词与近音词距离、声道距离相关和图文对齐三组探测检验 EnCodec、DAC、MIMI、MIMO,显示编码器保留更多语音发音结构而非词汇语义,跨模态对齐增益有限且蒸馏并未带来真语义。

 · 更新于 2026-10-20 · 约 16 分钟 · 7828 字 阅读 →
论文解读

对齐到文本长度还不够:TASTE-S 如何把离线对齐改成可流式编码解码

针对文本语音联合建模中语音单元远长于文本且原 TASTE 依赖外部离线 ASR 与非因果解码器的问题,TASTE-S 用内置 CTC 识别加全因果分块解码实现流式文本对齐分词,证据是在 LibriSpeech test-clean 与长语音重建上保持相近质量的同时把编码与解码实时率降到远低于实时,主代价是需两阶段联合训练且部分自然度评分受去噪与评测条件影响。

 · 更新于 2026-10-20 · 约 18 分钟 · 8815 字 阅读 →
论文解读

5 Hz 还能保真吗:U-Codec 用长依赖与深残差量化换取三倍合成速度

针对自回归语音语言模型在 50-75 Hz 下序列过长导致推理慢的问题,U-Codec 把编解码帧率压到 5 Hz 并用帧间 Transformer 与 8-100 层因子化残差量化补偿细节损失,在 LibriSpeech 重建与 LibriHeavy 零样本 TTS 上保持可比质量,代价是局部多层自回归解码仍占开销且 DAC 最高保真仍未被超越。

 · 更新于 2026-10-20 · 约 20 分钟 · 9916 字 阅读 →