长语音推理为何变慢变错:C3 如何只取一小部分音频 KV 还能跟住转写
针对语音大模型音频 KV 缓存过大带来的长上下文推理瓶颈,论文提出按 KV 头共享竞争与层次分裂合并自适应分配检索粒度的 C3 个方法,在四个语音大模型和识别翻译摘要任务上于相同检索预算下取得最强检索精度且在小预算下优势最大,但结论只在所测模型长度预算与贪婪解码条件下成立并伴随短上下文额外开销。
针对语音大模型音频 KV 缓存过大带来的长上下文推理瓶颈,论文提出按 KV 头共享竞争与层次分裂合并自适应分配检索粒度的 C3 个方法,在四个语音大模型和识别翻译摘要任务上于相同检索预算下取得最强检索精度且在小预算下优势最大,但结论只在所测模型长度预算与贪婪解码条件下成立并伴随短上下文额外开销。
针对本地音乐应用在导入时需快速、小体积估计调性的问题,论文用确定性色度模板打分做初排,再用 2 万参数的 Transformer 结合帧级色度上下文做残差纠正,在 1000 首密封 FMAKv2 上把 MIREX 从 61.08 提高到 73.55,代价是增加 115 KB 模型和 76.7 MB 含 ONNX Runtime 的安装体积与每首 0.32 …
论文解决加性相对位置项与 FlashAttention 式分块不兼容导致的二次方显存与重复计算问题,用可达范围投影、常数偏移复用与按偏移无原子累加实现精确加速,8K 长度下前向 1.8–6.4 倍、反向 2.0–21 倍加速并大幅降显存,但增益高度依赖偏移分布与注意力占比。
论文冻结 MiniCPM-o 4.5 只在它由听转说的时刻读隐藏状态拟合逻辑回归失败风险门控,内部 240 问上激进策略以 50% 上交率把准确率从 42.1% 提到 69.2%,同时比全部上交把平均服务器等待从 8.68 秒降到 5.95 秒,代价是仍需云端专家和转写合成开销且对多步执行失误几乎无效。
论文用异质共振神经元替换脉冲储备中的积分神经元,使储备对输入频率敏感,在十个时序与事件视觉任务上提升分类精度,并以稀疏脉冲计算保持低能耗。
论文从八工具的 OmniAgent 出发,先按功能剪枝再把音频与视觉工具合并为全模态字幕与问答两个工具,在三个基准上保持准确率的同时把工具调用和估计推理成本降低约七成,长视频上的智能体优势更明显。
本文研究固定全模态大模型推理时按查询只在必要时加入视频,在 WorldSense 上用代价敏感学习在保持全模态精度的同时大幅降低输入 token、时延和费用,但结论只在二选一文本加音频与文本加音频加视频、文本嵌入路由的条件下成立。
针对大 Transformer 做语音情感太重的问题,EmoNet 用四块深度可分离卷积加双向 LSTM 与多头注意力池化,在 TESS 加 RAVDESS 加 SAVEE 合并集上达到 96.75% 测试准确率,仅用 4.11M 参数,但结论只在表演式录音与固定划分下成立。
LeanTTS 把中文发音前端、流匹配声学模型和 Vocos 声码器一起压缩到 18.9M 参数,用参考音频做零样本克隆、用说话人标签做固定音色定制,在 Seed-TTS-Eval 上验证了质量、相似度和 CPU 实时率之间的取舍。
论文解决流式推理中把模型切成几个持续运行大内核的问题,用常规执行画像加独立算子实测来排序候选切分,在三个模型十三个模型批量组合上选出实测最快设计,代价是只做排序代理而不精确预测绝对时延。
论文比较 CTC 与单调 Transducer 在不同剪枝和语言模型下的词错误率与搜索耗时,核心证据是外部语言模型下多数时刻活跃假设很少但困难处出现瞬时高峰,而按分数差距保留假设的动态剪枝能在保持词错误率的同时把搜索耗时降低约一个数量级。
论文用三值 MLGRU 做时序滤波、用并行共振发放神经元在训练中直接产生二进制脉冲,在 LibriSpeech 上达到 6.44% 左右的 test-clean 词错误率,代价是更宽的通道、长卷积核与仍保留的逐元素连续乘法,且能耗数字只是基于 45nm 常数的建模估算。
针对文本生成同步音视频时每步都要联合去噪成本过高的问题,CAVC 在检测到音频预测进入可缓存区间后只复用音频去噪输出并跳过跨模态注意力、让视频继续精修,最后恢复几步联合去噪,在三套基准上实现 1.10-1.35 倍实测加速并改善部分动态指标。
针对资源受限语音增强要在小算力下保留频谱细节的问题,HC-AINet 用三角形 ERB 子带压缩增益预测、用带噪谐波位置图在原始频点上补充谐波分支并做幅度条件相位重建,在 VoiceBank-DEMAND 上 64 带达到 PESQ 3.20 而参数约 0.27M,代价是频带加倍时运算量明显上升。
论文在统一流程下比较音频 Transformer 的剪枝与合并稀疏化,提出结合注意力与频域线索的谱平坦度方法,并在三个数据集上验证了频率感知策略在训练后稀疏化中的优势与计算节省。
AD-Mamba 针对长而稀疏且有噪声的音频分类,用先 CNN 后 Transformer 的多阶段蒸馏把局部谱时纹理和全局语义判别能力转入 Mamba 主干,在 AudioSet 上以 30M 参数达到 50.3% mAP 并在长音频与噪声填充下保持更稳的精度,代价是三阶段共 400 轮蒸馏训练与对强教师的依赖。
围绕一位只有约 22 分钟数据的意大利病理嗓音说话人,论文比较四种 Whisper 容量与三种 LoRA 放置,发现两侧注意力同时适配最稳定且时间精度权衡最好,但增益随录音时长而变化。
针对越南语多说话人条件流声学模型直接一步采样质量崩溃的问题,MixiSpeech 用 10→4→2→1 课程让一步学生拟合冻结教师的局部积分终点,在 100 组共享文本-说话人评测上恢复到接近 10 步教师的质量,而声学向量场评估降为 1 次、端到端耗时从 0.0662 s 降到 0.0312 s。
DriftTTS 针对多步声学模型推理慢的问题,把迭代采样搬到训练中用漂移目标学习从文本先验到梅尔谱的直接映射,在 LJSpeech 上一次解码达到接近多步基线的自然度和可懂度,但结论只在单说话人、相同声码器和评测条件下成立。
针对视频广告结构化信息抽取中均匀采样冗余大、关键镜头易漏检的问题,AdaFrame 用哈希投票、感知相似度和语义聚类三级去重加自适应帧预算,在 500 条 Pitt 广告上把平均帧数压到 24.6 帧并把情感准确率做到 79.4%,代价是需要先算 CLIP 嵌入和音频转写等预处理开销。