角色对不上、坏片段没人管:AuDirector 用选角加审片闭环做长音频故事
针对长篇沉浸式音频故事中人声与角色错配和生成质量波动问题,AuDirector 用身份感知预制作加评论者主导的合成修正闭环与人工交互修订组织语音、音效和音乐,论文报告其在结构连贯、情感表达和声学保真上优于基线,但非语音多样性不足仍是代价与边界。
针对长篇沉浸式音频故事中人声与角色错配和生成质量波动问题,AuDirector 用身份感知预制作加评论者主导的合成修正闭环与人工交互修订组织语音、音效和音乐,论文报告其在结构连贯、情感表达和声学保真上优于基线,但非语音多样性不足仍是代价与边界。
针对朗读英语词级感知重音评分任务,听觉对比网络用三个声学线索的相邻词非线性对比加轻量聚合,在跨语料迁移上以 202 参数达到 r=0.412 追平冻结 wav2vec2 个基线,加文本后到 r=0.451,代价是依赖外部词边界且仅在单语料对上验证。
AugCodec 针对低帧率下语义与说话人纠缠导致重建词错误率高的问题,用语音转换、换句同说话人和低频保留三种增强输入分别提取语义、说话人和韵律令牌,并在 LibriSpeech test-clean 上以 12.5 Hz 三路令牌取得更低词错误率和更高音质,代价是依赖外部语音转换模型和固定低频分界等构造选择。
针对只有单声道而缺空间线索的问题,AURA 先用混合 U-Net 做粗双耳估计再用条件流匹配做细化,在同一数据集上 Wave-L2 做到 0.123 并以 11.26 M 参数运行,但计算量与相位指标仍有代价。
针对多部位听诊需要整病人作答的问题,AuscuTSLM 用轻量声学编码加 Perceiver 压缩与门控交叉注意力接入冻结 LLM,在 CaReSound 上取得 0.865 F1-macro 和 0.952 BERTScore,代价是 30 秒长上下文与多实例聚合缺一不可。
针对四对低资源语音到英语翻译的统一共享负迁移问题,论文用聚类分组、自交叉梯度相似度定共享比与联合 SVD 加正则 CCA 定能量分配来只改造编码器第 11 层 FFN2,在统一微调基线上取得最高 14.4% 相对 BLEU 增益,代价是只验证了单层单模型且部分语言对仍有回退。
该研究把二语可懂度操作化为音素错读特征上的回归问题,用 600 条人工评分录音训练 AdaBoost 决策树,以可懂度相关 0.74 超过语音识别词错率基线 0.67,并用特征重要性给出分音素的误差排序,但代价是只用切分特征且样本偏向中高水平。
针对饼干失窃图描述任务,该研究用微调伯特模型做 23 类内容信息单元识别并用层相关传播定位时间,再把单元转移建模为带时间间隔权重的有向时序图,证据是手动转录上 F1 为 0.879 左右而临床组表现出更少独立节点和更长转移间隔,代价是动作类定位精度偏低且长叙事需要按词数归一化。
论文要解决从常态嗓到嘎裂嗓转变点的自动定位问题,选择不惩罚八度跳变的 REAPER 基频加声门闭合时刻估计配合导数阈值与能量峰约束,最强证据是 474 个澳式英语/hVt/样本上与人工标注的组内相关系数为 0.768 且元音长短效应结论一致,代价是自动法系统性偏早一至两个脉冲且仅验证了一种音系来源的尾部嘎裂。
该研究用超声舌图和唇图复现基频预测并检验信息来源、时序、过拟合与重音耦合四种假设,最强证据是朗读全局相关约 0.70 掉到自发约 0.39 而重音词预测更好,代价是只用不到 5 分钟微调与朗读训练难以推广到对话。
针对视听目标说话人分离中判别法过平滑与扩散法需约 30 步迭代的问题,AV-FlowSep 用条件流匹配学习混合到干净梅尔谱的直线传输路径,在 VoxCeleb2 与 LRS2 的语音-语音和语音-噪声任务上以 1 步与 5 步推理取得可比或更优的感知质量与跨数据集稳定性,代价是仍存在面部条件带来的说话人混淆与声码器引入的轻微失真。
针对远场多说话人加噪声下目标说话人提取,论文采用第一阶段视听引导波束形成得到目标与干扰波束、第二阶段双分支跨波束注意力做互斥抑制,在自采真实录制集平均词错误率从 28.40% 降到 20.38%,代价是两阶段级联与双分支结构更复杂。
针对音视频特征同时需要时间敏感与语义敏感却被混在一起评的问题,该研究用野外视频构造时间扰动与语义编辑两条独立挑战,以 0.64 秒分块对角相似度的二选一准确率为证据,显示时间强者与语义强者并不重合,但生成式编辑引入的额外声学差异仍是代价。
BACH 把八种约 1 kbps 的神经音频编解码器放在五种生物声健康任务上,用原始域、压缩表示域和重构音频域三条路径对比,发现重构保真度高的编解码器不一定保留诊断语义,而解耦语义的编解码器下游更好但重构受限。
针对音乐重建中相位不准与声像塌陷问题,论文用 K 加权感知滤波、相位相关损失与幅度相位分离的 MSLR 监督改造连续变分自编码器,并在多分辨率评价与消融中验证高频谐波与空间保持的收益及其对内部数据的依赖。
针对分块流式 Conformer 中因果卷积丢弃块内未来帧的问题,BACON 把深度卷积通道分成因果组与边界感知双向组,在参数量不变下扩大感受野,并在 LibriSpeech test-other 上 CHAT 相对降低 9.3% 词错误率且平均发射块序号不增加。
针对刚性槽位式语音合成难以处理自由形式用户请求的问题,Bagpiper-TTS 用同一模型先做文本规划再生成数百词元富标题最后合成语音,在 Seed-TTS-Eval 英文集上报告词错误率为 1.7%,代价是依赖大规模仿真数据过滤与长标题推理链。
针对有限真实会议数据下的多人语音识别,论文用语义与说话人双编码器加时间交错输入、按段长度加权的话者损失和按样本损失分布掩蔽重叠高损失词,在约 0.7B 参数下降低重复幻觉并改善说话人归属,代价是交错使输入变长且依赖多阶段训练与强制对齐预处理。
针对多语种语音识别中共享解码器互相干扰的问题,BELLA 把语音编码器加冻结大语言模型解码器的桥接对齐放在下层、把路由器加混合专家低秩适配的识别放在上层,在五个 CoVoST 2 语种上用词错误率验证收益,同时保留了小语种与高资源语种表现不一致等代价。
BEST-RQ-2 保留冻结随机投影离散目标,用只看未掩码块的 ViT 上下文编码器加轻量预测器做两步掩码预测,在同一 AudioSet 划分和 20 万步预算下 X-ARES 与 XARES-LLM 总体迁移优于单阶段基线,而推理只用编码器故推理代价不变,代价是补块式切分仍使语音略低于条带式 BEST-RQ。