不训练也能适应口音与用词:拼接式示范让各类编码器解码器模型都学会跟读
论文研究英语语音识别在推理时用语音文本示范做领域自适应,对比拼接与交错两种示范组织,发现六个模型无需额外训练都能获益,词与说话人信息是主要来源,而拼接方式适用面更广但受上下文长度限制。
论文研究英语语音识别在推理时用语音文本示范做领域自适应,对比拼接与交错两种示范组织,发现六个模型无需额外训练都能获益,词与说话人信息是主要来源,而拼接方式适用面更广但受上下文长度限制。
针对指令式语音合成缺字级对应与可检视性的问题,InstCharVoice 用接地标注加逐字五维声学规划实现指令到字符声学的显式落地,在关键词级声学误差和指令跟随主观分上报告更好结果,代价是说话人相似度和可听写性略有回落且抽象情感未建模。
在英法双语 HuBERT 等总时长对照下,增强语言判别把连续音素 ABX 从 11.6% 降到 10.4%、把 sWUGGY 从 52.1% 提到 56.7%、把 ProsAudit 词汇子任务从 68.9% 提到 72.9%,但最终离散单元无改善且过晚干预会增加语言分隔。
论文针对语音指令识别中脉冲神经网络被认为比比特串行量化网络更慢的问题,提出带延迟控制的发放内核与流水延迟搜索,在匹配映射下用建模核延迟证明跨时间步重叠可更快,并在 GSC 上以 96.31% 精度达到 119.64 μs 建模延迟,代价是等待位置选错会同时变慢变差。
针对纯音听阈无法反映的耳蜗神经退变,研究用内毛细胞到听神经的互信息损失在低语境 VCV 音节上比较时间与噪声探针,发现 40% 压缩加调幅噪声的建模损失最大,且该组合是行为实验中唯一显著区分自报噪声聆听困难组的条件,但安静下接近天花板与个体阈值校准限制了因果归因。
针对复数谱对数幅度难以直接求近端算子的问题,论文提出经指数耦合辅助变量间接施加倒谱稀疏等先验的 EPILOG 正则,给出分量近端算子与交替极小 ADMM 流程,去混响实验显示倒谱稀疏版本取得最高平均指标,但收敛性证明留待后续工作。
针对说话人音频驱动听众头部反应的时滞对齐与局部表情随机性问题,REALM 用延迟先验门控融合做粗轨迹再只在表情子空间做音频条件随机残差,在 ViCo 与 L2L 上降低表情与姿态误差并改善帧间动态,但刚体姿态分布与部分方差指标仍有基线更优的反例且依赖离线窗口与机器人专用重定向。
针对合成训练与真实对话失配且无信号级真值的问题,该文用合成预训练加目标感知弱监督过渡再做质量过滤的 RemixIT 重混自适应,在 REAL-TSE 未见场景 EVAL-2 上把 TER 从 0.763 降到 0.713,代价是只保留 4.2 小时高置信伪标签且依赖说话人标注与转写质量。
论文用 35 组受控训练比较等错误率与人听相似度的关系,发现等错误率几乎不跟踪人听判断,而有效维度越低对齐越高,压缩嵌入维度可把 AM-Softmax 的对齐从 0.08 提升到 0.738,代价是等错误率升至 20.48% 左右。
针对全双工语音要求持续低延迟而知识推理与工具调用耗时可变的问题,SALMONN-duo 用常开全双工前端负责交互并决定是否异步委派给后端智能体,再用知识边界感知监督与成本感知强化学习控制委派效用,证据显示其在问答与任务对话上改善准确与委派权衡,代价是仍依赖强后端与仿真延迟条件。
论文先用 80 例平行对诊断冻结 TTS 速度场是否存在可用、无代价分段的情感编辑信号,再提出动态速度搬运的 SEmoEdit,在 600 例基准上以替换 TEP 0.691 与擦除 NP 0.704 超越训练式与转向式基线,代价是说话人相似度下降与跨域控制依赖骨干。
针对参考条件下的跨语言语音二选一诊断任务,论文用约 300 组人类偏好筛选并校准声学度量为非约束性概率提示以扩展出万级监督,再比较监督微调、在策略蒸馏与强化学习的不同分工,报告显示维度一致性提升 6.3 个百分点但强化学习主要改善高共识样本且可能降低维度诊断分。
针对语音语言模型生成后须经编码器重读记号并发生替换的问题,Redwing 用替换图谱基与分离求解的嵌入检测函数实现可复现的鲁棒水印,在 Moshi 经 8 次 Mimi 重合成后保持 80.7% 检出率,代价是与 KGW 相当的语音质量变化。
该文用 Top-k 稀疏自编码器分解五种神经音频编解码表示并做激活转向,以分类器预测的朝目标偏移为证据探查年龄、性别、口音信息的稀疏可分性,代价是内容词错误率上升与感知质量下降且转向强度不可单调控制。
针对窄带语音缺失高频且稀疏瞬态难以恢复的问题,UDSS-BWE 用双流 Swin-1D 格型生成器建模幅度和相位,并用五个决策科学与不确定性判别器做尾部敏感监督,在 VCTK 与 MLS 法语上以 18.5M 对 72M 的参数量取得更优感知质量,代价是训练期判别分支带来的额外开销。
该研究用共享交叉注意力接口统一文本线索和注册语音两种目标指定方式,在 30000 个双说话人混合评估上以五字文本加注册语音达到总体字错率 8.80%,代价是单线索推理弱于并行融合且依赖 oracle 文本跨度。
针对 Whisper 解码器逐词生成耗时的问题,Whisper-Flash 用读取编码音频与已接受解码器状态的两层并行起草器一次提出 8 个词并由冻结 Whisper 验证,在完整 LibriSpeech 测试集上达到贪心解码 3.16 倍与 2.85 倍的音频吞吐且输出词元完全一致,代价是编码器固定开销占比上升与大批量下加速比收窄。
论文以语种识别为可控分类任务,研究仅由声学损坏引起的域偏移,构建 CWWS 小库并用 DomainBed 比较 ERM、MMD、DANN,发现域内性能不能预测跨域鲁棒性且显式域不变约束未稳定超越 ERM,并在 MMS-LID-126 大系统上验证了多样声学暴露主导鲁棒性但转移不对称、未知严重失真仍困难。
该研究把电磁发音仪记录线性映射到 Maeda 参数空间,再用非对称典型时间规整把数学音节模型轨迹对齐到真实时间轴,用语音内容一致与不一致配对的置换对照证明语音一致时发音与共振峰相关显著更高,但唇高参数与生理延迟仍是代价与边界。
论文研究音频大模型能否预判自身转写是否可靠,发现解码器自评严重高估而冻结音频编码器表示可支撑四分类预测,在域内宏 F1 达 81.10% 且跨域保持 78.09%,代价是需按模型实测构建标签库并做边界对齐。