预训练，

📄 Hard to Be Heard: Phoneme-Level ASR Analysis of Phonologically Complex, Low-Resource Endangered Languages #语音识别， #预训练， #低资源， #模型评估 ✅ 评分：7.5/10 | arxiv 👥 作者与机构 第一作者：V.S.D.S. Mahesh Akavarapu (University of Tübingen, 计算语言学系) 通讯作者：Gerhard Jäger (University of Tübingen, 计算语言学系) (根据邮箱和机构推断) 其他作者：Michael Daniel (University of Jena, 语言学系) 💡 毒舌点评 亮点：在“几乎没数据”的极限条件下，用巧妙的初始化技巧（平均复合音素权重）让一个通用模型（wav2vec2）学会了识别拥有80多个辅音的“语言界刺猬”Archi，并且把识别错误归因于“见得少”而不是“长得怪”，这个洞察很有价值。 槽点：总共就1小时左右的训练数据，得出的“S型学习曲线”结论虽然有趣，但总感觉像是在用显微镜观察一滴水里的生态，结论能不能推广到其他语言和更大规模的数据上，还得打个大大的问号。 📌 核心摘要 这篇论文针对两种音系极其复杂、资源极度匮乏的濒危东高加索语言（Archi和Rutul），首次建立了语音识别（ASR）基准。作者们整合并标准化了现有的语言学记录，创建了约50分钟和1小时20分钟的语音-文本数据集。他们评估了多种前沿ASR模型（wav2vec2, Whisper, Qwen2-Audio等），并为wav2vec2引入了一种语言特定的音素词汇表及启发式输出层初始化方法（平均复合音素参数），在该低资源场景下取得了与Whisper相当或更优的性能。超越传统的词/字错误率，论文进行了细致的音素级错误分析，发现音素识别准确率（F1）与训练频率的对数之间存在稳健的S型（sigmoid）关系。这一核心发现表明，许多通常归因于音系复杂性的识别错误，实际上主要由训练数据稀缺导致。研究证明了音素级评估对于理解低资源、类型复杂语言ASR行为的价值。 🏗️ 模型架构 论文主要评估和改进了以下模型架构，其核心输入输出流程为：原始音频波形 → 音频编码器（特征提取）→ 预测层（音素/子词概率）→ 解码（CTC或生成式）→ 文本转录（IPA或西里尔字母）。 wav2vec2 系列 (CTC-based): 整体流程：采用预训练的wav2vec2-large作为音频编码器，其后接一个线性预测层，使用连接时序分类（CTC）进行端到端训练。 关键创新组件：自定义输出层与启发式初始化。这是论文的核心方法创新。 w2v2l-custom：首先，从训练数据的IPA转录中提取语言特定的音素集，构建一个精简的词汇表V_new。对于复合音素（如kʷ），将其视为单个标记，而非wav2vec2原始IPA分词器中的序列（k, ʷ）。 w2v2l-custom-avg (核心)：对于V_new中的每个复合音素，其输出层（线性层）的权重和偏置参数，通过平均其在预训练模型原始词汇表V_old中对应的所有组成音素（如k和ʷ）的参数来初始化。公式为：W_*i = (1/k) * Σ W_old_*ij, b_i = (1/k) * Σ b_old_ij。这旨在将跨语言的音素知识迁移至新语言。 w2v2l-custom-cpy1：作为对比，直接复制基础音素（如k）的参数，而非平均。 w2v2l-custom-avg-lm：在上述CTC模型之上，外接一个词级3-gram语言模型（KenLM），在解码时联合最大化CTC概率和语言模型概率，以降低词错误率。 Whisper-large-v3 (Encoder-Decoder): ...

📄 LLM-Codec: Neural Audio Codec Meets Language Model Objectives #语音大模型， #预训练， #基准测试， #音频大模型 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Ho-Lam Chung (台湾大学 通信工程研究所， 华硕智能云服务) 通讯作者：Hung-yi Lee (台湾大学 人工智能卓越研究中心) 其他作者：Yiming Chen (华硕智能云服务) 💡 毒舌点评 亮点：精准地抓住了语音令牌化领域“重建质量”与“语言模型可预测性”之间的核心矛盾，并用一套设计精巧、实验扎实的“组合拳”（FTP+SA+Gumbel桥）漂亮地解决了问题，效果拔群。槽点：方法依赖语音-文本对齐（SA），这在非语音音频或无转录数据上就成了“阿喀琉斯之踵”，限制了其通用性；另外，训练时需要额外的前向传播和辅助模块，对计算资源是个小考验。 📌 核心摘要 本文旨在解决语音语言模型（SLM）中一个根本性矛盾：神经音频编码器以波形重建为目标进行优化，而语言模型以序列预测为目标进行优化，这种目标不匹配导致生成的离散语音令牌熵值高、难以预测。为此，作者提出了LLM-Codec训练框架，在不改变编码器和语言模型架构的前提下，通过引入两个面向语言模型的正则化目标来重塑编码器：1）未来令牌预测（FTP），使用Medusa风格的多头结构预测多个未来令牌，鼓励令牌序列的局部可预测性；2）语义对齐（SA），通过对比学习将语音在冻结LLM中的隐藏状态与对应文本的隐藏状态对齐，确保令牌的语义一致性。一个可微分的Gumbel桥使得梯度能够端到端地回传至编码器。实验表明，LLM-Codec在SALMon语音连贯性基准上达到61.6%的准确率（比基线AUV高12.1个百分点），并将令牌级困惑度降低了35倍，同时在Codec-SUPERB-tiny基准上将语音Mel距离提升了5.0%，证明了重建质量与令牌可学习性可以协同提升。 🏗️ 模型架构 LLM-Codec的整体架构是一个增强型的神经音频编码器，其核心是在标准编码器-量化器-解码器流程中，插入了面向LLM的训练模块，并通过一个可微分的桥接器与冻结的LLM主干连接，实现端到端训练。 完整输入输出流程： 输入：原始音频波形 x。 编码与量化：音频 x 通过编码器 ℰ 得到连续潜变量 z，再通过量化器 𝒬（使用Gumbel-Softmax桥接）得到离散令牌 c。 LLM处理：离散令牌 c 通过音频令牌嵌入层 E_audio 转换为嵌入向量，输入到冻结的LLM主干（如Qwen3-4B）中，得到各层的隐藏状态 {h_t}。 辅助任务计算： 未来令牌预测（FTP）：在LLM的最后一个隐藏状态上，连接K个Medusa头（线性层 M_k），分别预测当前时刻之后第k个未来令牌。 语义对齐（SA）：从LLM的中间到高层（如第10-25层）提取语音序列的最后隐藏状态 h_audio，与对应文本通过相同且冻结的LLM得到的最后隐藏状态 h_text 进行对齐（余弦损失+对比损失）。 重建输出：离散令牌 c 通过解码器 𝒟 重建为音频波形 x̂。 损失计算与反向传播：总损失 ℒ_total 包含重建损失 ℒ_codec、桥接损失 ℒ_bridge、FTP损失 ℒ_FTP、语义对齐损失（ℒ_cos + ℒ_ctr）。梯度通过Gumbel桥反向传播至编码器 ℰ，从而优化编码器使其产生对LLM更友好的令牌。 主要组件与设计理由： ...

📄 Qwen3.5-Omni Technical Report #语音对话系统， #音频大模型， #多模态模型， #预训练， #流式处理 🔥 评分：9.5/10 | arxiv 👥 作者与机构 第一作者：论文以“Qwen Team”署名，未明确列出第一作者。根据贡献者列表排序和惯例，Jin Xu（标注为*）很可能是核心贡献者及通讯作者。 通讯作者：Jin Xu (*) 其他作者：论文列出了大量核心贡献者（Core Contributors）和贡献者（Contributors），均来自阿里巴巴（Alibaba） 的通义千问（Qwen）团队。具体包括：Bin Han, Bowen Xu, Baosong Yang, Bin Zhang, Bo Zheng, Dayiheng Liu, Fan Zhou, Hongkun Hao, Hangrui Hu, Hao Zhou, Jianxin Yang, Jingren Zhou, Keqin Chen, Lulu Hu, Le Yu, Mingkun Yang, Peng Wang, Pei Zhang, Qize Yang, Rui Men, Ruiyang Xu, Shuai Bai, Shurui Li, Sibo Song, Ting He, Xize Cheng, Xuejing Liu, Xingzhang Ren, Xian Shi, Xiong Wang, Xinyu Zhang, Xinfa Zhu, Yunfei Chu, Yuanjun Lv, Yuchong Sun, Yongqi Wang, Yuxuan Wang, Yang Zhang, Zishan Guo, Zhifang Guo, Ziyang Ma 等。 💡 毒舌点评 亮点：这篇论文堪称“全模态六边形战士”，从音频编码器（AuT）到统一理解的Thinker，再到生成语音的Talker，最后到流式交互的ARIA，形成了一套完整且强大的技术栈，在215个基准上“刷榜”的实力令人印象深刻。 槽点：论文长得像一本小技术手册，信息密度极高，读起来需要耐力；另外，虽然API已开放，但未能开源代码和模型权重，对于学术界的研究复现和深度改进设置了门槛。 ...