零样本

📄 Beyond Acoustic Sparsity and Linguistic Bias: A Prompt-Free Paradigm for Mispronunciation Detection and Diagnosis #发音错误检测 #自监督学习 #知识蒸馏 #数据增强 #零样本 🔥 8.5/10 | 前25% | #发音错误检测 | #自监督学习 #知识蒸馏 | #自监督学习 #知识蒸馏 | arxiv 学术质量 6.5/7 | 选题价值 1.8/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Haopeng Geng (The University of Tokyo, Graduate School of Engineering) 通讯作者：未说明（论文未明确指定通讯作者） 作者列表：Haopeng Geng (The University of Tokyo, Graduate School of Engineering), Longfei Yang (The University of Tokyo, Graduate School of Engineering), Xi Chen (The University of Tokyo, Graduate School of Engineering), Haitong Sun (The University of Tokyo, Graduate School of Engineering), Daisuke Saito (The University of Tokyo, Graduate School of Engineering), Nobuaki Minematsu (The University of Tokyo, Graduate School of Engineering) 💡 毒舌点评 论文精准地将当前MDD方法的不足归纳为“声学陷阱”和“语言学陷阱”，并给出了一个逻辑自洽且有效的解决方案CROTTC-IF，最终在多个数据集上取得了SOTA或极具竞争力的性能，展现了扎实的工程能力和清晰的学术思考。然而，论文对“声学权重λ”在真实场景中的最佳取值（如非实验环境、自发语音）缺乏讨论，且最终框架对λ的敏感性也暗示了“解耦”的理想与“融合”的现实之间仍存在张力。 ...

📄 MAGIC-TTS: Fine-Grained Controllable Speech Synthesis with Explicit Local Duration and Pause Control #语音合成 #流匹配 #零样本 #语音大模型 ✅ 7.5/10 | 前25% | #语音合成 | #流匹配 | #零样本 #语音大模型 | arxiv 学术质量 4.5/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Jialong Mai（华南理工大学） 通讯作者：Xiaofen Xing（华南理工大学） 作者列表：Jialong Mai（华南理工大学）、Xiaofen Xing（华南理工大学）、Xiangmin Xu（华南理工大学） 💡 毒舌点评 亮点在于首次将“token级时长与停顿”作为显式数值条件注入Flow-based TTS，思路清晰且工程设计（如零值校正、交叉验证数据构建）巧妙。短板是实验规模和场景相对有限（主要在中文短句上验证），且缺乏与更多现代零样本TTS基线（如CosyVoice 2、MaskGCT）的直接对比，说服力可以更强。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开权重。 数据集：论文中描述了数据构建方法（基于Emilia子集和交叉验证子集），但未提及是否公开或如何获取。 Demo：未提及在线演示。 复现材料：论文详细描述了训练配置（学习率、batch size、步数、硬件等）、模型架构细节和评估协议，提供了良好的复现信息基础。 论文中引用的开源项目：F5-TTS（骨干模型）、Stable-ts（时长标签生成）、Montreal Forced Aligner (MFA)（对齐与评估）、Vocos（声码器）、Emilia（训练数据集）。 📌 核心摘要 问题：现有的文本转语音（TTS）系统通常只提供语句级的时长控制或全局语速调节，缺乏对单个token（如音素、字）的精确发音时长和停顿的显式、细粒度控制能力。 方法核心：提出MAGIC-TTS，这是一个基于流匹配（Flow Matching）的零样本TTS模型。其核心是通过残差连接，将token级的内容时长（di）和停顿（pi）作为显式数值条件注入到文本表征中，从而引导并行声学生成器进行合成。 创新点：这是首个支持token级显式时长与停顿控制的TTS模型。关键创新包括：1）设计了可学习的门控残差注入机制，将时长条件融入文本嵌入；2）提出零值校正方法，平衡内容时长与停顿两个控制分支的学习信号；3）构建了基于交叉验证的高置信度时长监督数据集，用于稳定训练。 主要实验结果： 时长控制精度：在B@150测试集上，与无控制的“自发合成”相比，提供显式控制后，内容时长平均绝对误差（C-MAE）从36.88ms降至10.56ms，相关性（C-Corr.）从0.588升至0.918；停顿平均绝对误差（P-MAE）从18.92ms降至8.32ms，相关性（P-Corr.）从0.283升至0.793。 局部编辑场景：在导航、朗读等场景中，模型能以极低偏差（内容时长偏差1.07ms）实现均匀时长基线，并能将局部编辑区域有效推向目标值（内容时长偏差17.60ms，停顿偏差23.33ms）。 消融实验：移除零值校正或高置信度监督会损害控制精度，尤其是更精细的内容时长控制。 实际意义：使TTS系统能够支持需要精确节奏控制的实用场景，如导航提示的均匀播报、教学朗读的节奏引导、以及无障碍代码阅读的特定停顿。 主要局限性：模型性能高度依赖外部对齐工具（如MFA、Stable-ts）提供的时长标签质量；实验主要集中在中文短句，对长文本、多语言及更复杂韵律的泛化能力未充分验证；未开源代码和模型。 🏗️ 模型架构 MAGIC-TTS建立在基于条件流匹配（Conditional Flow Matching）的非自回归零样本TTS骨干网络（F5-TTS）之上。其整体流程如下： ...

语音/音乐/音频论文速递 2026-04-25 共分析 2 篇论文 ⚡ 今日概览 📥 抓取 2 篇 → 🔬 深度分析完成 🏷️ 热门方向 方向 数量 分布 #机器人技能学习 1篇 █ #语音合成 1篇 █ 📊 论文评分排行榜（2 篇，按分数降序） 排名 论文 评分 分档 主任务 🥇 MOMO: A framework for seamless physical, verbal, and gr 7.5分 前25% #机器人技能学习 🥈 MAGIC-TTS: Fine-Grained Controllable Speech Synthesis w 7.5分 前25% #语音合成 📋 论文列表 🥇 MOMO: A framework for seamless physical, verbal, and graphical robot skill learning and adaptation ✅ 7.5/10 | 前25% | #机器人技能学习 | #多模态模型 | #大语言模型 #工业应用 | arxiv ...

📄 MAGIC-TTS: Fine-Grained Controllable Speech Synthesis with Explicit Local Duration and Pause Control #语音合成 #流匹配 #零样本 #可控生成 ✅ 7.5/10 | 前25% | #语音合成 | #流匹配 | #零样本 #可控生成 | arxiv 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Jialong Mai（华南理工大学） 通讯作者：Xiaofen Xing（华南理工大学） 作者列表：Jialong Mai（华南理工大学）、Xiaofen Xing（华南理工大学）、Xiangmin Xu（华南理工大学） 💡 毒舌点评 亮点在于它系统性地解决了TTS中“token级时长控制”这个长期被忽略的痛点，并通过精巧的条件注入和高置信度数据监督，实现了从“全局语速”到“单字时长”的可控性飞跃，为有声读物、语音导航等应用提供了新工具。短板是论文在展示“控制力”的同时，未能充分证明其“合成力”——即与当前顶尖的零样本TTS模型（如CosyVoice 2）相比，其默认语音的自然度和表现力是否依然具有竞争力，这使得其实际应用价值打上了一个问号。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及公开模型权重。 数据集：论文中详细描述了其构建的数据集（CPT语料和SFT高置信度子集），但未提及是否公开或如何获取。 Demo：未提及在线演示。 复现材料：论文提供了较为详细的训练细节（如模型配置、优化器参数、训练步数、硬件信息）和消融实验设置，附录中包含额外分析，这有助于理解方法，但不足以完全复现，因为缺少核心代码和数据。 论文中引用的开源项目：依赖的开源工具/模型包括：F5-TTS（骨干网络）、Stable-ts（用于时序标注）、Montreal Forced Aligner (MFA)（用于高置信度标注）、Vocos（声码器）、Emilia（数据集）、MNV-17 ASR模型（用于转录）。 📌 核心摘要 问题：现代文本到语音（TTS）系统普遍缺乏对单个token（字/音素）级别内容时长和停顿的精确、显式控制能力，现有控制通常仅限于句子级语速或全局风格，无法满足需要精细节奏控制的场景。 方法核心：本文提出了MAGIC-TTS，首个支持显式token级时长和停顿控制的TTS模型。其核心是在一个基于流匹配（Flow Matching）的零样本TTS骨干网络上，通过可学习的残差向量将token级的时长和停顿数值作为显式条件注入文本表示。同时，设计了高置信度时长监督数据构建流程（交叉验证Stable-ts与MFA对齐）和训练机制（零值校正、控制缺失鲁棒性训练）来确保控制的可靠性。 创新点：a) 首次实现显式、可解释的token级内容时长与停顿控制；b) 提出了结合大规模弱监督和高置信度交叉验证的时长数据构建方法；c) 通过零值校正和随机丢弃训练，平衡了可控合成与默认高质量合成。 主要实验结果：在时序控制基准测试中，提供显式控制后，内容时长MAE从36.88ms降至10.56ms，相关性从0.588升至0.918；停顿MAE从18.92ms降至8.32ms。在局部编辑场景测试中，模型能以低偏差（内容17.60ms，停顿23.33ms）将编辑区域向目标值调整。消融实验证明了零值校正和高置信度监督的有效性。 实际意义：使TTS系统能够支持需要精确节奏控制的应用，如导航语音的局部强调、有声读物的节奏引导、无障碍场景下的代码朗读等，提升了语音合成的可编程性和实用性。 主要局限性：a) 未与当前SOTA的零样本TTS模型在合成自然度、说话人相似度等核心指标上进行对比，无法评估其在通用合成质量上的水平；b) 评估主要基于中文数据，缺乏多语言验证；c) 未开源代码和模型，复现门槛高。 🏗️ 模型架构 MAGIC-TTS建立在一个基于条件流匹配（Conditional Flow Matching）的非自回归零样本TTS骨干网络（具体为F5-TTS）之上。其核心创新在于对文本侧条件表示的增强，以注入显式时序控制。 ...

📄 X-VC: Zero-shot Streaming Voice Conversion in Codec Space #语音转换 #流匹配 #零样本 #流式处理 ✅ 6.5/10 | 前25% | #语音转换 | #流匹配 | #零样本 #流式处理 | arxiv 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Qixi Zheng（上海交通大学） 通讯作者：Xie Chen（上海交通大学，上海创新研究院） 作者列表： Qixi Zheng（上海交通大学） Yuxiang Zhao（上海交通大学） Tianrui Wang（天津大学） Wenxi Chen（上海交通大学，上海创新研究院） Kele Xu（复杂与关键软件环境国家重点实验室） Yikang Li（上海创新研究院） Qinyuan Chen（复旦大学，上海创新研究院） Xipeng Qiu（复旦大学，上海创新研究院） Kai Yu（上海交通大学） Xie Chen（上海交通大学，上海创新研究院） 💡 毒舌点评 亮点：论文的工程实现非常扎实，将预训练编解码器、双条件Transformer和分块推理整合成一个高效的流式系统，在延迟（240ms）和离线效率（RTF 0.014）上达到了实用水平，且开源了代码和模型。 短板：核心创新略显“缝合”，双条件建模和流匹配都是已有技术，论文的主要贡献在于针对特定任务的适配和系统集成，缺乏更根本性的原理突破；同时，与之对比的基线（如MeanVC）可能并非最新或最强，削弱了结论的说服力。 🔗 开源详情 代码：论文明确提供了GitHub仓库链接：https://github.com/Jerrister/X-VC。 模型权重：论文提到已发布检查点（checkpoints），但未提供具体下载链接，需前往GitHub仓库查看。 数据集：论文使用了Emilia和LibriTTS数据集，但未提及是否公开了处理后的训练数据集或生成的配对数据。评估使用公开的Seed-TTS-Eval基准。 Demo：论文中未提及在线演示。 复现材料：论文详细说明了模型配置、训练数据处理流程、训练策略（优化器、学习率、batch size等）、超参数设置，并提供了架构图，复现信息充分。 引用的开源项目：论文依赖并提及了预训练的SAC编解码器、ERes2Net说话人编码器、Whisper和Paraformer用于评估，以及Seed-VC用于生成训练数据。 📌 核心摘要 问题：零样本语音转换需要同时实现高质量的说话人特征迁移和低延迟的流式推理，这是一个尚未很好解决的挑战。 方法核心：提出X-VC系统，在预训练的SAC语音编解码器的潜在空间中进行一步转换。核心是一个双条件声学转换器，它联合处理源语音的编解码器潜在表示和目标参考语音的帧级梅尔频谱条件，并通过自适应归一化注入全局说话人嵌入。 创新点：与已有方法相比，新在：(1) 在编解码器潜在空间而非波形或频谱图空间进行转换；(2) 设计了双分支Transformer架构来异构地建模帧级和句级条件；(3) 提出了基于生成对数据和角色分配策略的训练方法；(4) 设计了与编解码器分段训练范式对齐的分块流式推理方案。 实验结果：在Seed-TTS-Eval基准上，流式设置下，X-VC在英语和中文测试集上取得了最佳的WER（英语3.14%，中文2.65%）和领先的说话人相似度（SIM）。离线设置下，其实时因子（RTF）仅为0.014，远低于基线模型（如Seed-VC tiny为0.069）。跨语言评估也表现良好。 实际意义：提供了一种实用的高质量低延迟零样本语音转换方案，适用于需要实时交互的配音、对话等场景。 主要局限性：模型总参数量较大（539M）；转换质量高度依赖预训练编解码器（SAC）的性能；论文未提供完整的训练数据集信息。 🏗️ 模型架构 X-VC是一个端到端的语音转换系统，整体流程如图1所示： ...

📄 ATRIE: Adaptive Tuning for Robust Inference and Emotion in Persona-Driven Speech Synthesis #语音合成 #知识蒸馏 #流匹配 #零样本 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Aoduo Li (广东工业大学，邮件地址：3123009124@mail2.gdut.edu.cn) 通讯作者：Hongjian Xu (广东工业大学，邮件地址：123457890wasd@gmail.com) 其他作者： Haoran Lv (广东工业大学) Shengmin Li (华南理工大学) Sihao Qin (华南理工大学) 💡 毒舌点评 亮点：巧妙地将14B参数LLM的“角色思考过程”（Chain-of-Thought）蒸馏成一个仅11.8M参数的轻量级“韵律翻译器”，实现了从语义理解到声学控制的跨模态桥接，这个想法非常优雅且实用。槽点：实验严重依赖一个特定的动漫角色数据集，虽然证明了方法在该领域的有效性，但其在通用语音、其他语言或更严肃风格上的泛化能力有待商榷，有点像“在二次元世界里当王者”。 🔗 开源详情 代码：已开源。GitHub地址：https://github.com/（论文中提供了链接占位符，实际应指向具体仓库）。 模型权重：已公开。在HuggingFace或其他平台发布了P2P Adapter、参考音频库等组件的预训练模型。 数据集：已公开发布了AnimeTTS-Bench（包含初始3角色版和扩展50角色版），包含音频、标注和角色配置。 在线Demo：论文中提供了在线体验地址的链接占位符。 依赖的开源项目：论文中明确依赖或基于以下开源项目：GPT-SoVITS v4（TTS骨干）、Qwen 2.5 14B（教师LLM）、Sentence-BERT、ECAPA-TDNN、emotion2vec、HiFi-GAN等。 📌 核心摘要 本文针对现有语音合成系统在生成角色驱动、情感丰富的语音时难以同时保持角色身份一致性和情感表达准确性的问题，提出了ATRIE框架。其核心是Persona-Prosody Dual-Track (P2-DT) 架构，将语音生成解耦为静态的音色轨道（通过标量量化保持身份锚点）和动态的韵律轨道（通过分层流匹配生成情感韵律）。关键创新在于一个离线知识蒸馏过程，利用一个大型语言模型（Qwen 2.5 14B）作为教师，通过思维链推理生成包含情感理由和数值化韵律目标（VAD分数等）的监督信号，来训练一个轻量级的P2P适配器。该适配器在推理时无需LLM参与，可高效地将文本和角色描述映射为韵律控制参数，引导GPT-SoVITS v4骨干网络合成语音。实验在自建的AnimeTTS-Bench（50个角色）上进行，ATRIE在角色一致性分数（CCS: 0.86）、情感表达准确率（EEA: 0.84）和跨模态检索平均精度（mAP: 0.75）上均达到SOTA，同时保持了实时推理能力（RTF: 0.18）。局限性包括对参考音频库的依赖、长句情感强度维持的挑战，以及当前评估集中于动漫风格。 🏗️ 模型架构 ATRIE系统是一个两阶段框架（离线蒸馏，在线推理），其核心是P2-DT架构，整体流程如下： 输入：文本T，角色配置P（包含性格描述、说话模式等）。 语义理解与韵律目标生成（离线/教师阶段）： 教师Persona-LLM (Qwen 2.5 14B)：接收T和P，输出两部分：(a) 思维链理由R：一段解释为何角色会以某种情感说话的文本；(b) 数值化韵律目标p_tgt：一个包含{V, A, D, F0_rel, E_rel}（效价、唤醒度、时长、相对基频、相对能量）的JSON。 CoT到目标的映射：理由R通过冻结的Sentence-BERT编码为768维语义嵌入h_R。 轻量级适配器训练（学生阶段）： 学生P2P Adapter (11.8M参数)：一个4层Transformer，通过交叉注意力对齐文本语义标记和音素级声学帧。包含4个并行预测头，分别预测韵律标量（F0, E, D, P）。 训练损失：结合了MSE损失（对齐预测韵律p_hat与教师目标p_tgt）和语义对齐损失（对齐适配器中间表示h_adapter与h_R）。此外，引入了对比损失，确保生成的韵律嵌入z_i与目标角色锚点z_p接近，而与其他角色z_j远离，从而学习一个角色判别的韵律空间。 在线推理阶段： 输入：文本T，角色配置P，参考音频库ℛ。 步骤1：P2P Adapter根据T和P预测韵律控制参数C和角色语义嵌入。 步骤2：参考音频选择：根据预测的VAD目标，从库中检索最匹配的参考音频r*。 步骤3：TTS骨干 (GPT-SoVITS v4)：以T、r*和韵律参数C为条件，生成语义令牌，再通过声学解码器和HiFi-GAN声码器输出最终波形y。 双轨融合： 音色轨道：从参考音频r*中提取全局音色嵌入z_timbre，并通过标量量化（SQ）稳定化，作为身份锚点。 韵律轨道：P2P Adapter预测的动态韵律流，通过8步流匹配生成。 融合：静态音色和动态韵律在GPT-SoVITS的方差适配器层融合，共同指导声学生成。 关键设计理由： ...

📄 AST: Adaptive, Seamless, and Training-Free Precise Speech Editing #语音合成 #流匹配 #零样本 #数据集 ✅ 评分：7.5/10 | arxiv 👥 作者与机构 第一作者：Sihan Lv（浙江大学，推断） 通讯作者：Meng Xi（浙江大学，推断） 其他作者：Yechen Jin（浙江大学，推断），Zhen Li（浙江大学，推断），Jintao Chen（浙江大学，推断），Jinshan Zhang（浙江大学，推断），Ying Li（浙江大学，推断），Jianwei Yin（浙江大学，推断），Meng Xi（浙江大学，推断） 机构说明：所有作者邮箱均为 @zju.edu.cn，论文未明确标注具体学院或实验室名称，根据致谢中的“Zhejiang Key Laboratory Project”可推断为浙江大学相关实验室。 💡 毒舌点评 把图像编辑里玩烂的潜空间反演（Latent Inversion）搬到语音流匹配模型上，再缝个动态“弱事实引导”当创可贴，居然就把一群专门训练过的语音编辑模型按在地上摩擦——这恰恰说明语音领域在TTS模型免训练适配上的思路有多贫瘠。不过槽点也很明显：WER相比基座IndexTTS-2不降反升（2.43% vs 2.91%），说明为了保住未编辑区域的“原汁原味”，编辑区域的文本准确性还是被献祭了一点；而且LibriSpeech-Edit数据集靠Qwen3-8B生成目标文本，编辑质量全看大模型脸色，可靠性存疑。 🔗 开源详情 代码：论文中未提及是否开源代码或推理实现。 模型权重：AST本身无额外训练权重，完全依赖公开的预训练模型IndexTTS-2。IndexTTS-2的权重是否公开论文未明确说明。 数据集：论文提出并声称发布（“we release”）LibriSpeech-Edit数据集（2000条样本，总时长3.6小时），但未在正文中提供具体下载链接、HuggingFace仓库或数据许可协议。 预训练权重：基于IndexTTS-2。 在线Demo：论文中未提及。 依赖的开源工具：Whisper large-v3（OpenAI）、Qwen3-ForcedAligner-0.6B（阿里巴巴）、Qwen3-8B（阿里巴巴）、WavLM（微软）。 📌 核心摘要 本文针对现有语音编辑方法依赖任务特定训练、未编辑区域时间一致性差的问题，提出了AST（Adaptive, Seamless, and Training-free），一种基于预训练AM-FM（自回归-流匹配）范式TTS模型的精确语音编辑框架。AST首先通过逆Euler ODE求解器将原始语音反演至潜空间，然后利用最长公共子序列（LCS）进行词级对齐，将未编辑区域的反演潜流与编辑区域的高斯噪声进行潜变量重组（Latent Recomposition）。为防止拼接边界出现伪影，论文提出了自适应弱事实引导（AWFG），根据当前潜流与原始反演流的偏差动态加权mel空间引导信号。此外，AST天然支持局部风格编辑（如情感、方言）。为填补公开基准空白，论文还发布了LibriSpeech-Edit数据集（2000条，3.6小时）和词级动态时间规整指标（WDTW）。实验表明，AST在说话人相似度（0.986）和时间一致性（WDTW 0.2025）上达到SOTA，WER比专门训练的基线降低近70%，且无需任何额外训练。 🏗️ 模型架构 AST的整体架构是一个免训练的推理框架，依附于一个预训练的AM-FM（Autoregressive Model-Flow Matching）TTS模型（论文使用IndexTTS-2）。其核心不是重新设计网络层，而是在已有模型的潜空间中进行“手术刀式”干预。完整输入输出流程如下： 输入：原始mel-谱图 $m_{\mathrm{ori}}$、原始转录 $y_{\mathrm{ori}}$、目标转录 $y_{\mathrm{tgt}}$、声学提示 $m_{\mathrm{ref}}$。 ...

📄 Generalizable Audio-Visual Navigation via Binaural Difference Attention and Action Transition Prediction #音视频 #声源定位 #强化学习 #多任务学习 #零样本 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Jia Li（新疆大学，计算机科学与技术学院，联合研究实验室 for Embodied Intelligence） 通讯作者：Yinfeng Yu（新疆大学，计算机科学与技术学院，联合研究实验室 for Embodied Intelligence；邮箱：yuyinfeng@xju.edu.cn） 其他作者：根据署名顺序，论文仅列出了两位作者，Jia Li和Yinfeng Yu。他们共同隶属于以下机构： 新疆大学，联合研究实验室 for Embodied Intelligence 新疆大学，丝绸之路多语种认知计算联合国际研究实验室 新疆大学，计算机科学与技术学院，乌鲁木齐 830017，中国 💡 毒舌点评 亮点：这论文把“听声辨位”这件事整明白了！BDA模块不搞虚的，直接让左右耳特征“打架”（算差值），逼着模型关注声音从哪边来，而不是这是什么声音，这对没见过的声音特别管用。ATP任务像给导航策略上了个“行为矫正器”，让动作更连贯，减少在陌生环境里原地转圈的傻行为。 槽点：方法组合拳虽然有效，但每个拳法（BDA， ATP）本身都不算开宗立派，更像是给现有强力基线（AV-WaN）打了个高效的“补丁”。另外，论文里那些“ Hear Sharper, Act Smarter”的口号，比技术细节更让人印象深刻。 🔗 开源详情 代码：论文在作者信息下方明确提供了GitHub链接（https://github.com/...，具体地址需查看arXiv源文件或点击HTML版本中的链接）。表明代码已开源。 模型权重：论文中未明确提及是否公开预训练模型权重。 数据集：实验使用的是公开的SoundSpaces仿真平台、Replica和Matterport3D数据集，非本文自建。 在线Demo：论文中未提及。 依赖的开源项目：论文依赖SoundSpaces仿真环境、以及可能基于PyTorch等深度学习框架。引用的基线方法（如AV-NaV, AV-WaN）的代码可能也是其依赖。 📌 核心摘要 本文旨在解决音频-视觉导航（AVN）智能体在未见环境和未闻声音类别下泛化能力差的核心问题。作者指出，现有方法性能下降主要源于两个因素：一是音频表征混淆了语义与空间信息，导致对未闻声��定位不准；二是强化学习策略过拟合于训练环境的动态和布局。为此，本文提出了一个名为BDATP的即插即用框架。在感知层面，设计了双耳差分注意力模块，通过显式建模和利用左右声道特征的差异，强化模型对空间方位线索的提取，降低对声音语义的依赖。在策略层面，引入了动作转移预测辅助任务，通过预测轨迹中下一步的动作来增加策略学习的时序一致性约束，鼓励模型学习跨环境的通用导航规律。在Replica和Matterport3D数据集上的大量实验表明，将BDATP集成到AV-NaV和AV-WaN等主流基线中，能带来一致且显著的性能提升，尤其在最具挑战性的未闻声音设置下，成功率最高可提升超过21个百分点，证明了其优越的泛化能力和鲁棒性。 🏗️ 模型架构 BDATP框架整体是一个端到端的强化学习系统，以深度图像和双耳声谱图为输入，输出导航动作。其核心流程和组件如下： 输入与编码： 视觉输入：智能体的第一人称深度图像，通过一个独立的CNN编码器（三个卷积层+线性层+ReLU）编码为512维的视觉特征 f_v。 音频输入：双耳声谱图（左右声道）。首先沿声道维度分离为左、右两个单声道声谱图。然后，通过一个权重共享的CNN编码器（结构与视觉编码器相同）分别编码，得到中间特征图 f_al 和 f_ar。 双耳差分注意力模块： ...

📄 Hierarchical Codec Diffusion for Video-to-Speech Generation #语音合成 #扩散模型 #多模态模型 #零样本 #跨模态 🔥 评分：8.5/10 | arxiv 👥 作者与机构 第一作者：Jiaxin Ye（Fudan University） 通讯作者：Hongming Shan（Fudan University，hmshan@fudan.edu.cn） 其他作者： Gaoxiang Cong（Institute of Computing Technology, Chinese Academy of Sciences；University of Chinese Academy of Sciences） Chenhui Wang（Fudan University） Xin-Cheng Wen（Harbin Institute of Technology (Shenzhen)） Zhaoyang Li（Fudan University） Boyuan Cao（Fudan University） 💡 毒舌点评 亮点：这篇论文像个严谨的“交通协管员”，终于把 RVQ 不同层级当成了不同的车道——让嘴唇和身份去底层飙内容，让表情去高层管情绪，治好了 VTS 领域长期存在的“视觉条件瞎注入”的拥堵病。 槽点：虽然口口声声“首个”层次化离散扩散，但骨子里是 SEDD + MaskGCT Codec + DiT AdaLN 的“学术拼好饭”；更妙的是训练时偷偷用真实音频的 GE2E 特征来 stabilize 模型，推理时却只能看脸硬撑，这算不算一种“开卷考试练出的学霸”？ ...

📄 Adaptive Test-Time Scaling for Zero-Shot Respiratory Audio Classification #零样本 #音频分类 #大语言模型 #自适应推理 ✅ 评分：7.8/10 | arxiv 👥 作者与机构 第一作者：Tsai-Ning Wang（埃因霍温理工大学，Eindhoven Artificial Intelligence Systems Institute） 通讯作者：Aaqib Saeed（埃因霍温理工大学，Eindhoven Artificial Intelligence Systems Institute） 其他作者： Herman Teun den Dekker（伊拉斯姆斯医学中心） Lin-Lin Chen（埃因霍温理工大学） Neil Zeghidour（Kyutai，法国） 💡 毒舌点评 亮点在于将“测试时计算缩放”这个前沿理念巧妙地引入医疗音频零样本分类，设计了一个优雅的三层“升级打怪”推理流程，让模型能“偷懒”也能“拼命”，在效率和效果间取得了很好的平衡。槽点则是核心框架严重依赖外部预训练模型（AcuLa编码器和Gemini LLM），自身创新集中在推理策略上，有点“站在巨人肩膀上做调度”的感觉，且临床属性系统和规则表的构建需要领域专家参与，通用性存疑。 🔗 开源详情 代码：论文声明“源代码在评审期间作为匿名补充材料提供，并将在论文被接收后在GitHub上公开”。目前未公开。 模型权重：未自行发布模型。完全依赖于公开的预训练模型： 音频-文本编码器：AcuLa（来自论文 wang2025languagemodelssemanticteachers）。 Tier-H LLM：Gemini 3 Pro（Google），以及消融实验中使用的gpt-oss、Mistral-Small、Kimi-K2。 数据集：使用的所有呼吸音频数据集均为公开数据集，并在实验部分和附录C中详细引用（如UK COVID-19, CoughVID, ICBHI, Coswara, KAUH, Resp.@TR）。 预训练权重：不适用。 在线Demo：论文中未提及。 依赖的开源工具：FAISS（用于高效近邻检索）。 📌 核心摘要 本文旨在解决零样本呼吸音频分类中“一刀切”的推理计算浪费问题。为此，提出了TRIAGE框架，这是一个三层自适应推理管道：第一层（Tier-L）进行快速的标签-文本相似度匹配；若置信度不足则升级至第二层（Tier-M），通过匹配预定义的临床描述符（如声音特征、位置）并基于规则投票决策；若仍不确定则进入第三层（Tier-H），检索相似病例报告并利用大语言模型进行推理。该框架通过置信度门控动态分配计算资源，使简单样本提前退出，复杂样本获得更多计算。在九个公开数据集上的零样本实验表明，TRIAGE平均AUROC达到0.744，显著优于先前的零样本方法，并在多个任务上匹配甚至超越了监督学习基线。分析显示，性能提升主要集中在难以判断的样本上（相对提升最高达19%），证明了自适应计算在医学音频分析中的有效性。 🏗️ 模型架构 TRIAGE是一个三层级联、基于置信度门控的自适应推理框架，其核心是冻结一个预训练的音频-文本嵌入模型（如AcuLa），仅通过改变测试时的推理策略来提升性能。 整体流程（输入到输出）： ...