音视频

📄 Sparse-View Visual-Acoustic Latent Learning for Novel-View Audio Synthesis #空间音频 #多模态模型 #自监督学习 #音视频 ✅ 7.5/10 | 前25% | #空间音频 | #多模态模型 | #自监督学习 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yimu Pan (†Dolby Laboratories, ⋆宾夕法尼亚州立大学) 通讯作者：未说明 作者列表：Yimu Pan (†Dolby Laboratories, ⋆宾夕法尼亚州立大学), James Z. Wang (†宾夕法尼亚州立大学), Lie Lu (⋆Dolby Laboratories) 💡 毒舌点评 本文巧妙地将视觉几何表示（Plücker rays）引入声学特征学习，通过Transformer的潜空间注意力机制实现了“看声辨源”，在无需显式标注的情况下提升了稀疏视角合成的空间准确性。然而，其核心音频合成模块直接“拿来主义”ViGAS，虽然保证了公平对比，但也让人怀疑如果换成更强的端到端合成器，论文的创新性是否会被进一步稀释。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及是否公开。 数据集：使用了公开的数据集（Replay-NVAS, SoundSpaces-NVAS），但论文中未提供获取链接。 Demo：未提及。 复现材料：论文仅提供了高层模型架构、损失函数公式和部分实验设置（如基于LVSM预训练），但缺失大量训练细节（优化器、学习率、具体超参数值、训练时长等），不足以支持完全复现。 论文中引用的开源项目：LVSM [9]， ViGAS [7]， SoundSpaces 2.0 [24]， Gibson [25]， LibriSpeech [26]， VGGT [10]， Parallel WaveGAN [23]等。 总体评估：论文中未提及具体的开源计划，复现信息不充分。 📌 核心摘要 问题：现有新视角音频合成（NVAS）方法大多依赖密集场景表示（如全景图）或需要显式的声源位置信息，这些条件在实际应用中难以获取且成本高昂。 方法核心：提出一个名为NVA-Former的视觉-声学Transformer。它以稀疏多视角的图像、相机位姿和音频作为输入，通过视觉分词器（利用Plücker射线嵌入）和声学分词器提取特征，并在Transformer的潜空间中联合处理。模型同时输出目标视角的视觉特征和声学特征，分别用于重建新视角图像和合成双耳音频。 创新点：与依赖声源位置的稀疏方法（如ViGAS）或需要密集输入的稠密方法（如AV-Cloud）不同，本文的方法在潜空间中通过共享的相机位姿信息，隐式地建立跨视角、跨模态的3D关联，从而无需声源位置信息。 实验结果：在真实世界数据集Replay-NVAS和合成数据集SoundSpaces-NVAS上，使用两个输入视角时，NVA-Former在衡量空间准确性的LRE指标（Replay-NVAS：0.671 vs ViGAS 0.800/1.112）和感知质量CDPAM指标（0.132 vs ViGAS 0.383/0.352）上均显著优于最强基线ViGAS，同时保持有竞争力的MAG和RTE性能。消融实验表明，视觉监督和深度监督对性能至关重要。 实际意义：显著降低了现实世界数据采集的门槛，使得仅用少量同步相机-麦克风对即可学习3D声学场景表示，为AR/XR等应用提供了一种更实用的NVAS解决方案。 局限性：模型依赖于预训练的视觉Transformer（LVSM）权重以获得良好的3D视觉理解能力。其核心创新点在于声学特征的学习，而最终的音频合成模块直接复用了先前工作（ViGAS），这可能限制了对其所学声学特征上限的完整评估。 🏗️ 模型架构 论文提出的模型称为Novel-view Visual-Acoustic Transformer (NVA-Former)。其整体流程如图1所示： ...

📄 Spiking Temporal-Enhanced Network for Zero-Shot Audio-Visual Learning #音视频 #脉冲神经网络 #零样本 #音频分类 #多模态模型 ✅ 7.0/10 | 前50% | #音频分类 | #脉冲神经网络 | #音视频 #零样本 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Ziyu Wang（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院） 通讯作者：Wenrui Li（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院） 作者列表：Ziyu Wang（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院）、Wenrui Li（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院）、Hongtao Chen（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院）、Jisheng Chu（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院）、Hengyu Man（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院）、Xiaopeng Fan（哈尔滨工业大学，鹏城实验室，哈尔滨工业大学苏州研究院） 💡 毒舌点评 亮点：论文敏锐地抓住了音视频零样本学习中“时间建模”和“能效”两大痛点，提出的STFE和ETS模块设计目标明确，且通过减少时间步长实现了可观的能耗降低。短板：模型在复杂长视频（ActivityNet）上表现出的“过拟合已见类别、损害未知类别泛化”的现象，恰恰点出了其时间建模可能“用力过猛”而牺牲了通用性，这一核心矛盾在论文中未得到充分讨论和解决。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用公开数据集（VGGSound, UCF101, ActivityNet），未提及额外数据。 Demo：未提供在线演示。 复现材料：提供了主要超参数（见03.细节详述），但缺少优化器、学习率调度、数据预处理/增强细节、完整训练配置文件等。 论文中引用的开源项目：引用了预训练模型SeLaVi[17]（“Labelling unlabelled videos from scratch with multi-modal self-supervision”），但未提供其具体开源链接。 总体开源情况：论文中未提及开源计划。 📌 核心摘要 问题：现有音视频零样本学习（AVZSL）方法普遍存在时间线索利用不足的问题，常依赖简单的特征平均或基础脉冲神经元，无法捕捉深层时间依赖，且能效有待优化。 方法核心：提出脉冲时序增强网络（STEN）。其核心是在Spikeformer架构中集成可学习三元脉冲神经元（LTS） 和时空融合模块（STFE），并通过增强时序Spikeformer（ETS） 自适应整合相邻时间步信息。 新意：相比已有方法（如AVMST），STEN通过LTS增强特征表示能力，通过STFE联合建模时间局部动态和通道依赖，通过ETS捕获微观时序变化。同时利用脉冲神经网络（SNN）的事件驱动稀疏性，通过优化时间步长大幅降低能耗。 主要实验结果： 在VGGSound数据集上，GZSL调和平均（HM）达到8.04，比基线AVMST（7.68）提升4.7%，ZSL指标提升13.6%。 在UCF101数据集上，GZSL的HM达到34.27，比AVMST（29.91）提升14.6%，Seen类准确率大幅提升。 在ActivityNet数据集上，Seen类指标提升40.8%，但Unseen类和HM略有下降。 能效方面，与AVMST相比，SNN能耗降低41.7%，总能耗降低15.6%。 实际意义：为AVZSL任务提供了一种在保持竞争力的同时，显著降低计算能耗的解决方案，有助于将该技术部署到资源受限的边缘设备。 主要局限性：在时序更复杂、视频更长的ActivityNet数据集上，模型表现出对已见类别过拟合的倾向，牺牲了在未见类别上的泛化能力，表明其时间建模策略的稳健性有待提升。此外，论文未提及开源计划，可复现性存疑。 🏗️ 模型架构 STEN的整体架构如图1所示。其处理流程可分为四个主要阶段： ...

📄 Streamingbench: Assessing the Gap for MLLMs to Achieve Streaming Video Understanding #基准测试 #模型评估 #多模态模型 #音视频 ✅ 7.5/10 | 前25% | #基准测试 | #多模态模型 | #模型评估 #音视频 学术质量 5.8/7 | 选题价值 1.8/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Junming Lin（BUPT）（论文中Junming Lin标记为1⋆，表明是主要贡献者之一，但未明确“第一作者”；机构BUPT在作者列表中标注） 通讯作者：未说明（论文中未明确标注通讯作者。Maosong Sun标记为1†，但†符号在作者列表中未定义为通讯作者） 作者列表：Junming Lin3⋆（BUPT）、Zheng Fang1⋆（未说明）、Chi Chen1†（清华大学计算机系）、Haoxuan Cheng4（西安交通大学）、Zihao Wan1（未说明）、Fuwen Luo1（未说明）、Ziyue Wang1（未说明）、Peng Li2（清华大学AIR）、Yang Liu1,2（清华大学计算机系、清华大学AIR）、Maosong Sun1†（清华大学计算机系、清华大学AIR） 💡 毒舌点评 本文最大的贡献是“承认差距”——它用一套精心设计的考卷，无情地证明了当前最聪明的多模态大模型在“边看边想边答”的能力上，依然是个不及格的“学龄前儿童”（最佳模型比人类低21.4%），这记耳光打得非常及时且必要。然而，它只负责“诊断”却未开“药方”，深度的分析和指明的改进方向（如处理并发线索、主动输出）虽有价值，但停留在表面，更像一份详尽的“体检报告”而非“手术方案”。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：论文中未提及公开本文评估的模型权重（这些权重属于各模型原作者）。 数据集：论文明确指出StreamingBench已公开（“we hope our work facilitates further advancements…”），但未给出具体获取链接。论文中详细描述了数据构建过程，理论上可部分复现。 Demo：未提及。 复现材料：论文在附录（未提供）中应包含更详细的评估设置说明（如对非流式模型的评估方法）。正文中给出了一些评估配置（如输入帧数、分辨率处理）。 引用的开源项目：论文引用了大量开源模型作为评估对象，包括LLaVA-OneVision, Qwen2-VL, InternVL2, MiniCPM系列, VideoLLM-online, Flash-VStream等。 📌 核心摘要 问题：当前多模态大语言模型（MLLMs）主要针对离线视频理解（处理完整视频后回答问题），与人类能实时“观看、聆听、思考、回应”流式视频输入的能力存在显著差距。现有基准无法有效评估这种流式能力。 方法核心：提出StreamingBench，首个专门评估MLLMs流式视频理解能力的综合基准。该基准包含900个视频和4500个精心制作的问题对，每个视频设有5个不同时间点的问题以模拟连续流场景。它从三个核心维度评估：实时视觉理解、全模态（视觉+音频）理解和上下文理解。 新意：与传统离线基准相比，StreamingBench的关键创新在于强调了时间性（问题需在特定时间点回答）、交互性（支持多轮任务）和多模态同步性（需对齐处理视觉和音频流）。 主要实验结果：评估了3个闭源和20个开源MLLMs。即使是最强的闭源模型Gemini 1.5 Pro（总分70.26%），也比人类平均水平（91.66%）低21.4个百分点。开源模型中MiniCPM-o 2.6表现最好（66.01%）。模型在处理“并发线索”和“后续线索”时性能显著下降，表明其上下文记忆和实时对齐能力薄弱。分析还发现，使用语音指令会降低模型性能，而直接处理原生音频比使用ASR转录效果更好。关键性能对比如下表： 模型类型 模型名称 总体得分(%) 实时视觉(%) 全模态(%) 上下文(%) 人类 Human 91.66 91.46 90.26 93.55 闭源 Gemini 1.5 Pro 70.26 77.39 67.80 51.06 GPT-4o 64.31 74.54 50.95 49.06 Claude-3.5-sonnet 60.06 74.04 41.40 39.70 开源 (~7B) MiniCPM-o 2.6 66.01 79.88 53.40 38.45 InternVL2.5 64.36 78.32 46.70 43.14 InternLM-XComposer2.5-OmniLive 60.80 75.36 46.20 33.58 实际意义：为评估和推进真正具有实时交互能力的多模态AI系统（如个人助理、实时翻译、智能监控）提供了首个标准化测试集和基线，明确了当前技术的主要短板和未来发展方向。 主要局限性：本文是一项评估研究，未提出任何新的模型或算法来解决所发现的问题。其深度分析停留在现有模型的能力表征上，未进行根本性的模型架构或训练方法的探索。此外，视频来源为YouTube，可能无法完全覆盖所有现实流式场景。 🏗️ 模型架构 本文是一篇基准测试与评估论文，并未提出一个新的模型架构。其核心贡献在于定义和构建了一个评估框架（StreamingBench），并利用该框架测试了多种现有的MLLMs。 ...

📄 Teacher-Guided Pseudo Supervision and Cross-Modal Alignment for Audio-Visual Video Parsing #音视频 #视频理解 #知识蒸馏 #弱监督学习 ✅ 7.0/10 | 前25% | #音视频 | #知识蒸馏 | #视频理解 #弱监督学习 学术质量 6.5/7 | 选题价值 7.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Yaru Chen (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) 通讯作者：未说明 作者列表： Yaru Chen (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) Ruohao Guo (School of Intelligence Science and Technology, Peking University, China) Liting Gao (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) Yang Xiang (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) Qingyu Luo (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) Zhenbo Li (College of Information and Electrical Engineering, China Agricultural University, China) Wenwu Wang (Centre for Vision Speech and Signal Processing, University of Surrey, United Kingdom) 💡 毒舌点评 这篇论文的亮点在于其系统性和针对性：它精准地指出了现有弱监督AVVP方法的两个痛点（缺乏稳定段监督、粗糙的跨模态对齐），并用EMA和CMA这两个成熟但组合起来很有效的方案“对症下药”，在LLP数据集上的视觉和音视频联合指标上取得了实实在在的提升。但短板也十分明显：创新程度更像是一个“集大成”的工程优化方案，而非提出一个全新的学习范式；而且，论文在追求性能报告上非常详细，却在开源复现信息上极为吝啬，这对于一个旨在推动领域前进的会议论文来说，是减分项。 ...

📄 Temporal-Spatial Decouple Before Act: Disentangled Representation Learning for Multimodal Sentiment Analysis #多模态模型 #情感分析 #解耦学习 #音视频 ✅ 7.5/10 | 前25% | #情感分析 | #解耦学习 | #多模态模型 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.0 | 置信度 高 👥 作者与机构 第一作者：Chunlei Meng (Fudan University, 即复旦大学) 通讯作者：Chun Ouyang (Fudan University, 即复旦大学) 作者列表：Chunlei Meng（复旦大学）†、Ziyang Zhou（汕头大学）、Lucas He（伦敦大学学院）、Xiaojing Du（南澳大学）、Chun Ouyang（复旦大学）†、Zhongxue Gan（复旦大学） （†表示通讯作者） 💡 毒舌点评 亮点：论文的动机非常清晰，直指当前多模态融合中“时空信息混合建模”导致静态特征主导的痛点，并为此设计了一套从解耦、对齐到重耦合的完整技术流水线，逻辑自洽且实验验证充分。 短板：论文的可视化分析（图2）虽然展示了特征分布的改善，但缺乏对“解耦出的时空特征究竟学到了什么”更具体的语义或模态内解释，使得这个“黑箱”模型的可解释性打了折扣；此外，论文未开源代码，限制了其即时影响力。 🔗 开源详情 代码：论文中未提及代码链接。 模型权重：未提及。 数据集：使用公开基准CMU-MOSI和CMU-MOSEI。 Demo：未提及。 复现材料：提供了一些训练细节（优化器Adam、权重衰减、批大小16、最多50 epoch、早停、五折交叉验证），但缺失关键信息（如各模态特征提取方式、模型具体维度、学习率、损失权重α/β/γ的具体值）。论文中未提及完整的复现计划或资源链接。 论文中引用的开源项目：未提及。 总结：论文中未提及开源计划。 📌 核心摘要 要解决的问题：现有主流多模态情感分析方法在进行跨模态交互前，将时间动态信息（如语音韵律突变、视频微表情）和空间结构信息（如说话人身份、背景、句子整体极性）混合编码为单一嵌入，导致学习过程偏向于更稳定、方差大的静态成分，从而忽略了关键的时间轨迹信息，造成“时空信息不对称”，性能受限。 方法核心：提出TSDA（Temporal-Spatial Decouple before Act）框架。其核心是在任何跨模态交互之前，先为每个模态（语言、视觉、声学）学习解耦的“时间动态”和“空间结构”表征。具体包括：（1）独立的时间编码器和空间编码器；（2）因子一致性跨模态对齐（FCCA），使用块对角掩码注意力确保时间特征只与其它模态的时间特征对齐，空间特征同理；（3）门控重耦合（GR）模块，根据可靠度自适应融合对齐后的时间与空间表征。 与已有方法相比新在哪里：不同于大多数方法在融合前进行模态内或跨模态的不变/特定因子解耦（如MISA），TSDA更进一步，将时间与空间这两个正交的维度显式地解耦并独立进行跨模态对齐。这避免了传统混合编码中时空信息的相互干扰，是一种更细粒度的解耦学习范式。 主要实验结果：TSDA在CMU-MOSI和CMU-MOSEI两个标准基准测试的所有指标上均取得了最优（SOTA）结果。具体对比如下表所示，尤其在平均绝对误差（MAE）和7类准确率（ACC7）上优势明显。消融实验证明了解耦、FCCA和门控重耦合等各组件的必要性。 表1：在CMU-MOSI和CMU-MOSEI数据集上与现有方法的性能对比（对齐/未对齐设置） ...

📄 The Synergistic Role of Audio and Large Video-Language Model in Source-Free Video Domain Adaptation #领域适应 #多模态模型 #预训练 #知识蒸馏 #音视频 ✅ 7.0/10 | 前25% | #领域适应 | #多模态模型 | #预训练 #知识蒸馏 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 -0.5 | 置信度 高 👥 作者与机构 第一作者：Tzu Ling Liu（University of Saskatchewan, Department of Computer Science） 通讯作者：未说明 作者列表：Tzu Ling Liu（University of Saskatchewan, Department of Computer Science）、Ian Stavness（University of Saskatchewan, Department of Computer Science）、Mrigank Rochan（University of Saskatchewan, Department of Computer Science） 💡 毒舌点评 这篇论文巧妙地将“大”（LVLM）和“稳”（音频）两种特性融合，在SOTA已经很高的任务上又挤出了几个百分点的性能提升，工程整合能力值得肯定。然而，其“多模态”的核心贡献中，音频模态的“协同作用”在消融实验中只带来了约1.7%的平均增益（从54.2%到55.9%），显得有些雷声大雨点小，更像是为用音频而用音频，缺乏对音频为何有效以及在何种情况下可能失效的深入机制分析。 ...

📄 Training-Free Multimodal Guidance for Video to Audio Generation #音频生成 #多模态模型 #扩散模型 #音视频 🔥 8.0/10 | 前25% | #音频生成 | #扩散模型 #多模态模型 | #多模态模型 #扩散模型 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Eleonora Grassucci*（罗马第一大学信息工程、电子与电信系） 通讯作者：未说明 作者列表：Eleonora Grassucci（罗马第一大学信息工程、电子与电信系）、Giuliano Galadini（罗马第一大学信息工程、电子与电信系；米兰理工大学电子、信息与生物工程系）、Giordano Cicchetti*（罗马第一大学信息工程、电子与电信系）、Aurelio Uncini（罗马第一大学信息工程、电子与电信系）、Fabio Antonacci（米兰理工大学电子、信息与生物工程系）、Danilo Comminiello（罗马第一大学信息工程、电子与电信系） 💡 毒舌点评 亮点：巧妙地将多模态嵌入空间的“体积”作为语义一致性度量，并将其融入扩散过程的梯度引导，为训练-free的V2A生成提供了一个优雅且理论动机清晰的新方向。短板：该方法高度依赖于一个强大的预训练多模态对齐空间（GRAM），且实验主要限于合成数据集VGGSound和描述性数据集AudioCaps，其在复杂真实场景（如声源不可见、环境噪声大）下的鲁棒性和有效性有待进一步验证。 🔗 开源详情 代码：论文中未提及代码仓库链接。 模型权重：论文中使用了公开的预训练模型：cvssp/audioldm-m-full（AudioLDM）和 GRAM 预训练权重（4modalities checkpoint）。作者自己的方法无需训练，因此无自有模型权重。 数据集：使用了公开的VGGSound和AudioCaps测试集。论文中说明VGGSound评估使用了3k样本，AudioCaps使用了697个样本。 Demo：未提及。 复现材料：论文详细给出了所有关键实现细节，包括模型选择、超参数设置（优化器、学习率、采样步数、warmup比例）、输入处理方式，并提供了完整的算法伪代码（Algorithm 1），复现指南较为充分。 论文中引用的开源项目：主要引用了 AudioLDM、GRAM、ImageBind 以及评估工具 AVGen-Eval Toolkit。 📌 核心摘要 问题：现有视频到音频（V2A）生成方法要么需要在大规模配对数据上进行昂贵的联合训练，要么依赖于成对的相似度（如余弦相似度）进行引导，这可能导致全局多模态一致性不足，生成语义不对齐的音频。 方法核心：提出了一种新颖的训练-free多模态扩散引导（MDG）机制。其核心思想是利用视频、音频、文本三种模态的嵌入向量在共享潜在空间中张成的平行六面体体积作为语义相似度的度量。在推理时，通过最小化这个体积来引导预训练的音频扩散模型的去噪过程，使生成的音频在嵌入空间中与视频和文本条件“对齐”。 与已有方法相比新在哪里：不同于之前依赖成对余弦相似度的引导方法（如Seeing&Hearing），MDG提出了基于三模态联合几何结构（体积）的引导信号，能更有效地捕捉跨模态的全局语义一致性。该方法是训练-free、即插即用的，无需修改扩散模型或编码器。 主要实验结果：在VGGSound数据集上，MDG在几乎所有评估指标（FAD、FAVD、PEAVS、KL、ISc、FD）上均优于基线方法（SpecVQGAN, Diff-Foley, Seeing&Hearing）。例如，FAD从Seeing&Hearing的7.80降至6.04，FAVD从3.44降至2.60。在AudioCaps数据集上，MDG也持续优于Seeing&Hearing。语义一致性分析显示，MDG生成音频与原始视频及文本的体积V和跨模态距离均更小。 实际意义：提供了一种轻量、高效、可即插即用地增强现有音频生成模型多模态对齐能力的方法，无需昂贵的训练，降低了V2A生成技术的应用门槛。 主要局限性：性能依赖于GRAM预训练编码器的质量；引导过程需要额外的编码和优化计算；在音频与视觉内容关联不直接的数据集（如AudioCaps）上，提升幅度相对有限。 🏗️ 模型架构 本文提出的多模态扩散引导（MDG）是一个训练-free的推理时引导框架，它不设计新的生成模型，而是为现有的预训练音频扩散模型提供一个控制信号。其整体流程如下： ...

📄 Uncertainty-Aware 3D Emotional Talking Face Synthesis with Emotion Prior Distillation #音视频 #生成模型 #不确定性估计 #多模态模型 🔥 8.0/10 | 前25% | #音视频 | #生成模型 | #不确定性估计 #多模态模型 学术质量 6.2/7 | 选题价值 1.8/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Nanhan Shen（天津大学人工智能学院） 通讯作者：Zhilei Liu（天津大学人工智能学院） 作者列表：Nanhan Shen（天津大学人工智能学院）、Zhilei Liu（天津大学人工智能学院） 💡 毒舌点评 这篇论文精准地指出了3D情感说话人脸生成中“情感对齐差”和“多视图融合粗糙”两大痛点，并给出了模块化的解决方案，特别是首次引入不确定性建模来优化融合策略，思路值得肯定。然而，论文在工程实践上“留白”过多，关键代码和训练细节缺失，使得这个“不确定性”的黑盒更难被学界复现和验证。 🔗 开源详情 代码：论文中未提及代码链接。仅提供项目页面，内容未知。 模型权重：未提及公开权重。 数据集：使用了公开数据集（AD-NeRF, MEAD），但论文未说明是否提供处理后的数据或获取指引。 Demo：未提及在线演示。 复现材料：给出了部分训练细节（迭代次数、损失权重、优化器选择），但缺少模型具体架构参数、完整训练配置、环境依赖、检查点等。论文中未提及开源计划。 论文中引用的开源项目：引用了多个开源项目作为基线或组件，如TalkingGaussian [5]、DEGSTalk [30]、EDTalk [22]、StableAvatar [31]、SadTalker [15]、Wav2Vec 2.0 [16]等。 📌 核心摘要 问题：现有3D情感说话人脸合成方法存在两大挑战：音视觉情感对齐差（难以从音频提取情感且微表情控制弱）；多视图融合采用“一刀切”策略，忽略了不同视图特征质量的不确定性，导致渲染效果受损。 方法：提出UA-3DTalk框架，以3D高斯溅射为渲染骨干。其包含三个核心模块：先验提取模块，将音频解耦为内容同步特征和个性特征；情感蒸馏模块，通过多模态注意力融合和4D高斯编码，实现细粒度音频情感提取与表情控制；基于不确定性的变形模块，为每个视图估计偶然不确定性和认知不确定性，实现自适应多视图融合。 创新：首次在该领域系统性地建模并利用不确定性；提出不确定性感知的自适应融合策略；通过情感先验蒸馏协同解决情感对齐问题。 结果：在常规和情感数据集上的实验表明，UA-3DTalk在情感对齐（E-FID）、唇同步（SyncC）和渲染质量（LPIPS）上均优于SOTA方法。定量结果如下： 方法 数据集 LMD↓ PSNR↑ LPIPS↓ SSIM↑ Sync-C↑ E-FID↓ UA-3DTalk (本文) 常规/情感 2.492 / 5.407 28.923 / 28.408 0.032 / 0.067 0.928 / 0.938 5.750 / 5.152 0.072 / 0.145 DEGSTalk 常规/情感 1.960 / 3.923 27.104 / 28.051 0.042 / 0.162 0.891 / 0.924 5.663 / 5.007 0.076 / 0.154 EDTalk 常规/情感 3.827 / 6.548 25.627 / 18.061 0.073 / 0.297 0.888 / 0.864 6.173 / 7.550 0.483 / 0.668 TalkingGaussian 常规/情感 3.018 / 5.934 26.943 / 25.533 0.045 / 0.096 0.906 / 0.892 5.011 / 4.886 0.089 / 0.356 StableAvatar 常规/情感 4.117 / 7.150 18.403 / 19.290 0.258 / 0.228 0.480 / 0.619 4.421 / 3.972 0.546 / 0.430 消融研究（在MEAD情感数据集）显示，各模块均带来性能提升：完整模型（w/ P,E,U）相比基线，在E-FID上从0.356降至0.145，Sync-C从4.886提升至5.152。 ...

📄 V2A-DPO: Omni-Preference Optimization for Video-To-Audio Generation #音视频 #直接偏好优化 #流匹配 #模型评估 ✅ 7.5/10 | 前25% | #视频到音频生成 | #直接偏好优化 | #音视频 #流匹配 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Nolan Chan（The Chinese University of Hong Kong, Hong Kong SAR, China） 通讯作者：Dingdong Wang（The Chinese University of Hong Kong, Hong Kong SAR, China）（论文脚注中对应邮箱 yjchen@se.cuhk.edu.hk） 作者列表：Nolan Chan（The Chinese University of Hong Kong, Hong Kong SAR, China），Timmy Gang（National Research Council Canada, Canada），Yongqian Wang（The University of Warwick, UK），Yuzhe Liang（Shanghai Jiao Tong University, China），Dingdong Wang（The Chinese University of Hong Kong, Hong Kong SAR, China） 💡 毒舌点评 这篇论文堪称“模范工程论文”：它没有声称发明了全新的生成范式，而是精准地识别了当前视频音频生成模型在“对齐人类审美与同步偏好”上的短板，并系统性地设计了一套包含自动评估、数据生成、课程训练的完整解决方案，实验结果也验证了其有效性。不过，其核心创新更偏向于应用层面的“术”而非基础理论层面的“道”，AudioScore本身是现有工具的集成而非原理创新，课程学习DPO的引入也较为直接。 ...

📄 VividTalker: A Modular Framework for Expressive 3D Talking Avatars with Controllable Gaze and Blink #语音合成 #音视频 #模块化架构 #扩散模型 #多语言 ✅ 7.5/10 | 前25% | #语音合成 | #模块化架构 | #音视频 #扩散模型 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0 | 置信度 高 👥 作者与机构 第一作者：Hangyu Xiong（丹麦技术大学 (DTU), Denmark） 通讯作者：Qingzheng Hu（INTI International University, Malaysia） 作者列表： Hangyu Xiong（丹麦技术大学 (DTU), Denmark） Jinyi Zhang（加州大学洛杉矶分校 (UCLA), USA） Zheng Wang（清华大学, China） Tianlun Pan（西交利物浦大学, China） Qingzheng Hu（INTI International University, Malaysia） 💡 毒舌点评 亮点：该论文直击3D数字人“死鱼眼”这一让用户体验崩盘的具体痛点，并提出了一套基于生理学原理、可即插即用（无需重训练）的眼部动态增强方案，效果量化显著（眨眼真实度MOS提升2.5分），这种“问题-方案-验证”的链条非常清晰且实用。 短板：作为一篇方法框架论文，其核心的眼部增强模块是建立在现有开源工具（SadTalker, FaceVerse等）之上的“魔改”，更像是一个精巧的工程集成方案，缺乏在底层生成模型或表征上的原始创新；同时，论文对如何获取其构建的评估数据集（40个合成视频）语焉不详，且完全未开源核心代码，使得其宣称的“可复现性”大打折扣。 ...