音视频

📄 BRITE: A Benchmark for Reliable and Interpretable T2V Evaluation on Implausible Scenarios #基准测试 #模型评估 #音视频 #多模态模型 ✅ 7.5/10 | 前25% | #基准测试 | #模型评估 | #音视频 #多模态模型 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Advait Tilak（未说明） 通讯作者：未说明 作者列表：Advait Tilak（未说明）、Jiwon Choi（未说明）、Nazifa Mouli（未说明）、Wei Le（未说明） 💡 毒舌点评 亮点：BRITE基准的核心设计非常“聪明”，它通过“不可能场景”和细粒度问答，像给T2V模型做“压力测试”和“CT扫描”，能精准定位模型是“记不住动作”还是“对不上音画”，这比单纯看生成视频“像不像”深刻得多。 短板：然而，这个“CT扫描仪”本身有点贵——整个评估依赖大量人工标注，导致基准规模受限（每个模型仅100个提示），其结论的统计显著性和泛化能力可能会被质疑，更像是一个概念验证（Proof-of-Concept）而非可无限扩展的工业标准。 🔗 开源详情 代码：https://doi.org/10.6084/m9.figshare.31179547 模型权重：论文中未提及 数据集：https://doi.org/10.6084/m9.figshare.31179547 Demo：论文中未提及 复现材料：论文中提及的代码、提示词和数据集均发布于上述 figshare 链接。论文附录提供了用于生成提示词和评估问题的 LLM 提示词模板（Meta-Prompt），但未提及模型训练配置或检查点。 论文中引用的开源项目：未提及（论文中引用的评估对象为闭源商业模型，如 Sora 2, Veo 3.1, Runway Gen4.5 等；使用的生成工具如 GPT-4, Gemini 2.5 Pro 为闭源商业 API，未提供其开源代码仓库链接）。 📌 核心摘要 问题：当前文本到视频（T2V）生成模型的评估基准存在两大盲点：一是主要关注合理场景，无法测试模型在违背常识的“不可能场景”下是否还能忠实于指令；二是绝大多数基准只评估视觉，忽略了对音频及其与视频同步性的评估。 方法核心：提出了BRITE，一个集不可能场景提示、多维度（包含音频与音视频同步）原子问题评估、以及人类在环可靠验证于一体的综合T2V评估框架。 创新之处：(1) 系统性地将“不可能场景”（社会反转、生物/物理不可能、时间修改）作为核心测试用例；(2) 首次在T2V基准中引入对音频内容和音视频时序同步的细粒度评估；(3) 设计了人类在环协议（从提示筛选、问题生成到最终标注）以规避VLM评估的“循环偏见”，确保可靠性。 实验结果：在五个SOTA模型（Sora 2, Veo 3.1等）上评估了500个视频和1364个问题。结果显示，模型普遍在生成静态主体（平均得分0.90）和环境（0.94）上表现良好，但在动态动作绑定（0.59）、音频正确性（0.61）和音视频同步（0.47）上显著退化。其中，时间修改类场景最具挑战性（平均分0.65）。关键数据见下表： 模型 总体得分 主体 动作 环境 音频 音视频同步 Runway Gen4.5 0.84 0.93 0.61 0.96 N/A N/A Sora 2 0.77 0.94 0.65 0.95 0.76 0.55 Veo 3.1 0.76 0.92 0.58 0.97 0.69 0.63 Qwen3MAX 0.69 0.90 0.56 0.90 0.63 0.41 PixVerse 5.5 0.59 0.82 0.55 0.88 0.37 0.31 平均 0.73 0.90 0.59 0.94 0.61 0.47 上图(a)显示了模型在“不可能场景”上的整体及分维度表现；下图(b)展示了在四类不同不可能提示上的推理性能。关键结论：Runway Gen4.5综合表现最佳，但所有模型在“时间修改”上均表现不佳，且主体-动作性能差距显著。 ...

📄 Delayed Commitment for Representation Readiness in Stage-wise Audio-Visual Learning #音视频 #多模态模型 #语音分离 #语音识别 #音频事件检测 ✅ 7.5/10 | 前25% | #音视频 | #多模态模型 | #语音分离 #语音识别 | arxiv 学术质量 7.0/7 | 选题价值 2.0/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Xinmeng Xu（岭南大学人工智能系） 通讯作者：Haoran Xie（岭南大学人工智能系） 作者列表： Xinmeng Xu（岭南大学人工智能系） Haoran Xie（岭南大学人工智能系） S. Joe Qin（岭南大学人工智能系） Lin Li（武汉理工大学计算机与人工智能学院） Xiaohui Tao（南昆士兰大学数学、物理与计算学院） Fu Lee Wang（香港都会大学科技学院） 💡 毒舌点评 亮点：论文最大的价值在于将音视频融合中“局部匹配好但后续支持不足”的中间状态，形式化为一个可计算、可干预的“准备度缺陷”问题，并设计了一套从诊断到修复的完整框架，这种从“现象描述”到“机理分析”再到“模块化修正”的研究思路非常扎实。短板：方法的核心创新（识别并强化弱支持层）在某些视角下可视为一种特殊的层间注意力或自适应特征精炼，其相对于现有注意力机制的质变提升并不明显；此外，论文对计算开销的讨论较浅，虽然声称是编码器级轻量干预，但增加的支持聚合和门控计算在具体硬件上的实际延迟影响未被充分量化。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：论文中未提及 数据集：论文中提及并使用了LRS2、LRS3、VoxCeleb2、AVE数据集，但未提供具体的获取链接或开源协议。 Demo：论文中未提及 复现材料：论文中提及了训练配置的概要（如使用Adam优化器、NVIDIA H100 GPU训练、早停策略），但未提供具体的配置文件、检查点或详细复现指南。 论文中引用的开源项目：论文中引用了多个音频-视觉学习相关的基线方法（如AV-ConvTasNet， VisualVoice， CTC-Net， RTFS-Net， LAVisH， AVMoE等），但未提供这些项目的具体开源仓库链接。 补充信息 [模型架构] 补充：原文在 Table IX: Implementation Design Ablations 中详细分析了承诺评估和支持感知瓶颈完成的实现设计选择，该部分内容在已有分析中未被提及。该表格报告了在LRS2数据集不同条件下，针对路由策略（训练与推理时软/硬路由的组合）、评估线索来源（音频/视觉线索是否为学习得到）、修正阶段选择（单阶段、同时Top-2、迭代2阶段）、支持分支设计（仅视觉支持、仅音频支持、无支持、完整支持）以及支持模块设计（是否包含跨模态交互、是否包含全局聚合）等不同变体的消融实验结果（SI-SNRi）。这些实验验证了默认设计选择的合理性，是模型实现的重要组成部分。 [细节详述] 补充： 训练硬件：分析中已提及优化器、学习率等，但未明确说明训练硬件。论文第五节明确指出“Training is conducted on NVIDIA H100 GPUs”。 实现设计消融：分析中详细列举了Table VIII的组件消融（CA/BC），但未提及原文 Section VII-D Implementation Design Analysis 和 Table IX 中的实现设计消融。该部分分析了不同路由策略、评估线索来源、修正阶段选择、支持分支设计等具体实现选择对性能的影响，是理解模型工程细节的关键，补充了分析中“训练策略”和“关键超参数”部分的深度。 [实验结果] 补充： 与SOTA的量化差距：分析中在结论部分提到了性能提升，但未在实验结果部分给出与关键基线的具体提升数值。可在相应表格结论中补充具体数字，例如：在AVSS任务LRS2数据集标准设置下（Table II），DPC-Net的SI-SNRi（16.8 dB）比最强对照基线AV-CrossNet†（16.5 dB）高出0.3 dB；在AVSR任务LRS2数据集-5~5 dB设置下（Table V），WER（9.0%）比AD-AVSR（9.4%）绝对值低0.4%。 统计可靠性具体数值：分析中提及了Table VII显示结果稳定，但未列出具体的均值和标准差。可在该部分补充关键设置下的具体统计数值，例如：在AVSS LRS2 Clean设置下，DPC-Net的SI-SNRi为16.84±0.18 dB（AV-CrossNet†为16.46±0.21 dB）；在AVEL Swin-V2-L+HTS-AT设置下，准确率为83.28±0.11%（AVMoE†为82.13±0.10%）。 [核心摘要] 补充：在“局限性”部分，可进一步明确论文原文提及的局限性。除了分析中已列出的三点，论文摘要最后一句还强调了方法的有效性可能依赖于编码器具有明显的阶段性中间层表示，对于更连续的融合架构（如某些Transformer）的适用性有待验证。这一点已在分析的“核心摘要”局限性第3点中提及，但表述可以更直接引用原文。更重要的是，分析未提及原文在Section I Introduction中关于方法局限性的具体讨论：干预模块增加了参数和计算开销，但论文未详细量化在具体硬件上的实际延迟影响。这一讨论在“毒舌点评”中被提及，但未在“核心摘要”的局限性列表中强调其作为已声明局限性的重要性。 [评分理由] 补充：在“学术质量分”的“实验充分性”部分，可补充原文 Section VI-D Statistical Reliability 和 Table VII 的内容。论文不仅进行了广泛的任务对比，还通过五次重复运行报告了均值和标准差，以证明性能提升的统计可靠性，这增强了实验充分性的说服力，是评分中“实验充分性（优秀）”的一个具体支撑点。 📌 核心摘要 问题：在多阶段音视频编码器中，中间层的融合状态会被传递到后续层。一个在当前阶段局部一致性很强的融合状态，可能在没有积累足够的跨层、跨模态证据支持前，就过早地获得了对后续表示的强大影响力，导致“过早感知承诺”，损害整体表示质量。 方法核心：提出了延迟感知承诺网络（DPC-Net）。它通过估计一个“准备度缺陷”代理指标 $\widehat{D}_{l}$ 来定位干预敏感的瓶颈层（该指标综合了当前层的音视频一致性、下游锚定度、支持覆盖度）。随后，聚合所有层的音视频支持证据，对瓶颈层的表示进行门控残差校正，以增强其支持覆盖度，再传递给后续层。 创新点：首次将多模态中间层融合的“时机”和“准备度”问题形式化为“准备度缺陷”；提出了基于可观测线索的瓶颈定位准则；设计了一个编码器级、任务无关的干预框架，在保持任务头和损失不变的情况下提升表示。 实验结果：在AVSS（语音分离）、AVEL（事件定位）、AVSR（语音识别）三个任务和多个数据集上均取得一致提升。例如，在LRS2语音分离标准设置下，SI-SNRi达到16.8 dB，超过最强基线AV-CrossNet（16.5 dB）；在LRS2语音识别低信噪比（-5~5 dB）设置下，WER降至9.0%，优于AD-AVSR（9.4%）。在视觉降质（遮挡、噪声模糊）条件下，优势更为明显。 实际意义：为设计更鲁棒的多模态融合模型提供了新思路，即不仅关注当前层的交互，还应评估中间状态对后续步骤的“准备就绪”程度。该方法可作为通用模块提升多种音视频任务的性能。 局限性：1）干预模块本身增加了参数和计算开销（论文未详细讨论实际延迟影响）；2）准备度代理指标的阈值（$\tau_A, \tau_P, \tau_C$）需要设定，其敏感性分析可更深入；3）方法的有效性可能依赖于编码器具有明显的阶段性中间层表示，对于更连续的融合架构（如某些Transformer）的适用性有待验证。 🏗️ 模型架构 DPC-Net是一个编码器级的干预框架，旨在嵌入到现有的多阶段音视频编码器中，改进其中间融合状态的表示质量，而不改变任务特定的头部、损失和解码器。 ...

📄 Multimodal Confidence Modeling in Audio-Visual Quality Assessment #音视频 #多模态模型 #模型评估 ✅ 7.0/10 | 前25% | #音视频 | #多模态模型 | #模型评估 | arxiv 学术质量 5.5/7 | 选题价值 1.5/2 | 复现加成 0.2 | 置信度 高 👥 作者与机构 第一作者：Mayesha Maliha R. Mithila（论文中未说明其所属机构） 通讯作者：未说明 作者列表：Mayesha Maliha R. Mithila（未说明）、Mylene C. Q. Farias（未说明） 💡 毒舌点评 本文最大的亮点在于将“模态置信度”从模糊的心理学概念，落地为一个可端到端训练、并能显式调控特征级融合的模块，使模型在“一边瞎一边瞎”的极端场景下依然表现稳健，这比简单堆叠注意力要聪明得多。然而，论文在创新性上略显“缝合”，将已有的MVAD、SCOREQ、Swin等工具进行组合，虽有效但不够性感；更关键的是，在音频/视频质量评估这样一个结果高度依赖主观标注的领域，仅在有限数据集上宣称SOTA，离解决泛化与工业化部署的鸿沟还差得远。 🔗 开源详情 代码：论文中未提及代码链接 模型权重：论文中未提及 数据集：论文中提及了三个AVQA数据集：UnB-AV、UnB-AVQ和LIVE-SJTU。但论文中未提供这些数据集的获取链接。 Demo：论文中未提及 复现材料：论文中未提供检查点或附录链接，但提供了详细的训练配置细节，包括：使用Swin-Small和VGGish作为特征提取器；每视频均匀采样8帧；数据集划分比例为70:15:15（训练:验证:测试）；使用Adam优化器，学习率为5×10⁻⁵，批量大小为6，L2权重衰减为5×10⁻³；采用早停策略，耐心为20轮；训练损失为MSE与PCC损失（权重λ=0.15）之和；所有结果在3个随机种子上取平均。 论文中引用的开源项目： Swin Transformer：论文中作为视觉特征提取骨干网络使用，但未提供项目主页链接。 VGGish：论文中作为音频特征提取器使用，但未提供项目主页链接。 补充信息 根据对深度分析结果与论文原文的仔细比对，发现现有分析遗漏了以下对理解论文有重要价值的信息： 模型架构 补充：论文中明确指出，其置信度引导的音视频混合器（AVM）的注意力权重计算（公式6：α = σ(qₐ ⊙ k_v^gated)）采用了逐元素乘法，而非标准的注意力矩阵乘法。这种设计直接生成通道特异性的注意力权重，避免了计算复杂度高的矩阵乘法，并实现了对每个特征通道的独立调制。 实验结果 补充：在UnB-AV数据集的统计显著性分析中（表2），论文给出了MCM-AVQA与最佳基线Nave+w2v的绝对预测误差均值差异为0.054，并提供了详细的p值（如配对t检验p=2.1×10⁻³）。这一具体数值量化了MCM-AVQA的优势程度。 细节详述 补充：在训练策略部分，论文原文明确指出视频输入是“均匀采样8帧”（uniformly sampled frames per video (e.g. 8)）进行处理。这是模型实现中的一个关键超参数。 📌 核心摘要 本文针对音视频质量评估（AVQA）在现实流媒体场景中常面临的“不对称失真”（如视频损坏但音频清晰，或反之）问题，指出现有方法多平等对待两种模态，导致不可靠信号被过度依赖。为此，论文提出了一个名为MCM-AVQA的多模态置信度感知框架。其核心方法是显式估计音频和视频各自的“置信度”分数，并利用一个定制的“音视频混合器”将该置信度注入到特征级的跨模态注意力机制中，通过置信度门控的通道注意力来调制特征交互，使得高置信度模态主导融合，低置信度输入被抑制。与已有方法（如NAViDAd的自动编码器、注意力晚期融合）相比，MCM-AVQA的新颖之处在于将置信度建模为驱动特征融合的核心信号，而非仅在决策层加权。在LIVE-SJTU、UnB-AV和UnB-AVQ三个AVQA基准数据集上的实验表明，MCM-AVQA在PLCC和SROCC指标上取得了最优或极具竞争力的结果。消融研究证实，其置信度引导的音视频混合器及置信度估计模块是性能提升的关键。该工作的实际意义在于提升了AVQA模型在真实、非理想条件下的鲁棒性和可解释性。其主要局限性可能在于：置信度模块（MVAD， SCOREQ）的依赖引入了额外的预训练模型和计算复杂度；模型在更广泛、更复杂的失真类型或场景下的泛化能力有待进一步验证。 ...

📄 AlignSep: Temporally-Aligned Video-Queried Sound Separation with Flow Matching #音频分离 #流匹配 #音视频 #基准测试 #多模态模型 ✅ 7.5/10 | 前25% | #音频分离 | #流匹配 | #音视频 #基准测试 学术质量 5.8/7 | 选题价值 1.5/2 | 复现加成 0.3 | 置信度 高 👥 作者与机构 第一作者：未说明（论文声明Xize Cheng, Chenyuhao Wen, Tianhao Wang为共同第一作者“Equal Contribution”） 通讯作者：未说明 作者列表：Xize Cheng (浙江大学1), Chenyuhao Wen (浙江大学1), Tianhao Wang (独立作者2), Yongqi Wang (浙江大学1), Zehan Wang (浙江大学1), Rongjie Huang (浙江大学1), Tao Jin (浙江大学1), Zhou Zhao (浙江大学1)。（注：1指浙江大学，2指独立作者，具体实验室或部门未在文中提供） 💡 毒舌点评 亮点：这是首个将流匹配范式成功引入视频引导声音分离的工作，并敏锐地指出了其与传统文本生成任务在“多条件生成”上的本质差异，为后续研究者提供了清晰的思路和新的挑战性基准。 短板：模型架构（拼接+FFN Transformer）略显“直给”，缺乏更精巧的跨模态交互设计；虽然实验充分，但“流匹配”相对于“扩散模型”在本任务中的具体优势论证（如表7所示）并不构成压倒性差距，说服力有提升空间。 ...

📄 Can Vision-Language Models Answer Face to Face Questions in the Real-World? #音频问答 #基准测试 #多模态模型 #音视频 🔥 8.0/10 | 前25% | #音频问答 | #基准测试 | #多模态模型 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Reza Pourreza（Qualcomm AI Research） 通讯作者：未明确说明 作者列表：Reza Pourreza（Qualcomm AI Research）， Rishit Dagli（University of Toronto / Qualcomm AI Research）， Apratim Bhattacharyya（Qualcomm AI Research）， Sunny Panchal（Qualcomm AI Research）， Guillaume Berger（Qualcomm AI Research）， Roland Memisevic（Qualcomm AI Research） 💡 毒舌点评 论文的亮点在于精准地抓住了当前多模态大模型从“离线理解”走向“实时交互”的关键瓶颈，并构建了一个极具针对性的真实世界问答基准，为社区指明了明确的改进方向。然而，其短板在于数据集规模相对有限（2900条），且核心评估指标依赖LLM judge，可能引入新的评估偏差，而提出的“流式基线”方法相对简单，更多是概念验证而非技术突破。 ...

📄 Efficient Audio-Visual Speech Separation with Discrete Lip Semantics and Multi-Scale Global-Local Attention #语音分离 #音视频 #多模态模型 #自监督学习 ✅ 7.5/10 | 前25% | #语音分离 | #多模态模型 | #音视频 #自监督学习 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Li（清华大学计算机系，IDG/McGovern脑研究院）、Kejun Gao（清华大学计算机系）（论文注明两人贡献相等） 通讯作者：Xiaolin Hu（清华大学计算机系，IDG/McGovern脑研究院，中国脑研究中心） 作者列表：Kai Li（清华大学计算机系，IDG/McGovern脑研究院）、Kejun Gao（清华大学计算机系）、Xiaolin Hu（清华大学计算机系，IDG/McGovern脑研究院，中国脑研究中心） 💡 毒舌点评 亮点在于将“效率”作为核心优化目标并做到了极致，通过精心设计的轻量视频编码器（DP-LipCoder）和全局-局部注意力（GLA）模块，在大幅降低计算成本的同时保持了顶尖的分离性能，工程优化思路清晰且效果显著。短板则是核心创新略显“拼盘”，即DP-LipCoder（结合VQ与蒸馏）和GLA（结合CSA与HDA）更多是现有技术的针对性组合与优化，缺乏从第一性原理出发的突破性架构革新，理论深度有限。 🔗 开源详情 代码：论文明确承诺“在文章被接受后，将在GitHub上以Apache-2.0许可证发布Dolphin的代码”，并提供了演示页面链接（https://cslikai.cn/Dolphin）。当前可视为“未提供”但承诺提供。 模型权重：承诺发布“预训练权重（用于视频骨干）和Dolphin的源代码”。 数据集：使用公开数据集LRS2、LRS3、VoxCeleb2，但论文未提及是否提供预处理好的数据，表示“需要根据引用的参考文献独立获取”，但会提供预处理脚本。 Demo：提供了在线演示页面链接（https://cslikai.cn/Dolphin）。 复现材料：论文提供了极其详尽的训练细节：包括完整的超参数配置（附录E）、损失函数公式（附录D）、训练硬件规格、数据处理流程、评估指标定义等。这些信息足以支持复现。 引用的开源项目：论文提及并依赖的开源工具/模型包括：AV-HuBERT（用于知识蒸馏）、VQ实现（来自PyPI的vector-quantize-pytorch）、FlashAttention（可选）、MTCNN（人脸检测）等。 开源计划：论文明确说明了开源计划，但代码和模型权重需待论文正式接受后发布。 📌 核心摘要 本文针对音视频语音分离（AVSS）模型参数量大、计算成本高、难以部署的问题，提出了一种高效模型Dolphin。其核心方法包含两部分：1) 设计了双路径轻量视频编码器DP-LipCoder，通过引入向量量化（VQ）和AV-HuBERT知识蒸馏，将连续的唇部视频流映射为与音频语义高度对齐的离散视觉token；2) 构建了一个单次迭代的轻量级编码器-解码器分离器，在其每层引入全局-局部注意力（GLA）块，分别使用粗粒度自注意力（CSA）和热扩散注意力（HDA）来捕捉长程依赖和局部细节。与已有SOTA方法（如IIANet）相比，Dolphin在LRS2、LRS3、VoxCeleb2三个基准数据集上的分离指标（SI-SNRi, SDRi, PESQ）全面更优，同时实现了参数量减少超50%、MACs降低2.4倍以上、GPU推理速度提升6倍以上的显著效率提升。这证明了Dolphin是一个性能优越且具备实际部署可行性的AVSS解决方案。主要局限性包括对清晰、同步的唇部视频的依赖，以及在资源极度受限的边缘设备上部署仍存挑战。 ...

📄 Human Behavior Atlas: Benchmarking Unified Psychological And Social Behavior Understanding #多模态模型 #音频分类 #音视频 #预训练 #模型评估 🔥 8.5/10 | 前25% | #多模态模型 | #预训练 | #音频分类 #音视频 学术质量 6.0/7 | 选题价值 1.5/2 | 复现加成 1.0 | 置信度 高 👥 作者与机构 第一作者：Keane Ong（MIT；National University of Singapore） 通讯作者：未说明 作者列表：Keane Ong（MIT；National University of Singapore）、Wei Dai（MIT）、Carol Li（MIT）、Dewei Feng（MIT）、Hengzhi Li（MIT；Imperial College London）、Jingyao Wu（MIT）、Jiaee Cheong（Harvard University）、Rui Mao（Nanyang Technological University）、Gianmarco Mengaldo（National University of Singapore）、Erik Cambria（Nanyang Technological University）、Paul Pu Liang（MIT） 💡 毒舌点评 亮点：在行为理解领域，该工作首次系统性地将分散在情感、认知、病理和社会过程等多个维度的异构数据集、任务和评估指标统一成一个标准化基准，为构建行为基础模型提供了至关重要的“数据-任务-评估”三位一体的基础设施。短板：论文更像是一个扎实的工程整合工作，其核心创新在于“统一”而非提出解决行为理解某一具体子任务（如深度讽刺识别或复杂社交推理）的新算法或架构，对于寻求领域内技术深度突破的读者来说，可能略显“广而不深”。 ...

ICLR 2026 - 音视频 共 4 篇论文 ← 返回 ICLR 2026 总览 排名 论文 评分 分档 🥇 JavisDiT++: Unified Modeling and Optimization for Joint Audi 9.0分 前25% 🥈 JavisDiT: Joint Audio-Video Diffusion Transformer with Hiera 8.5分 前25% 🥉 Syncphony: Synchronized Audio-to-Video Generation with Diffu 8.0分 前25% 4. Instilling an Active Mind in Avatars via Cognitive Simulatio 7.0分 前25% 📋 论文详情 🥇 JavisDiT++: Unified Modeling and Optimization for Joint Audio-Video Generation 🔥 9.0/10 | 前25% | #音视频 | #流匹配 | #扩散模型 #多模态模型 ...

📄 Instilling an Active Mind in Avatars via Cognitive Simulation #音视频 #多模态模型 #扩散模型 #大语言模型 ✅ 7.0/10 | 前25% | #音视频 | #多模态模型 #扩散模型 | #多模态模型 #扩散模型 学术质量 6.0/7 | 选题价值 1.0/2 | 复现加成 0.0 | 置信度 中 👥 作者与机构 第一作者：Jianwen Jiang（字节跳动 ByteDance） 通讯作者：Jianwen Jiang（字节跳动 ByteDance，论文中标注为“Project Lead and Corresponding author”） 作者列表：Jianwen Jiang, Weihong Zeng, Zerong Zheng, Jiaqi Yang, Chao Liang, Wang Liao, Han Liang, Weifeng Chen, Xing Wang, Yuan Zhang, Mingyuan Gao（均隶属于字节跳动 ByteDance） 💡 毒舌点评 亮点：将认知科学的“双系统”概念巧妙映射到模型设计中，用MLLM进行高层“计划”来指导扩散模型的“生成”，这个框架思路新颖且具有启发性，伪最后帧的设计也有效解决了参考图像约束运动动态的问题。 短板：论文声称模拟了“System 2”的审慎推理，但该过程实则依赖外部MLLM的推理能力，其输出的“计划”质量取决于所用MLLM，且推理延迟（20-30秒）在实时或交互应用中是个显著负担。多模态融合的内部机制（尤其是音频、文本与视觉token如何在Transformer内“对称融合”）描述略显笼统。 ...

📄 JavisDiT: Joint Audio-Video Diffusion Transformer with Hierarchical Spatio-Temporal Prior Synchronization #音视频 #扩散模型 #Transformer #基准测试 🔥 8.5/10 | 前25% | #音视频 | #扩散模型 #Transformer | #扩散模型 #Transformer 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Kai Liu (浙江大学, 新加坡国立大学) (*共同第一作者) 通讯作者：Hao Fei (新加坡国立大学) 作者列表： Kai Liu (浙江大学，新加坡国立大学) (*共同第一作者) Wei Li (中国科学技术大学) (*共同第一作者) Lai Chen (浙江大学) Shengqiong Wu (新加坡国立大学) Yanhao Zheng (浙江大学) Jiayi Ji (新加坡国立大学) Fan Zhou (浙江大学) Jiebo Luo (罗切斯特大学) Ziwei Liu (南洋理工大学) Hao Fei (新加坡国立大学) (†通讯作者) Tat-Seng Chua (新加坡国立大学) 💡 毒舌点评 论文提出了一个架构设计完整、实验验证充分的端到端音视频生成模型，其“分层时空先验估计”的思路有效提升了生成内容的同步性，配套的JavisBench基准和JavisScore指标也直指现有评估的痛点。然而，该模型的计算开销庞大（生成4秒240P视频在H100上耗时30秒），且其在更复杂、更高分辨率或更长时长场景下的泛化能力仍待验证。 ...