视频生成背后:Kling 如何把多模态理解变成可控生成
本文把生成质量看作理解沿数据—条件—对齐—评测链的投影,用共享的 Kling-MLLM 统一做标注、改写、编码、奖励和评测,并在多组对照中显示密集标注与分布对齐带来可复述的增益,但结论只在同分布条件与固定评测配置下成立。
下方只统计已核验方向的论文记录,按已核身份去重,身份待核时按页面保留。“直接”只含明确标注该方向的论文;“含子树”同时包含下级方向。点击名称进入论文库继续筛选;数量与上方按标签名称收录的页面数不同。
本文把生成质量看作理解沿数据—条件—对齐—评测链的投影,用共享的 Kling-MLLM 统一做标注、改写、编码、奖励和评测,并在多组对照中显示密集标注与分布对齐带来可复述的增益,但结论只在同分布条件与固定评测配置下成立。
论文要解决音频监督稀疏且不稳定导致的联合音视频蒸馏失衡,用更干净的视觉条件、更多组采样和按失配程度加权来稳定音频学习,在 JavisBench 上保持音频质量的同时明显提升视频质量。
共分析 48 篇语音/AI 论文
论文提出从单目视频生成可自由漫游的 4D 视听场景的新任务,用前景背景分解重建几何与轨迹,再以双空间扩散同步生成可重渲染的声源信号,在 SonoScene4D 上空间方向与语义一致性优于基线,代价是依赖多个现成重建与生成模型且只建模直达声。
共分析 47 篇语音/AI 论文
VibeVideoBench 要求智能体在一小时内只用代码渲染画面并合成声音来交付 239 个中英文成品视频,用程序检查加约 1.3 万条任务细则加五维质量分三层打分,最强的 GPT-6 Astra 与 Claude Opus 5.5 也只在约四分之三任务上通过全部核心要求,而交不出片会显著改变排名且多因收尾渲染太晚。
共分析 25 篇语音/AI 论文
针对文本生成同步音视频时每步都要联合去噪成本过高的问题,CAVC 在检测到音频预测进入可缓存区间后只复用音频去噪输出并跳过跨模态注意力、让视频继续精修,最后恢复几步联合去噪,在三套基准上实现 1.10-1.35 倍实测加速并改善部分动态指标。
共分析 58 篇语音/AI 论文
UniAVC 先在单模态数据上练好视频和音频各自的生成与编辑能力再冻结主干、只用少量配对数据训练跨模态桥,并用两条不对称噪声轨迹加干净分支子任务支持联合生成、跨模态生成与指令编辑,最强证据来自联合编辑与跨模态基准上的可比结果,代价是两阶段大算量与双流全轨迹推理开销。
共分析 57 篇语音/AI 论文
JAVIS 针对对话系统缺视觉通道与级联延迟问题,用共享大语言模型加联合精炼头产生统一音视表示并分两支流式生成语音和面部动作,在 VStyle 未见样本上取得更好的唇同步与表情恰当性,并把初始延迟降到 1.27 秒,但结论依赖合成训练数据与特定评测条件。
共分析 25 篇语音/AI 论文
论文要解决多人多智能体长时间交互中动作后果易丢失的问题,用 DAO 维护可计算的共享世界状态、用 JING 按观察者条件逐段生成第一人称视听体验,在 WBench 上双向与四步自回归版本取得 Full 平均 81.0 与 79.9 分,代价是需要分阶段训练、记忆检索与蒸馏来控制历史与步数。
共分析 69 篇语音/AI 论文
AV-FlowEdit 针对已有音视频片段的提示词编辑问题,用冻结联合模型的源-目标流差异同时更新视频和音频,并用事件感知的多尺度低频校正抑制非目标漂移,代价是大幅语义改动会拉低与源视频的视觉相似度。
论文针对音频条件视觉预测中去掉音频就下结论的问题,提出把解释与干预、留出任务比较和端点对照绑定的 CIViC 四门诊断,并在演员不重叠的人脸光栅、合成特征混合与来源视频不重叠的 SpeakerVid 代理任务上给出通过与失败并存的证据。
论文要解决声源运动时左右声道空间线索不跟着画面走的问题,用运动轨迹同时约束视频和立体声音频的 StereoBind 在 StereoWorldBench 上取得更好的空间一致性,同时保持整体视听质量,结论只在该合成监督与评测条件下成立。
该文研究把多步扩散与流模型压缩到 4 次函数求值的问题,提出只做在轨速度回归并加上训练期残差代理与弱预测排斥的 SMD 框架,在图像、编辑、3D、视频与 33B 音频视频联合模型上验证了对齐与质量表现,但结论依赖同网格评测与原文报告的基线配置。
论文针对联合音画生成中多目标对齐需要大量模型评估的问题,提出先做方差引导的自适应粒子搜索再做短链局部修正的两阶段推理对齐方法,在匹配计算量下提升七个对齐指标并用图像实验验证分配策略的通用性,代价是需要维护在线调度参数和两阶段奖励设置。