噪声混响下双路条件 Transformer U-Net 如何分工做音视频情感识别
针对噪声和混响导致语音情感特征退化的问题,该研究用音频逆滤波前端加频率注入视觉流的双条件 Transformer U-Net 做音视频融合,在 CREMA-D 等数据上报告了优于单模态与多模态基线的识别率,但强混响与未见噪声下的泛化仍受限。
针对噪声和混响导致语音情感特征退化的问题,该研究用音频逆滤波前端加频率注入视觉流的双条件 Transformer U-Net 做音视频融合,在 CREMA-D 等数据上报告了优于单模态与多模态基线的识别率,但强混响与未见噪声下的泛化仍受限。
针对模态内缺失导致证据碎片化问题,SemMSA 用冻结大语言模型隐空间迭代精炼情感语义并以核 Gram 矩阵主谱成分做无锚对齐,在缺失率 0.0 到 0.9 平均上保持领先,但极高缺失与可解释性仍受限。
针对日常视频中增益失衡叠加噪声与混响的问题,SSE 用视频加文字引导的流匹配生成做重混与增强,在 DegradedMix 与 MuddyMix 上以分布与对齐指标优于 VisAH,但单真值重建指标上优势收窄且依赖预训练编解码与分离权重。
针对大语言模型语音识别在噪声下表示不稳的问题,VIB-AVSR 在 LLM 第 4 与第 8 层后只对音频隐状态做变分信息瓶颈压缩与插值,在 LRS2 上 babble 与 speech 噪声多信噪比下降低词错率,而干净语音性能基本保持,代价是需调压缩强度与插入位置且三瓶颈会过正则。
该文用 32 组 105 人的被试内配对设计采集约 59 小时面对面与视频会议群组对话并做多模态特征与人工标注,报告显示视频会议话轮间隔更长、话语更短且句法更简单而面对面愉悦度更高,代价是任务单一且设备与场景控制仍会引入域差异。
针对第一视角下判断说话人是否在对佩戴者说话的问题,该工作用说话人身份与对话轮次感知的文本上下文建模加注视感知的视觉分支,在 Ego4D 验证集上报告 72.40% mAP,代价是依赖转写、说话人聚类与冻结视觉骨干的级联流水线。
针对多人演唱与密集伴奏下的目标歌声分离,MambaVoice 用对数分频音频编码加面部动作门控做条件,再以先 Mamba 后 Transformer 的混合主干建模,报告在 Acappella 未见未闻测试上以 16.2M 参数取得 14.18 dB SDR,并在 URSing 跨域与推理耗时上给出对照,代价是强干扰下仍略低于 VoViT 基线且主观评测样本 …
针对通用多模态只学语义对齐而缺物理量监督的问题,OmniFysics-Nano-V2 用静态属性 grounding 与动态视听事件对齐的双分支数据加两阶段 GRPO,在 21 项中 17 项领先同类全模态模型,代价是依赖商用大模型标注与多阶段训练流程。
Passing 把一段多摩单轨车窗连续录像堆成时空体并沿非线性截面重采样出无尽画面,再用去掉视觉语义分支、只留时间对齐与车内环境声语义锚定的 SpecMaskFoley 实时生成同步声,代价是最终展览声景没有可复算的客观正确性指标,只能靠现场稳定性和艺术协商来收敛。
该文在 Lyra 舞蹈子集上用音频、视频、骨架三模态做 28 标签自动打标,报告最强三模态门控融合宏 ROC-AUC 为 0.864,超过最强音频单模态 0.821,但骨架单模态仅 0.586 且约半数片段缺有效姿态。
针对野外遮挡噪声下说话人易误判问题,ROAM-ASD 联合音频、全脸与嘴部三流并用联合自注意力加模态丢弃融合,在五个基准上取得 98.8%、87.9% 等 mAP,代价是需要人脸跟踪与嘴部关键点定位。
针对视频物体移除后原声残留导致视听不一致的问题,TV-AudioRemover 用已编辑视频加文字指令做选择性声移除,并用百万级单物体对齐数据、多任务与由易到难的两阶段混合训练支撑细粒度区分,其代价是对上游视觉编辑质量和纠缠声源仍有依赖。
论文在事件决定声音、外观只影响视频的结构因果模型下证明并验证共享隐变量仍学颜色等视觉捷径,而对 nuisance 做反事实不变干预才能恢复因果预测,代价是需要已知且可增强的 nuisance 并在分布内付出小额误差。
DFD-Lab 把数据集适配、配对片段表示、检测器接口与实验配置分开,用 FakeAVCeleb 训练、过滤后的 Deepfake-Eval-2024 外部测试三类融合实现,最一致的证据是 JPEG50 训练增强把外部 AUROC 从 0.504、0.538、0.458 分别提升到 0.691、0.605、0.570,但三者准确率同时从 …
AVTR-1 用 153M 参数的双音频条件流匹配模型生成头部与表情动作,再用常开的渲染与调度循环把外部语音智能体的可变语音片段变成同步音视频,并用延迟分解与 R-DGG 验证了可交互性与说话人依赖,代价是仍依赖外部语音智能体与固定的窗口节拍。
针对说话数据训练的模型在唱歌时出现节奏漂移和表情受限的问题,论文用三阶段过滤构建 29500 余段野外唱歌头数据,并在 Hallo 等架构上验证了唇同步与节奏对齐的提升,但高强度筛选只保留约 6.9% 原料且依赖人工打分融合。
针对文本查询的音视事件时间定位,论文提出按边界可靠性分配教师监督位置的 OV-OrthKD,在 OV-AVEBench 上达到 0.816 片段 AP 且未见类 F1@0.5 提升 3.4 个百分点,代价是角色固定且仅做局部权重验证。
针对对话语音只看文本历史会漏掉听者即时非言语线索的问题,用回应前 1 秒听者人脸时序做显式回应规划,在严格双人 MELD 协议上时序模型宏平均 F1 和 VAD 一致性略高于纯文本而准确率基本不变,合成阶段仅证明可端到端连通而未改善可懂度。
论文把多模态交互中的用户需求理解定义为先判存在再补全意图的上下文推理任务,用 2078 个合成与真人实录场景和五维指标测 14 个原生模型,最强系统在需上下文的关键信息上仅恢复 44.7% 且误触发普遍超过 50%,而给定标准需求标注能显著改善下游回复。
针对原生音视频直接对话缺数据、难评测的问题,该工作用多智能体合成对话同时做评测集与强化训练语料,报告在合成集从 0.465 到 0.652、在真人实拍集从 0.402 到 0.632 的提升,代价是回复变短且效率与风格奖励之间存在权衡。