眼动分析

📄 Encoding Emotion Through Self-Supervised Eye Movement Reconstruction #语音情感识别 #自监督学习 #眼动分析 #情感计算 ✅ 7.5/10 | 前25% | #语音情感识别 | #自监督学习 | #眼动分析 #情感计算 学术质量 7.5/7 | 选题价值 1.5/2 | 复现加成 0.5 | 置信度 高 👥 作者与机构 第一作者：Marcus Ma（南加州大学） 通讯作者：未说明 作者列表：Marcus Ma（南加州大学），Jordan Prescott（南加州大学），Emily Zhou（南加州大学），Tiantian Feng（南加州大学），Kleanthis Avramidis（南加州大学），Gabor Mihaly Toth（卢森堡大学），Shrikanth Narayanan（南加州大学） 💡 毒舌点评 这篇论文巧妙地将NLP领域的自监督预训练思路移植到眼动序列分析上，成功证明了即使是低分辨率视频中“不完美”的眼动数据也蕴含着丰富的情感信息，这种“化腐朽为神奇”的特征挖掘能力是其最大亮点。然而，其情感“真值”标签严重依赖于另一个语音情感识别模型的输出，相当于用一个“黑盒”去标注数据来训练另一个模型，这种“以模型训模型”的范式在引入系统性偏差方面存在潜在风险，让最终结论的纯粹性打了个问号。 📌 核心摘要 要解决什么问题：传统眼动情感识别依赖于昂贵、受限于实验室环境的高精度眼动仪。本文旨在探索能否从自然场景下、低成本的低分辨率视频（30 FPS，320p）中提取眼动信息，并有效预测情感。 方法核心是什么：提出了一种名为GLASS的自监督学习框架。首先，利用海量无标签眼动序列数据，通过编码器-解码器Transformer模型，以自回归方式预训练“预测未来眼动”的任务。然后，冻结或微调预训练好的编码器，接上不同的时间建模头（MLP、TCN、GRU、Transformer），在有标签的小规模数据上进行下游情感预测任务的微调。 与已有方法相比新在哪里：a) 范式创新：首次将针对语言的自监督预训练思想应用于原始眼动序列的特征学习。b) 数据利用创新：有效利用了大量易于获取但质量较低的视频数据进行预训练，摆脱了对高质量标注眼动数据的依赖。c) 模型设计：通过修改预训练任务的目标（预测未来2秒、5秒、10秒眼动），发现预测时间越长，编码的情感信号越强。 主要实验结果如何：在两个下游任务上，GLASS均优于统计特征和CNN基线。实验一（VAD回归）：在5秒输入下，GLASS（预测10秒）取得最优的皮尔逊相关系数r=0.294±0.03。实验二（行为分类：哭、笑、叹气）：在5秒输入下，GLASS（预测5秒）取得最优的宏F1分数0.361±0.02。消融实验表明，预训练时的眼动预测性能与下游情感任务性能呈正相关。 实际意义是什么：证明了低质量、自然状态下的视频眼动数据可作为可靠的情感预测源，为情感计算走向大规模、低成本、非侵入式的真实世界应用提供了新的技术路径。 主要局限性是什么：a) 标签噪声：实验一的情感VAD标签并非人工标注，而是由基于语音的ASR+情感模型生成，其准确性直接影响模型训练上限。b) 场景特定性：研究数据集为大屠杀幸存者访谈，情感强烈且单一，模型在更普遍、平淡的日常情感场景中的泛化能力未知。c) 数据私有：使用的核心数据集非公开，限制了完全复现与直接比较。 🏗️ 模型架构 论文的核心模型GLASS采用经典的两阶段“预训练-微调”范式，其整体架构如图2所示。 阶段一：自监督预训练（左图） ...