小样本学习

📄 Graph-Biased EEG Transformers for Silent Speech Decoding #语音生物标志物 #预训练 #图神经网络 #脑机接口 #小样本学习 ✅ 6.5/10 | 前25% | #语音生物标志物 | #预训练 | #图神经网络 #脑机接口 学术质量 6.5/7 | 选题价值 1.5/2 | 复现加成 -1.0 | 置信度 中 👥 作者与机构 第一作者：Saravanakumar Duraisamy（University of Luxembourg） 通讯作者：Luis A. Leiva（University of Luxembourg） 作者列表：Saravanakumar Duraisamy（University of Luxembourg）， Eug´enie J. M. Delaunay（University of Luxembourg）， Luis A. Leiva（University of Luxembourg） 💡 毒舌点评 亮点：论文精准地指出了当前EEG Transformer在静默语音解码任务上“水土不服”的关键原因——缺乏对EEG电极物理布局和频段特异性的先验建模，并提出了一个即插即用的图偏置模块（Graphormer++）来优雅地解决这个问题，思路清晰且有神经科学依据。短板：受试者内解码准确率仅从20%的瞎猜水平提升至约29%，绝对值仍较低；更致命的是，该方法完全无法解决跨受试者泛化的难题（仍为20%），且论文未开源代码，极大限制了其作为可复现基准的价值。 📌 核心摘要 要解决什么问题：预训练的EEG Transformer（如EEGPT, LaBraM）在应用于静默语音解码任务时，即使经过微调，性能也接近随机猜测（~20%）。根本原因是模型分词方式无法保持电极身份和跨电极关系，导致表示不匹配。 方法核心是什么：提出Graphormer++，一个可插入任何预训练EEG Transformer编码器的模块。它首先将编码器的patch token按电极进行池化对齐，然后构建一个偏置张量，包含基于电极空间邻近度和四个频段（θ, α, β, γ）的相位锁定值（PLV）的先验知识。该偏置被用于调整Graphormer层中注意力头的得分，引导模型关注具有生理合理性的电极交互。 与已有方法相比新在哪里：不同于直接微调或简单添加分类头，该方法显式地将EEG的拓扑结构（空间）和功能连接（频段同步性）作为归纳偏置注入Transformer的注意力机制，实现了对预训练模型的结构化适配。 主要实验结果如何：在两个公开的静默语音数据集上，Graphormer++在受试者内设置下，将基于EEGPT骨干的平均分类准确率从微调后的约22%提升至约29.4%。在受试者间设置下，所有方法性能均停留在随机水平（~20%）。注意力图分析显示，该方法使模型更关注与语音相关的额叶、中央和颞区。关键实验结果表格如下： 表2. Graphormer++在不同骨干和设置下的准确率（%） ...