When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes
📄 When Tabular Foundation Models Transfer Across Modalities: A Systematic Evaluation Across 95 Datasets, 7 Modalities, and Two Regimes 7.1/10 | 创新 1.2/2 | 严谨 1.2/1.5 | 实验 1.3/1.5 | 清晰 0.9/1 | 影响 0.5/1.5 | 开源 1.5/1.5 | 复现 0.5/0.5 | 工程 0/1.5 ✅ 7.1/10 | 前50% | #音频分类 | arxiv 👥 作者与机构 作者:Julien Lafrance 机构:Télécom Paris, Institut Polytechnique de Paris 💡 毒舌点评 一篇非常扎实、数据量庞大的“工程系统论文”。作者的核心论点是“一个管道打天下”,并通过95个数据集、7种模态的暴力评估来证明这一点。优点在于极度的诚实和透明:明确区分了四种比较方式,坦率地承认了在语音上的失败,并详细记录了基线修正后“救援制度”消失的过程。然而,这也暴露了其核心矛盾:作为一篇顶会论文,其“创新性”更像是对现有技术的严谨集成和压力测试,而非提出新的理论或算法。作者清晰地划分了“等效”和“提升”两种场景,并给出了部署指南,这对工程师很有价值。但对研究者而言,创新增量有限。最致命的是,那所谓的“提升”案例仅5个,且可预测性极差,这削弱了该管道作为“发现工具”的潜力。论文最后成了自己结论的证明:大部分情况下,你只是在为“免调优”这个便利性买单,而非获得性能飞跃。 📌 核心摘要 本文系统性评估了一个统一的三阶段分类管道(ETF预处理 + TabICL推理 + 温度校准)在冻结的特征表示上的跨模态性能。该管道在7种模态的95个数据集上进行了测试。主要结论是,该管道在约77%的跨模态任务(Panel A)和91.5%的表格任务(Panel B)上,能够匹配或超越使用相同冻结特征的最强轻量级调优基线,且无需针对每个数据集进行调优。性能被清晰地划分为两个“制度”:大多数数据集是“等效”制度(管道与基线持平),少数是“提升”制度(管道显著提升性能)。该管道在速度上比全骨干微调快4到200倍。论文详细阐述了部署实践,包括ETF预处理的选择、基于几何的早停准则、非对称集成策略和校准方法,并提供了置信度门控部署的工作流程。 ...