谷歌推出 TabFM：用于表格数据的零样本学习基础模型

谷歌研究院推出了TabFM，这是一款专为表格数据分类和回归任务设计的新型基础模型。该模型采用上下文学习（ICL）方法，将整个数据集作为统一提示，在推理时解读列与行之间的关系，从而无需超参数调优和特征工程。TabFM融合了TabPFN和TabICL等架构的优势，形成了一种新颖的混合设计，以应对表格二维、无序的特性。模型完全基于使用结构因果模型（SCMs）生成的数亿个合成数据集进行训练，能够很好地泛化到未见过的真实世界数据。在TabArena基准测试中，经过38个分类数据集和13个回归数据集的评估，TabFM始终优于经过大量调优的监督学习算法（如XGBoost）。TabFM将集成到谷歌BigQuery中，使用户能够通过简单的AI.PREDICT SQL命令执行高级回归和分类任务。