SensorFM：基于万亿分钟数据训练的可穿戴设备基础模型

谷歌研究院推出了SensorFM，这是一个大型传感器基础模型，在来自五百万名同意参与者的超过一万亿分钟的多模态传感器信号上进行了预训练。该模型通过自监督重建进行学习，采用了LSM-2方法和自适应与继承掩码（AIM）框架，将现实世界中的缺失数据视为一种自然伪影。扩展实验表明，增加数据和模型规模都能使预训练损失和下游性能实现近乎线性的提升，其中最大的模型（SensorFM-B）在35项任务中赢得了33项。在来自三项独立研究的35项健康任务评估中，SensorFM的冻结嵌入优于有监督基线，并且一个由大语言模型智能体组成的“智能体教室”自动设计的预测头在大多数任务上优于线性探针。当集成到个人健康智能体中时，SensorFM的预测相比基线显著提升了健康摘要的质量，与使用真实测量值相比没有统计差异。