SensorFM: A Foundation Model for Wearables Trained on a Trillion Minutes of Data

Google Researchは、SensorFM（ウェアラブル端末向けの基盤モデル）を発表した。このモデルは、500万人のボランティアから収集された1兆分以上のマルチモーダルなセンサーデータで事前学習されている。データには、フォトプレチスモグラフィ（光電容積脈波）、加速度計、電気皮膚活動、皮膚温、高度計の信号が分単位の解像度で含まれており、100か国以上のFitbitデバイスとPixel Watchから収集された。モデルは、適応的継承マスキング（Adaptive and Inherited Masking, AIM）に基づく自己教師あり再構成学習を使用しており、断片的なデータでも効果的に機能する。モデルを1億パラメータと20億時間のデータにスケーリングした結果、再構成誤差が31%減少し、分類精度が9%（AUC）、回帰精度が21%（ピアソン相関係数）向上した。35タスク中33タスクで、最大バージョンであるSensorFM-Bが最良の結果を示した。モデルの適応を自動化するために、大規模言語モデル（LLM）エージェントが使用され、SensorFMの埋め込みに基づいて予測ヘッドを構築するための3万以上のソリューションが生成・テストされた。SensorFMをパーソナルヘルスエージェント（Personal Health Agent）に統合した結果、臨床医による1860件の評価において、実際の測定値に基づくサマリーと遜色のないパーソナライズされた健康サマリーの生成が可能となった。