SensorFM: A Foundation Model for Wearables Trained on a Trillion Minutes of Data

Badan Riset Google (Google Research) memperkenalkan SensorFM, sebuah model fundamental untuk perangkat wearable yang dilatih awal (pre-trained) pada lebih dari satu triliun menit data sensor multimodal yang dikumpulkan dari lima juta sukarelawan. Data tersebut mencakup sinyal fotopletismografi, akselerometri, aktivitas elektrodermal, suhu kulit, dan altimetri dengan resolusi menit, yang dikumpulkan dari perangkat Fitbit dan Pixel Watch di lebih dari 100 negara. Model ini menggunakan pembelajaran mandiri (self-supervised learning) berbasis rekonstruksi dengan Adaptive and Inherited Masking (AIM), yang memungkinkan bekerja secara produktif dengan data yang terfragmentasi. Penskalaan model hingga 100 juta parameter dan dua miliar jam data berhasil menurunkan kesalahan rekonstruksi sebesar 31%, meningkatkan akurasi sebesar 9% (Area Under the Curve, AUC) untuk klasifikasi, dan 21% (koefisien korelasi Pearson) untuk regresi. Pada 33 dari 35 tugas, versi terbesar SensorFM-B menunjukkan kinerja terbaik. Untuk mengotomatiskan adaptasi model, digunakan agen Large Language Model (LLM) yang menghasilkan dan menguji lebih dari 30 ribu solusi untuk membangun kepala prediktif berdasarkan embedding SensorFM. Integrasi SensorFM ke dalam Personal Health Agent (Agen Kesehatan Pribadi) memungkinkan pembuatan ringkasan kesehatan yang dipersonalisasi, yang kualitasnya tidak kalah dengan ringkasan berdasarkan pengukuran nyata—hal ini ditunjukkan oleh 1.860 penilaian dari para dokter.