SensorFM: Ein Grundlagenmodell für Wearables, trainiert mit einer Billion Minuten Daten

Google Research hat SensorFM vorgestellt, ein großes Sensorsystemmodell, das auf über einer Billion Minuten multimodaler Sensorsignale von fünf Millionen einwilligenden Teilnehmern vortrainiert wurde. Das Modell lernt durch selbstüberwachte Rekonstruktion unter Verwendung des LSM-2-Ansatzes und des Adaptive and Inherited Masking (AIM)-Frameworks, wobei reale fehlende Daten als natürliches Artefakt behandelt werden. Skalierungsexperimente zeigen, dass eine Vergrößerung von Daten und Modellgröße nahezu lineare Verbesserungen des Vortrainingsverlusts und der nachgelagerten Leistung bewirkt, wobei das größte Modell (SensorFM-B) bei 33 von 35 Aufgaben die Nase vorn hat. Evaluiert über 35 Gesundheitsaufgaben aus drei unabhängigen Studien übertreffen die eingefrorenen Embeddings von SensorFM die überwachten Basislinien, und ein agentisches „Klassenzimmer“ aus LLM-Agenten entwirft automatisch Vorhersageköpfe, die bei den meisten Aufgaben lineare Sonden schlagen. Bei der Integration in einen Personal Health Agent verbessern die Vorhersagen von SensorFM die Qualität der Gesundheitszusammenfassungen signifikant im Vergleich zur Basislinie, ohne statistischen Unterschied zur Verwendung von Ground-Truth-Messungen.