SensorFM: Een Fundatiemodel voor Wearables Getraind op een Biljoen Minuten Data
Google/DeepMind
DeepMind
Fitbit
Google Research introduceert SensorFM, een fundatiemodel voor draagbare gezondheidstechnologie, voorgetraind op meer dan een biljoen minuten aan sensordata van vijf miljoen mensen. Het leert een algemeen toepasbare representatie van de menselijke fysiologie die overdraagbaar is naar 35 gezondheidstaken, ondersteunt label-efficiënte aanpassing en kan een Persoonlijke Gezondheidsassistent ondersteunen.
Google Research presenteert SensorFM, een groot sensorbasis-model dat vooraf is getraind op meer dan een biljoen minuten aan multimodale sensorsignalen van vijf miljoen deelnemers die toestemming hebben gegeven. Het model leert via zelfgecontroleerde reconstructie met behulp van de LSM-2-aanpak en het Adaptive and Inherited Masking (AIM)-framework, waarbij ontbrekende gegevens uit de echte wereld worden behandeld als een natuurlijk artefact. Schalingsexperimenten laten zien dat het vergroten van zowel de data- als modelomvang bijna lineaire verbeteringen oplevert in het verlies tijdens de voorafgaande training en downstream-prestaties, waarbij het grootste model (SensorFM-B) wint op 33 van de 35 taken. Geëvalueerd op 35 gezondheidstaken uit drie onafhankelijke studies verslaan SensorFM's bevroren representaties gecontroleerde basislijnen, en een agentische 'klas' van LLM-agenten ontwerpt automatisch voorspellingkoppen die lineaire probes op de meeste taken overtreffen. Wanneer geïntegreerd in een persoonlijke gezondheidsagent, verbeteren de voorspellingen van SensorFM de kwaliteit van gezondheidssamenvattingen aanzienlijk ten opzichte van de basislijn, zonder statistisch verschil met het gebruik van echte metingen.
Bron: Google Research —
origineel
