SensorFM: Perustamallin käyttö puettaviin laitteisiin – koulutettu biljoonalla minuutilla dataa
Google/DeepMind
DeepMind
Fitbit
Google Research esittelee SensorFM:n, perustamallin puettavien laitteiden terveyssovelluksiin, joka on esikoulutettu yli biljoonalla minuutilla anturidataa viideltä miljoonalta ihmiseltä. Se oppii yleiskäyttöisen esityksen ihmisen fysiologiasta, joka siirtyy 35 terveystehtävään, tukee vähäistä datan määrää vaativaa sopeutumista ja voi toimia henkilökohtaisen terveysagentin perustana.
Google Research on esitellyt SensorFM:n, suuren antureiden perusmallin, joka on esikoulutettu yli biljoonan minuutin monimuotoisilla anturisignaaleilla viideltä miljoonalta suostuneelta osallistujalta. Malli oppii itseohjautuvalla rekonstruktiolla LSM-2-menetelmän ja Adaptive and Inherited Masking (AIM) -kehyksen avulla, käsitellen reaalimaailman puuttuvaa dataa luonnollisena artefaktina. Skaalauskokeet osoittavat, että sekä datan että mallin koon kasvattaminen tuottaa lähes lineaarista parannusta esikoulutushäviössä ja suorituskyvyssä, ja suurin malli (SensorFM-B) voittaa 33 tehtävässä 35:stä. Arvioituna 35 terveystehtävässä kolmesta riippumattomasta tutkimuksesta SensorFM:n jäädytetyt piirteet ylittävät valvotut perustasot, ja agenttimainen LLM-agenttien ”luokkahuone” suunnittelee automaattisesti ennustepäitä, jotka päihittävät lineaariset luotaimet useimmissa tehtävissä. Integroituna henkilökohtaiseen terveysagenttiin SensorFM:n ennusteet parantavat terveysyhteenvedon laatua merkittävästi perustasoon verrattuna, eikä tilastollisesti merkitsevää eroa havaita todellisten mittausten käyttöön verrattuna.
Lähde: Google Research —
Alkuperäinen
