Google esittelee TabFM:n: perusmallin taulukkomuotoiselle datalle nolla-oppimisella

Google Research on esitellyt TabFM:n, uuden perusmallin, joka on suunniteltu erityisesti taulukkomuotoisen datan luokitteluun ja regressioon. Malli käyttää in-context learning (ICL) -lähestymistapaa, jossa koko datasetti käsitellään yhtenäistettynä kehotuksena tulkitsemaan sarakkeiden ja rivien välisiä suhteita päättelyvaiheessa, mikä poistaa tarpeen hyperparametrien virittämiselle ja piirteiden suunnittelulle. TabFM yhdistää arkkitehtuurien, kuten TabPFN:n ja TabICL:n, vahvuudet uudeksi hybridisuunnitteluksi käsitelläkseen taulukoiden kaksiulotteista ja järjestysvapaata luonnetta. Kokonaan koulutettuna sadoilla miljoonilla synteettisillä dataseteilla, jotka on luotu strukturaalisia kausaalimalleja (structural causal models, SCM) käyttäen, TabFM yleistyy hyvin ennen näkemättömään todelliseen dataan. TabArena-vertailutasolla arvioituna 38 luokittelun ja 13 regression datasarjan yli se suoriutuu jatkuvasti paremmin kuin raskaasti viritetyt valvotut algoritmit, kuten XGBoost. TabFM integroidaan Google BigQueryyn, mikä mahdollistaa käyttäjille kehittyneen regression ja luokittelun yksinkertaisella AI.PREDICT SQL -komennolla.