Toimivatko tekoälymallit kovemmin kuin on tarpeen? Painottomat neuroverkot tarjoavat hakutaulupohjaisen vaihtoehdon

Austinissa Texasin yliopistossa toimiva professori Lizy K. John väittää, että nykyiset tekoälymallit, jotka nojaavat vahvasti kertolaskuihin, saattavat tehdä enemmän työtä kuin on tarpeen. Hän on viiden vuoden ajan työskennellyt painottomien neuroverkkojen parissa, jotka käyttävät toisiinsa kytkettyjä hakutaulukoita sen sijaan, että kertoisivat syötteet painoilla, vähentäen laskennan binääristen vastausten konsultointiin. Esimerkiksi ihmisen toiminnan tunnistuksen, EKG-seurannan ja avainsanojen tunnistuksen tehtävissä hänen tiiminsä verkot saavuttavat 1000 kertaa pienemmän koon ja energiankulutuksen säilyttäen samalla tarkkuuden. Heidän avainsanojen tunnistusmallinsa käyttää vain 42–79 nanojoulea päättelyä kohden verrattuna yli 5000 nanojouliin nykyisessä parhaassa teollisuusmallissa. John on jo korvannut transformeri-verkkojen monikerroksisen perseptronin osan, joka on noin puolet chatbotin arkkitehtuurista, ja pyrkii korvaamaan myös huomio-mekanismin. Hän uskoo, että painottomat verkot voisivat mahdollistaa tekoälyn pienissä, vähävirtaisissa laitteissa, kuten taipuisilla muovialustoilla olevissa lääketieteellisissä antureissa. Harjoittelu tapahtuu edelleen grafiikkaprosessoreilla, mutta John toivoo voivansa lopulta käyttää FPGA-pohjaista laitteistoa, koska FPGA:n hakutaulukot sopivat luonnollisesti tähän tarkoitukseen.