Multiverse Computingin tekoälymallin pakkaus nopeuttaa päättelyä tavallisilla laitteilla
Multiverse Computing
Multiverse Computing on kehittänyt menetelmän tekoälymallien pakkaamiseen, mikä mahdollistaa niiden nopeamman toiminnan tavallisilla laitteilla ilman erikoiskiihdyttimiä. Tekniikka, joka käyttää singulaariarvohajotelmaa, saavuttaa väitetysti jopa 10x nopeutuksen suorittimilla.
Multiverse Computing, kvantti-inspiroidun laskennan yritys, ilmoitti uudesta tavasta pakata tekoälymalleja käyttämällä matriisin faktorointitekniikoita, kuten singulaariarvohajotelmaa. Menetelmä pienentää mallin kokoa ja laskentavaatimuksia, mahdollistaen suurten mallien tehokkaan suorittamisen tavanomaisilla suorittimilla ja grafiikkasuorittimilla. Testeissä tekniikka saavutti jopa 10-kertaisen päättelyn nopeutumisen suorittimilla ilman merkittävää tarkkuuden menetystä. Yritys väittää tämän voivan demokratisoida tekoälyä vähentämällä riippuvuutta kalliista, erikoistuneesta laitteistosta.
Lähde: Meta AI (GNews) —
Alkuperäinen