Multiverse Computing: CompactifAI lähes kaksinkertaistaa Llama 3.3 -suorituskyvyn Intel Xeon 6:lla
Multiverse Computing
Meta
Intel Corporation
Multiverse Computingin CompactifAI-tekniikka lähes kaksinkertaistaa Metan Llama 3.3 -mallin suorituskyvyn Intel Xeon 6 -suorittimilla, saavuttaen merkittäviä nopeutuksia tarkkuudesta tinkimättä. Ratkaisu käyttää kvantti-inspiroituja tekniikoita tekoälypäätelyn optimointiin.
Multiverse Computing on ilmoittanut, että sen CompactifAI-tekniikka lähes kaksinkertaistaa Metan Llama 3.3 -suuren kielimallin suorituskyvyn Intel Xeon 6 -prosessoreilla. Optimointi saavuttaa merkittäviä nopeutuksia päättelyssä tarkkuudesta tinkimättä. CompactifAI käyttää kvantti-inspiroituja algoritmeja tekoälymallien pakkaamiseen ja kiihdyttämiseen. Tämä kehitys mahdollistaa suurten kielimallien tehokkaamman käyttöönoton tavanomaisissa palvelinlaitteistoissa.
Lähde: Meta AI (GNews) —
Alkuperäinen