Multiverse Computing: CompactifAI verdubbelt bijna de prestaties van Llama 3.3 op Intel Xeon 6
Multiverse Computing
Meta
Intel Corporation
De CompactifAI-technologie van Multiverse Computing verdubbelt bijna de prestaties van Meta's Llama 3.3-model op Intel Xeon 6-processors, met aanzienlijke snelheidswinst zonder verlies van nauwkeurigheid. De oplossing maakt gebruik van kwantum-geïnspireerde technieken om AI-inferentie te optimaliseren.
Multiverse Computing heeft aangekondigd dat zijn CompactifAI-technologie de prestaties van Meta's Llama 3.3 large language model op Intel Xeon 6-processoren bijna verdubbelt. De optimalisatie levert aanzienlijke versnellingen op bij inferentie, zonder in te boeten aan nauwkeurigheid. CompactifAI gebruikt quantum-geïnspireerde algoritmen om AI-modellen te comprimeren en versnellen. Deze ontwikkeling maakt een efficiëntere inzet van LLM's op standaard serverhardware mogelijk.
Bron: Meta AI (GNews) —
origineel