Multiverse Computing: CompactifAI, Llama 3.3 performansını Intel Xeon 6 üzerinde neredeyse ikiye katlıyor

Multiverse Computing, CompactifAI teknolojisinin, Meta'nın Llama 3.3 büyük dil modelinin Intel Xeon 6 işlemcilerdeki performansını neredeyse iki katına çıkardığını duyurdu. Optimizasyon, doğruluktan ödün vermeden çıkarımda önemli hızlanmalar sağlıyor. CompactifAI, yapay zeka modellerini sıkıştırmak ve hızlandırmak için kuantum esinli algoritmalar kullanıyor. Bu gelişme, büyük dil modellerinin standart sunucu donanımlarında daha verimli bir şekilde dağıtılmasını sağlıyor.