Multiverse Computing: CompactifAI casi duplica el rendimiento de Llama 3.3 en Intel Xeon 6

Multiverse Computing ha anunciado que su tecnología de compresión de redes neuronales, CompactifAI, permite casi duplicar el rendimiento del modelo de lenguaje grande Llama 3.3 al ejecutarse en procesadores para servidores Intel Xeon 6. La compañía afirma que CompactifAI aplica métodos de compresión cuántico-inspirada y tensorial para reducir el tamaño del modelo y acelerar la inferencia, manteniendo al mismo tiempo una alta precisión. Las pruebas han demostrado que, en la plataforma Intel Xeon 6 con 288 núcleos, el tiempo de ejecución de las tareas se reduce casi un 50%, lo que hace que el modelo sea más eficiente para su despliegue en centros de datos. Intel y Multiverse Computing han destacado que la solución no requiere hardware especializado y funciona en CPU estándar.