Microsoft expande la infraestructura de Azure AI y HPC con AMD

Microsoft está expandiendo la infraestructura de IA de Azure al integrar la última plataforma Helios AI de AMD y los procesadores EPYC de próxima generación. Las nuevas ofertas incluyen máquinas virtuales HDv2 para procesamiento de datos, HXv2 para cargas de trabajo de EDA y ND MI455X v7 para inferencia de IA.

Microsoft

Actualización de llama.cpp b10075: cuatro mejoras en el motor local de IA

La actualización llama.cpp b10075 introduce cuatro mejoras clave en el motor local de inferencia de IA. Estas mejoras se centran en el rendimiento, la eficiencia de memoria y nuevas funcionalidades para ejecutar modelos de lenguaje de gran tamaño de forma local.

Meta