NVIDIA Vera: 88 núcleos Arm Olímpicos para agentes de IA

NVIDIA ha anunciado la CPU Vera, construida sobre la plataforma Vera Rubin, con 88 núcleos personalizados 'Olympus' basados en Arm y que utilizan la ISA ARMv9.2. El núcleo Olympus está diseñado para cargas de trabajo de agentes de IA, haciendo hincapié en un alto número de instrucciones por ciclo (IPC) tanto para tareas de un solo hilo como para tareas concurrentes. Incluye predicción de saltos avanzada, un decodificador de 10 instrucciones de ancho y ejecución fuera de orden profunda para manejar código irregular con muchos saltos y estructuras de datos con muchos punteros. NVIDIA utiliza multihilo espacial (SMT) en lugar del multihilo simultáneo tradicional para dividir los recursos del núcleo entre dos hilos de hardware, lo que permite flexibilidad en rendimiento y densidad. El núcleo presenta ocho ALU simples, seis bloques vectoriales SVE2 de 128 bits con soporte FP8 y una jerarquía de caché con 64KB L1i, 96KB L1d y 2MB L2 por núcleo, junto con una caché L3 compartida de 164MB. El chip integra una estructura de coherencia escalable (SCF) con un ancho de banda biseccional de 3.4TB/s, que conecta núcleos, L3, controladores de memoria y E/S. Vera soporta hasta 88 líneas PCIe 6.4 con CXL 3.1, y cuenta con Arm CCA, RME-DA y RME-CDA para seguridad, además de RAS mejorado. En comparaciones de rendimiento, NVIDIA afirma que el núcleo Olympus proporciona un 1.9x mayor IPC que el Zen 5 de AMD, con hasta 2.3x más predicciones de salto por ciclo y 2.4x más captaciones de instrucciones por ciclo. AMD ha declarado que sus próximos procesadores EPYC Venice serán más rápidos que Vera.