NVIDIA Vera: 88 núcleos Arm olímpicos para agentes de IA

A NVIDIA anunciou a CPU Vera, construída na plataforma Vera Rubin, com 88 núcleos personalizados 'Olympus' baseados em Arm e usando a ISA ARMv9.2. O núcleo Olympus é projetado para cargas de trabalho de agentes de IA, com ênfase em alto IPC (instruções por ciclo) tanto para tarefas de thread única quanto para tarefas concorrentes. Inclui predição avançada de desvios, um decodificador de 10 instruções de largura e execução fora de ordem profunda para lidar com código irregular com muitos desvios e estruturas de dados com muitos ponteiros. A NVIDIA usa multithreading espacial (SMT) em vez do multithreading simultâneo tradicional para dividir recursos do núcleo entre dois threads de hardware, permitindo flexibilidade de desempenho e densidade. O núcleo apresenta oito ALUs simples, seis blocos vetoriais SVE2 de 128 bits com suporte a FP8 e uma hierarquia de cache com 64KB L1i, 96KB L1d e 2MB L2 por núcleo, além de um cache L3 compartilhado de 164MB. O chip integra um tecido de coerência escalável (SCF) com largura de banda bissetada de 3.4TB/s, conectando núcleos, L3, controladores de memória e E/S. O Vera suporta até 88 pistas PCIe 6.4 com CXL 3.1 e apresenta Arm CCA, RME-DA e RME-CDA para segurança, além de RAS aprimorado. Em comparações de desempenho, a NVIDIA afirma que o núcleo Olympus oferece 1.9x mais IPC que o Zen 5 da AMD, com até 2.3x mais previsões de desvio por ciclo e 2.4x mais buscas de instruções por ciclo. A AMD afirmou que seus próximos processadores EPYC Venice serão mais rápidos que o Vera.