NVIDIA Vera: 88 Arm-Kerne für KI-Agenten

NVIDIA hat den Vera-Prozessor angekündigt, der auf der Vera-Rubin-Plattform basiert und 88 maßgeschneiderte Arm-basierte 'Olympus'-Kerne mit der ARMv9.2-ISA umfasst. Der Olympus-Kern ist für KI-Agenten-Workloads ausgelegt und legt den Schwerpunkt auf hohe Instruktionen pro Takt (Instructions per Clock, IPC) sowohl für Single-Thread- als auch für parallele Aufgaben. Er verfügt über eine erweiterte Sprungvorhersage, einen Dekoder mit 10 Instruktionen Breite und eine tiefe Out-of-Order-Ausführung, um unregelmäßigen Code mit vielen Verzweigungen und pointerlastigen Datenstrukturen zu bewältigen. NVIDIA verwendet räumliches Multithreading (Spatial Multithreading, SMT) anstelle des herkömmlichen simultanen Multithreadings, um die Ressourcen des Kerns zwischen zwei Hardware-Threads aufzuteilen, was flexible Leistung und Dichte ermöglicht. Der Kern verfügt über acht einfache ALUs, sechs 128-Bit-SVE2-Vektorblöcke mit FP8-Unterstützung und eine Cache-Hierarchie mit 64 KB L1i, 96 KB L1d und 2 MB L2 pro Kern sowie einen gemeinsamen L3-Cache von 164 MB. Der Chip integriert eine skalierbare Kohärenz-Fabric (Scalable Coherency Fabric, SCF) mit einer Bisektionsbandbreite von 3,4 TB/s, die Kerne, L3, Speichercontroller und E/A verbindet. Vera unterstützt bis zu 88 PCIe-6.4-Lanes mit CXL 3.1 und bietet Sicherheitsfunktionen wie Arm CCA, RME-DA und RME-CDA sowie erweiterte RAS-Funktionen. In Leistungsvergleichen behauptet NVIDIA, dass der Olympus-Kern eine 1,9-mal höhere IPC als AMDs Zen 5 bietet, mit bis zu 2,3-mal mehr Sprungvorhersagen pro Takt und 2,4-mal mehr Instruktionsabrufen pro Takt. AMD hat angekündigt, dass seine kommenden EPYC-Venice-Prozessoren schneller als Vera sein werden.