NVIDIA Vera: 88 Inti Arm Olimpiade untuk Agen AI
NVIDIA
NVIDIA meluncurkan CPU Vera dengan 88 inti 'Olympus' kustom berbasis Arm yang dirancang untuk beban kerja agen AI. Chip ini, bagian dari platform Vera Rubin, berfokus pada IPC tinggi, prediksi cabang, dan multithreading spasial untuk unggul dalam tugas-tugas yang tidak teratur dan sensitif terhadap latensi.
NVIDIA telah mengumumkan CPU Vera, yang dibangun di atas platform Vera Rubin, dengan 88 inti 'Olympus' berbasis Arm khusus yang menggunakan ISA ARMv9.2. Inti Olympus dirancang untuk beban kerja agen AI, dengan menekankan instruksi per siklus (IPC) yang tinggi untuk tugas single-thread dan tugas konkuren. Ini mencakup prediksi cabang yang canggih, decoder selebar 10 instruksi, dan eksekusi out-of-order yang dalam untuk menangani kode tidak teratur dengan banyak cabang dan struktur data yang sarat pointer. NVIDIA menggunakan multithreading spasial (SMT) alih-alih multithreading simultan tradisional untuk membagi sumber daya inti antara dua thread perangkat keras, memungkinkan fleksibilitas kinerja dan kepadatan. Inti ini memiliki delapan ALU sederhana, enam blok vektor SVE2 128-bit dengan dukungan FP8, dan hierarki cache dengan L1i 64KB, L1d 96KB, dan L2 2MB per inti, bersama dengan cache L3 bersama 164MB. Chip ini mengintegrasikan Fabrik Koherensi Skalabel (SCF) dengan bandwidth biseksional 3,4TB/s, yang menghubungkan inti, L3, pengontrol memori, dan I/O. Vera mendukung hingga 88 jalur PCIe 6,4 dengan CXL 3,1, dan dilengkapi Arm CCA, RME-DA, dan RME-CDA untuk keamanan, serta RAS yang ditingkatkan. Dalam perbandingan kinerja, NVIDIA mengklaim bahwa inti Olympus memberikan IPC 1,9x lebih tinggi daripada AMD Zen 5, dengan hingga 2,3x lebih banyak prediksi cabang per siklus dan 2,4x lebih banyak pengambilan instruksi per siklus. AMD telah menyatakan bahwa prosesor EPYC Venice yang akan datang akan lebih cepat daripada Vera.
Sumber: ServerNews —
asli