NVIDIA Blackwell Ultra: 15 Pflops NVFP4, 288 GB HBM3e, FP64 yok

NVIDIA, Blackwell mimarisinin geliştirilmiş bir versiyonu olan Blackwell Ultra hızlandırıcısını detaylandırdı. Çip, TSMC 4NP sürecinde 208 milyar transistör içeren iki kalıptan oluşuyor ve NV-HBI ile 10 TB/s bant genişliğinde bağlanıyor. 160 akış çok işlemcisi (streaming multiprocessor) ve 15 Pflops NVFP4 (seyreklik olmadan) sunan 640 adet beşinci nesil Tensor Çekirdeği (Tensor Core) ile birleşik L2 önbellek içeriyor. Her SM, 128 CUDA çekirdeği, ikinci nesil Transformer Motorlu (Transformer Engine) 4 Tensor Çekirdeği, 256 KB Tensor Belleği (Tensor Memory - TMEM) ve özel fonksiyon birimlerine sahip. Yeni NVFP4 formatı, mikro blok FP8 ölçekleme ve tensör seviyesinde FP32 ölçekleme kullanarak 1.8 kat daha az bellek ile FP8'e yakın doğruluk elde ediyor. Blackwell Ultra, softmax için SFU verimini iki katına çıkararak dikkat katmanı performansını artırıyor ve ilk token süresini kısaltıyor. Bellek, 288 GB HBM3e (8 TB/s bant genişliği) olup Blackwell'e göre %50 artışla 300 milyardan fazla parametreli büyük modelleri mümkün kılıyor. Harici bağlantılar NVLink 5 (1.8 TB/s) ve PCIe 6.0 x16 içeriyor. Grace Blackwell Ultra süper çipi, bir Grace CPU ile iki Blackwell Ultra'yı birleştirerek seyreklikle 40 Pflops NVFP4 ve 1 TB birleşik bellek sunuyor. GB300 NVL72 raf sistemi, 1.1 Exaflops FP4 için 36 süper çipi entegre ediyor.