AMD Instinct MI300: detaylı mimari ve performans analizi
NVIDIA
Taiwan Semiconductor Manufacturing Company
AMD Instinct MI300 serisi, CDNA3 mimarisine dayanarak, en fazla 8 XCD modülü ve 4 IOD modülü içeren heterojen bir kalıp tasarımı sunar. Gelişmiş CoWoS paketleme ve 3D V-Cache teknolojisi kullanır. Seride, MI300X hızlandırıcı ve entegre Zen 4 çekirdekli MI300A APU yer alır; 304 hesaplama birimine, 192 GB'a kadar HBM3 belleğe sahiptir ve hem yüksek başarımlı hesaplama (HPC) hem de yapay zeka (YZ) iş yüklerinde önceki nesil ve NVIDIA H100'e kıyasla önemli performans iyileştirmeleri sunar.
AMD'nin Instinct MI300 serisi iki varyanttan oluşuyor: 8 adet XCD hesaplama çipseti içeren MI300X hızlandırıcı ve 6 adet XCD çipsetini 24 adet Zen 4 çekirdeği içeren 3 adet CCD çipseti ile birleştiren MI300A APU (Hızlandırılmış İşlem Birimi). Her ikisi de 5nm/6nm TSMC sürecini kullanıyor, 8 adet HBM3 yığınına sahip ve güç tüketimleri (TDP) yaklaşık 750-760 W. MI300X, 192 GB HBM3 bellek ve 304 hesaplama birimi sunarken, MI300A 128 GB ve 228 hesaplama birimine sahip. Performans açısından AMD, MI300X'in FP32/64'te NVIDIA H100'den 2,5 kata kadar daha hızlı olduğunu ve yapay zeka hassasiyet modlarında rekabetçi olduğunu iddia ediyor. MI300A, bir OpenFOAM kıyaslamasında H100'e karşı 4 kat liderlik gösterirken daha az güç tüketti. CDNA3 mimarisi, FP8, TF32, seyrek veri desteği ve Infinity Cache ile yeniden tasarlanmış bir bellek hiyerarşisi sunan yeni matris çekirdekleri tanıtıyor. Yonga, harici anahtarlar olmadan ölçeklenebilir çoklu GPU (Grafik İşlem Birimi) topolojileri için Infinity Fabric ara bağlantılarını kullanıyor.
Kaynak: ServerNews —
orijinal