AMD Instinct MI300: gedetailleerde architectuur- en prestatieanalyse
NVIDIA
Taiwan Semiconductor Manufacturing Company
De AMD Instinct MI300-serie, gebaseerd op de CDNA3-architectuur, introduceert een heterogeen chiplets-ontwerp met maximaal 8 XCD-modules en 4 IOD-modules, met gebruik van geavanceerde CoWoS-verpakking en 3D V-Cache-technologie. De lijn omvat de MI300X-versneller en de MI300A APU met geïntegreerde Zen 4-kernen, die tot 304 rekeneenheden, HBM3-geheugen tot 192 GB en aanzienlijke prestatieverbeteringen biedt ten opzichte van de vorige generatie en NVIDIA H100 in zowel HPC- als AI-workloads.
AMD’s Instinct MI300-serie bestaat uit twee varianten: de MI300X-versneller met 8 XCD-rekenchiplets en de MI300A APU die 6 XCD-chiplets combineert met 3 CCD-chiplets met 24 Zen 4-kernen. Beide maken gebruik van het 5nm/6nm TSMC-procedé, hebben 8 HBM3-stapels en een TDP van ongeveer 750 tot 760 W. De MI300X biedt 192 GB HBM3-geheugen en 304 rekeneenheden, terwijl de MI300A 128 GB en 228 rekeneenheden heeft. Qua prestaties claimt AMD dat de MI300X tot 2,5 keer sneller is dan NVIDIA H100 in FP32/64 en concurrerend is in AI-precisiemodi. De MI300A liet een 4-voudige voorsprong op de H100 zien in een OpenFOAM-benchmark, terwijl deze minder stroom verbruikte. De CDNA3-architectuur introduceert nieuwe matrixkernen met ondersteuning voor FP8, TF32, sparse data en een herontworpen geheugenhiërarchie met Infinity Cache. De chip gebruikt Infinity Fabric-interconnecties voor schaalbare multi-GPU-topologieën zonder externe switches.
Bron: ServerNews —
origineel