AMD Instinct MI300: análisis detallado de la arquitectura y el rendimiento
NVIDIA
Taiwan Semiconductor Manufacturing Company
La serie AMD Instinct MI300, basada en la arquitectura CDNA3, introduce un diseño heterogéneo de chips con hasta 8 módulos XCD y 4 módulos IOD, utilizando empaquetado avanzado CoWoS y tecnología 3D V-Cache. La línea incluye el acelerador MI300X y la APU MI300A con núcleos Zen 4 integrados, ofreciendo hasta 304 unidades de cómputo, memoria HBM3 de hasta 192 GB y mejoras significativas de rendimiento respecto a la generación anterior y la NVIDIA H100 en cargas de trabajo tanto de HPC como de IA.
La serie Instinct MI300 de AMD consta de dos variantes: el acelerador MI300X con 8 chips de cómputo XCD y el APU MI300A que combina 6 chips XCD con 3 chips CCD que contienen 24 núcleos Zen 4. Ambas utilizan el proceso de 5 nm y 6 nm de TSMC, cuentan con 8 pilas de memoria HBM3 y tienen un TDP de alrededor de 750-760 W. El MI300X ofrece 192 GB de memoria HBM3 y 304 unidades de cómputo, mientras que el MI300A tiene 128 GB y 228 unidades de cómputo. En cuanto al rendimiento, AMD afirma que el MI300X es hasta 2.5 veces más rápido que el NVIDIA H100 en FP32 y FP64, y competitivo en modos de precisión para IA. El MI300A demostró una ventaja de 4 veces sobre el H100 en una prueba comparativa de OpenFOAM, consumiendo menos energía. La arquitectura CDNA3 introduce nuevos núcleos matriciales que admiten FP8, TF32, datos dispersos y una jerarquía de memoria rediseñada con Infinity Cache. El chip utiliza interconexiones Infinity Fabric para topologías escalables de múltiples GPU sin necesidad de conmutadores externos.
Fuente: ServerNews —
original