AMD Instinct MI300: análise detalhada da arquitetura e desempenho
NVIDIA
Taiwan Semiconductor Manufacturing Company
A série AMD Instinct MI300, baseada na arquitetura CDNA3, introduz um design heterogêneo de chiplets com até 8 módulos XCD e 4 módulos IOD, utilizando empacotamento avançado CoWoS e tecnologia 3D V-Cache. A linha inclui o acelerador MI300X e o APU MI300A com núcleos Zen 4 integrados, oferecendo até 304 unidades de computação, memória HBM3 de até 192 GB e melhorias significativas de desempenho em relação à geração anterior e à NVIDIA H100 em cargas de trabalho de HPC e IA.
A série Instinct MI300 da AMD é composta por duas variantes: o acelerador MI300X com 8 chipsets de computação XCD e a APU MI300A combinando 6 chipsets XCD com 3 chipsets CCD contendo 24 núcleos Zen 4. Ambas utilizam processo de 5nm/6nm da TSMC, possuem 8 pilhas de memória HBM3 e têm um TDP em torno de 750-760 W. O MI300X oferece 192 GB de memória HBM3 e 304 unidades de computação, enquanto o MI300A tem 128 GB e 228 unidades de computação. Em termos de desempenho, a AMD alega que o MI300X é até 2,5 vezes mais rápido que o NVIDIA H100 em FP32/64 e competitivo em modos de precisão de IA. O MI300A demonstrou uma vantagem de 4 vezes sobre o H100 em um benchmark OpenFOAM, consumindo menos energia. A arquitetura CDNA3 introduz novos núcleos de matriz que suportam FP8, TF32, dados esparsos e uma hierarquia de memória reprojetada com Infinity Cache. O chip usa interconexões Infinity Fabric para topologias escaláveis de múltiplas GPUs sem switches externos.
Fonte: ServerNews —
original