AMD Instinct MI300 : analyse détaillée de l'architecture et des performances
NVIDIA
Taiwan Semiconductor Manufacturing Company
La série AMD Instinct MI300, basée sur l'architecture CDNA3, introduit une conception hétérogène en chiplets avec jusqu'à 8 modules XCD et 4 modules IOD, utilisant l'encapsulation avancée CoWoS et la technologie 3D V-Cache. La gamme comprend l'accélérateur MI300X et l'APU MI300A avec des cœurs Zen 4 intégrés, offrant jusqu'à 304 unités de calcul, une mémoire HBM3 allant jusqu'à 192 Go et des améliorations significatives des performances par rapport à la génération précédente et au NVIDIA H100 dans des charges de travail HPC et IA.
La série AMD Instinct MI300 comprend deux variantes : l’accélérateur MI300X avec 8 chiplets de calcul XCD et l’APU MI300A qui associe 6 chiplets XCD à 3 chiplets CCD contenant 24 cœurs Zen 4. Les deux utilisent le procédé TSMC en 5 nm/6 nm, disposent de 8 piles HBM3 et ont un TDP d’environ 750 à 760 W. Le MI300X offre 192 Go de mémoire HBM3 et 304 unités de calcul, tandis que le MI300A dispose de 128 Go et de 228 unités de calcul. En termes de performances, AMD affirme que le MI300X est jusqu’à 2,5 fois plus rapide que le NVIDIA H100 en FP32/FP64 et compétitif dans les modes de précision pour l’IA. Le MI300A a démontré un avantage de 4 fois par rapport au H100 sur un benchmark OpenFOAM tout en consommant moins d’énergie. L’architecture CDNA3 introduit de nouveaux cœurs matriciels prenant en charge FP8, TF32, les données sparse, ainsi qu’une hiérarchie mémoire repensée avec Infinity Cache. La puce utilise des interconnexions Infinity Fabric pour des topologies multi-GPU évolutives sans commutateurs externes.
Source: ServerNews —
original