Akamai

Crise de calcul pour une application à milliard d'utilisateurs quotidiens : coûts d'inférence inversés, l'architecture multi-cloud réduit le cluster GPU de 75 %

Une application transfrontalière de mode et de shopping IA avec plus de 100 millions d'utilisateurs actifs quotidiens perdait 1 dollar par utilisateur en raison de coûts d'inférence élevés et d'un faible ARPU. Le passage au cloud d'Akamaï avec les GPU NVIDIA RTX PRO 6000 et la quantification FP4 a considérablement réduit les coûts, diminuant la taille du cluster GPU de 75 %.

NVIDIA Akamai