अरब-डीएयू ऐप का कंप्यूट संकट: इन्फ्रेंस लागत उलटी, क्रॉस-क्लाउड आर्किटेक्चर ने GPU क्लस्टर 75% घटाया
एक अंतरराष्ट्रीय AI फैशन और शॉपिंग ऐप, जिसके 100 मिलियन से अधिक दैनिक सक्रिय उपयोगकर्ता हैं, उच्च इन्फ्रेंस लागत और कम ARPU के कारण प्रति उपयोगकर्ता $1 का नुकसान उठा रहा था। Akamai के क्लाउड में NVIDIA RTX PRO 6000 जीपीयू और FP4 क्वांटाइजेशन पर स्विच करने से लागत में नाटकीय कमी आई, जिससे GPU क्लस्टर का आकार 75% घट गया।
NVIDIA
Akamai
QbitAI 量子位04.08 · 07:02