Miljardin päivittäisen käyttäjän sovelluksen laskentakriisi: päättelyn kustannukset kääntyivät nurin, monipilviarkkitehtuuri pienensi GPU-klusteria 75 prosenttia
Rajat ylittävä tekoälymuoti- ja ostossovellus, jolla on yli 100 miljoonaa päivittäistä aktiivista käyttäjää, menetti dollarin käyttäjää kohden korkeiden päättelykustannusten ja alhaisen käyttäjäkohtaisen tuoton vuoksi. Siirtyminen Akamain pilveen NVIDIA RTX PRO 6000 -näytönohjaimilla ja FP4-kvantisointi vähensi kustannuksia dramaattisesti, pienentäen GPU-klusterin kokoa 75 prosenttia.
NVIDIA
Akamai
QbitAI 量子位04.08 · 07:02