Akamai

Ứng dụng tỷ DAU khủng hoảng chi phí tính toán: Chi phí suy luận đảo ngược, kiến trúc đa đám mây cắt giảm cụm GPU 75%

Một ứng dụng mua sắm và thời trang AI xuyên biên giới với hơn 100 triệu người dùng hoạt động hàng ngày đang lỗ 1 đô la mỗi người dùng do chi phí suy luận cao và ARPU thấp. Việc chuyển sang đám mây của Akamai với GPU NVIDIA RTX PRO 6000 và lượng tử hóa FP4 đã giảm chi phí đáng kể, cắt giảm quy mô cụm GPU tới 75%.

NVIDIA Akamai