10億DAUアプリの計算危機：推論コストが逆転し、クロスクラウドアーキテクチャがGPUクラスタを75%削減
1日あたりのアクティブユーザー数が1億人を超える越境AIファッション・ショッピングアプリは、推論コストが高くARPUが低いため、ユーザー1人あたり1ドルの損失を出していた。AkamaiのクラウドにNVIDIA RTX PRO 6000 GPUとFP4量子化を採用したことでコストが劇的に削減され、GPUクラスタの規模を75%縮小できた。
NVIDIA
Akamai
QbitAI 量子位04.08 · 07:02