Teho wattia kohden on keskeinen mittari tekoälyinfrastruktuurin tehokkuudelle

NVIDIA väittää, että teho on väistämätön rajoite tekoälyinfrastruktuurille, mikä tekee teho wattia kohden kriittiseksi liikevaihdon ja kannattavuuden mittariksi. Koska huippuluokan tekoälymallit käyttävät yhä enemmän mixture-of-experts (MoE) -arkkitehtuuria, GPU:n toimialueen koko on merkityksellinen: MoE:n tehokas palveleminen vaatii 72 GPU:n toimialueen eikä Hopper-sukupolven 8 GPU:n toimialuetta. Blackwell NVL72 -alusta, joka on suunniteltu koko pinon yhteissuunnitteluna, tarjoaa jopa 25 kertaa paremman tehon wattia kohden verrattuna Hopperiin uusimpien avoimien mallien osalta. NVIDIA korostaa, että tuotantokokemus on avainasemassa: Anthropic, OpenAI ja SpaceXAI käyttävät Blackwell NVL72:ta päättelyyn, kun taas CoreWeave, Perplexity ja Fireworks AI ottavat käyttöön erilaisia malleja alustalla. Seuraavan sukupolven Vera Rubin -alusta rakentuu tälle perustalle parantaakseen energiatehokkuutta entisestään.