Performance por Watt é a Métrica Chave para Eficiência em Infraestrutura de IA

A NVIDIA argumenta que a energia é a restrição inevitável para a infraestrutura de IA, tornando o desempenho por watt a métrica crítica para receita e lucratividade. Com modelos de IA de ponta usando cada vez mais a arquitetura de mistura de especialistas (mixture-of-experts, ou MoE), o tamanho do domínio da GPU é importante: servir MoE de forma eficiente requer um domínio de 72 GPUs, em vez do domínio de 8 GPUs da geração Hopper. A plataforma Blackwell NVL72, com codesign de pilha completa, oferece até 25 vezes mais desempenho por watt em relação à Hopper para os modelos abertos mais recentes. A NVIDIA enfatiza que a experiência em produção é fundamental: a Anthropic, a OpenAI e a SpaceXAI usam a Blackwell NVL72 para inferência, enquanto a CoreWeave, a Perplexity e a Fireworks AI implantam vários modelos na plataforma. A plataforma Vera Rubin da próxima geração baseia-se nessa fundação para elevar ainda mais a eficiência energética.