Nvidia vise à occuper chaque puce des centres de données IA

Nvidia a annoncé un nouveau système de chips Vera Rubin, qui remplacera Grace Blackwell et deviendra la pièce maîtresse de son avenir proche dans l'industrie de l'IA. Le système comprend 36 CPU Vera et 72 GPU Rubin dans une configuration NVL72, le CPU étant également vendu séparément et potentiellement prêt pour des clients chinois dès août. Nvidia affirme que le Vera Rubin NVL72 traitera 10 fois plus de tokens par watt que le Grace Blackwell, tandis que les sous-systèmes mémoire locaux offriront une bande passante mémoire presque trois fois supérieure. L'architecture monolithique du CPU Vera, selon l'entreprise, surpasse en performance les solutions à chipsets des concurrents AMD et Intel. Le système, doté d'un refroidissement liquide à 100 %, est présenté comme « cable-free compute » et « hot-swappable », réduisant le temps d'installation de chaque rack de plusieurs heures à quelques minutes. OpenAI utilise déjà un rack Vera Rubin. La présentation a eu lieu dans un contexte de concurrence avec AMD, qui a récemment dévoilé les détails de son système Helios. Nvidia souligne que le Vera Rubin est livré dans les délais, sensible aux retards après les problèmes de surchauffe de la génération précédente Blackwell.