Nvidia will jeden Chip in KI-Rechenzentren besetzen

Nvidia hat ein neues Chip-System namens Vera Rubin angekündigt, das Grace Blackwell ersetzen und die Grundlage für seine nahe Zukunft in der KI-Branche bilden soll. Das System umfasst 36 Vera-CPUs auf 72 Rubin-GPUs in einer NVL72-Konfiguration, wobei die CPU auch separat verkauft wird und bereits im August für chinesische Kunden bereit sein könnte. Nvidia gibt an, dass Vera Rubin NVL72 zehnmal mehr Tokens pro Watt verarbeiten wird als Grace Blackwell, während lokale Speicher-Subsysteme eine fast dreimal höhere Speicherbandbreite bieten. Die monolithische Architektur der Vera-CPU übertrifft laut Unternehmen die Chiplet-Lösungen der Konkurrenten AMD und Intel in der Leistung. Das System verfügt über eine 100-prozentige Flüssigkeitskühlung, wird als „cable-free compute“ und „hot-swappable“ bezeichnet, wodurch sich die Installationszeit jedes Racks von mehreren Stunden auf Minuten verkürzt. OpenAI verwendet bereits ein Vera-Rubin-Rack. Die Präsentation fand vor dem Hintergrund des Wettbewerbs mit AMD statt, das kürzlich Details zu seinem System Helios bekannt gab. Nvidia betont, dass Vera Rubin termingerecht erscheint, da das Unternehmen nach den Überhitzungsproblemen der vorherigen Generation Blackwell auf Latenzen geachtet hat.