KI erhöht Anforderungen an den Speicher – Speichertechnologie zieht nach

Auf der Future of Memory and Storage (FMS)-Konferenz hat NVIDIA neue Speicherfortschritte angekündigt, um den wachsenden Anforderungen von KI gerecht zu werden, die massive Datensätze und Kontextfenster benötigen, die den Systemspeicher übersteigen. Das Unternehmen betonte, dass Speichersysteme Daten effizient verschlüsseln, komprimieren, verifizieren und rekonstruieren müssen, was zu Engpässen führen kann, wenn Tausende von KI-Agenten gleichzeitig auf den Speicher zugreifen. Die NVIDIA Vera CPU, Teil des NVIDIA Vera BlueField-4 STX, liefert in einer zweistufigen Komprimierungs- und Verschlüsselungspipeline bis zu 3,21-mal höheren Durchsatz als eine x86-CPU und ermöglicht es Speicherplattformen, KI-Datenfluten effizienter zu bewältigen. NVIDIA kündigte außerdem an, seine cuFile-APIs, Teil von GPUDirect Storage, als Open Source bereitzustellen, wodurch GPUs direkt auf den Speicher zugreifen und schreiben können – mit Zugriffszeiten im Mikrosekundenbereich. Darüber hinaus stellte NVIDIA Storage-Next vor, eine Initiative mit über 40 Speicher- und Flash-Anbietern wie DDN, KIOXIA und Micron, um interoperable Standards für GPU-gesteuerten Speicher zu entwickeln. Die Initiative umfasst SCADA (skalierter, beschleunigter Datenzugriff), ein Framework, das es massiv parallelen GPUs ermöglicht, nur die notwendigen Daten direkt in ihren Hochgeschwindigkeitsspeicher zu laden und dabei den Zugriffsprozess sicher aufzuteilen, um die Sicherheit zu wahren. NVIDIA erwähnte auch NVIDIA CMX Context Memory Storage, eine KI-native Kontextschicht für Inferenz mit langem Kontext, mehreren Interaktionen und agentenbasierter KI, die auf NVIDIA STX basiert.