Nu AI meer geheugen vereist, doet opslag een stap vooruit
NVIDIA
NVIDIA presenteert op FMS opslagvernieuwingen, waaronder het open-sourcen van cuFile-API's en het Storage-Next-initiatief met meer dan 40 leveranciers. Deze moeten voldoen aan de toenemende AI-vraag door opslag een actief onderdeel te maken van het datapad, waarbij de NVIDIA Vera CPU tot 3,21x hogere doorvoer laat zien in compressie- en encryptiepijplijnen.
Tijdens de Future of Memory and Storage (FMS)-conferentie kondigde NVIDIA nieuwe opslagverbeteringen aan om tegemoet te komen aan de groeiende eisen van AI, die enorme datasets en contextvensters vereisen die groter zijn dan het systeemgeheugen. Het bedrijf benadrukte dat opslagsystemen data efficiënt moeten versleutelen, comprimeren, verifiëren en reconstrueren, wat bottlenecks kan opleveren wanneer duizenden AI-agenten tegelijkertijd toegang krijgen tot de opslag. De Vera-CPU van NVIDIA, onderdeel van NVIDIA Vera BlueField-4 STX, levert tot 3,21 keer hogere doorvoer dan een x86-CPU in een tweetrapscompressie- en versleutelingspijplijn, waardoor opslagplatforms AI-datafloods efficiënter kunnen verwerken. NVIDIA kondigde ook aan dat het zijn cuFile-API's, onderdeel van GPUDirect Storage, open source maakt, waardoor GPU's direct met microseconden-toegangstijden naar opslag kunnen lezen en schrijven. Daarnaast introduceerde NVIDIA Storage-Next, een initiatief met meer dan 40 opslag- en flashleveranciers zoals DDN, KIOXIA en Micron, om interoperabele standaarden voor GPU-gedreven opslag te ontwikkelen. Het initiatief omvat SCADA (schaalbare, versnelde datatoegang), een raamwerk dat massaal parallelle GPU's in staat stelt om alleen noodzakelijke data rechtstreeks in hun snelle geheugen te laden, waarbij het toegangsproces veilig wordt gesplitst om de beveiliging te handhaven. NVIDIA noemde ook NVIDIA CMX Context Memory Storage, een AI-native contextlaag voor langdurige, multi-turn, agentische AI-inferentie, gebouwd op NVIDIA STX.
Bron: NVIDIA blog —
origineel