À Medida que a IA Aumenta as Demandas de Memória, o Armazenamento se Fortalece

Na conferência Future of Memory and Storage (FMS), a NVIDIA anunciou novos avanços em armazenamento para atender às crescentes demandas da IA, que exigem conjuntos massivos de dados e janelas de contexto que excedem a memória do sistema. A empresa destacou que os sistemas de armazenamento devem criptografar, compactar, verificar e reconstruir dados com eficiência, o que pode se tornar um gargalo quando milhares de agentes de IA acessam o armazenamento simultaneamente. A CPU Vera da NVIDIA, parte do NVIDIA Vera BlueField-4 STX, oferece até 3,21 vezes mais rendimento do que uma CPU x86 em um pipeline de compactação e criptografia em dois estágios, permitindo que plataformas de armazenamento lidem com enchentes de dados de IA de forma mais eficiente. A NVIDIA também anunciou que está tornando open source suas APIs cuFile, parte do GPUDirect Storage, permitindo que GPUs leiam e escrevam diretamente no armazenamento com tempos de acesso em microssegundos. Além disso, a NVIDIA introduziu o Storage-Next, uma iniciativa com mais de 40 fornecedores de armazenamento e flash, como DDN, KIOXIA e Micron, para desenvolver padrões interoperáveis para armazenamento orientado por GPU. A iniciativa inclui o SCADA (acesso escalado e acelerado a dados, em tradução livre), um framework que permite que GPUs massivamente paralelas puxem somente os dados necessários diretamente para sua memória de alta velocidade, dividindo com segurança o processo de acesso para manter a segurança. A NVIDIA também mencionou o NVIDIA CMX Context Memory Storage, um nível de contexto nativo de IA para inferência de IA agêntica, de contexto longo e multimúltipla, construído sobre o NVIDIA STX.