Yapay Zeka Bellek Taleplerini Artırırken, Depolama Öne Çıkıyor

Future of Memory and Storage (FMS) konferansında NVIDIA, yapay zekanın büyüyen taleplerini karşılamak için yeni depolama geliştirmelerini duyurdu; bu talepler, sistem belleğini aşan devasa veri setleri ve bağlam pencereleri gerektiriyor. Şirket, depolama sistemlerinin verileri verimli bir şekilde şifrelemesi, sıkıştırması, doğrulaması ve yeniden oluşturması gerektiğini vurguladı; binlerce yapay zeka ajanı aynı anda depolamaya eriştiğinde bu işlemler darboğaz haline gelebilir. NVIDIA Vera CPU'su (NVIDIA Vera BlueField-4 STX'in parçası), iki aşamalı sıkıştırma ve şifreleme hattında bir x86 CPU'dan 3,21 kata kadar daha yüksek verim sağlayarak depolama platformlarının yapay zeka veri akışlarını daha verimli işlemesine olanak tanır. NVIDIA ayrıca, GPUDirect Storage'ın bir parçası olan cuFile API'lerini açık kaynak olarak yayınladığını duyurdu; bu API'ler GPU'ların mikrosaniye erişim süreleriyle doğrudan depolamaya okuma ve yazma yapmasını sağlıyor. Ek olarak NVIDIA, DDN, KIOXIA ve Micron gibi 40'tan fazla depolama ve flash satıcısıyla birlikte GPU odaklı depolama için birlikte çalışabilir standartlar geliştirmek üzere Storage-Next girişimini tanıttı. Girişim, devasa paralel GPU'ların yalnızca gerekli verileri doğrudan yüksek hızlı belleğine çekmesine olanak tanıyan ve güvenliği korumak için erişim sürecini güvenli bir şekilde bölen bir çerçeve olan SCADA'yı (ölçeklenmiş, hızlandırılmış veri erişimi) içeriyor. NVIDIA ayrıca, NVIDIA STX üzerine inşa edilmiş, uzun bağlamlı, çok turlu, aracı tabanlı yapay zeka çıkarımı için yapay zeka odaklı bir bağlam katmanı olan NVIDIA CMX Context Memory Storage'dan da bahsetti.