Seiring Meningkatnya Tuntutan AI pada Memori, Penyimpanan Ikut Ditingkatkan

Dalam konferensi Future of Memory and Storage (FMS), NVIDIA mengumumkan kemajuan baru dalam penyimpanan untuk menjawab meningkatnya kebutuhan AI, yang membutuhkan kumpulan data besar dan jendela konteks yang melebihi memori sistem. Perusahaan ini menyoroti bahwa sistem penyimpanan harus secara efisien mengenkripsi, mengompresi, memverifikasi, dan merekonstruksi data, yang dapat menjadi hambatan ketika ribuan agen AI mengakses penyimpanan secara bersamaan. CPU Vera dari NVIDIA, bagian dari NVIDIA Vera BlueField-4 STX, memberikan throughput hingga 3,21 kali lebih tinggi dibandingkan CPU x86 dalam pipeline kompresi dan enkripsi dua tahap, memungkinkan platform penyimpanan menangani banjir data AI dengan lebih efisien. NVIDIA juga mengumumkan bahwa mereka membuka sumber kode API cuFile, bagian dari GPUDirect Storage, yang memungkinkan GPU membaca dan menulis langsung ke penyimpanan dengan waktu akses mikrodetik. Selain itu, NVIDIA memperkenalkan Storage-Next, sebuah inisiatif dengan lebih dari 40 vendor penyimpanan dan flash seperti DDN, KIOXIA, dan Micron, untuk mengembangkan standar interoperabel untuk penyimpanan yang digerakkan oleh GPU. Inisiatif ini mencakup SCADA (skalabilitas, akses data yang dipercepat), sebuah kerangka kerja yang memungkinkan GPU paralel masif untuk menarik hanya data yang diperlukan langsung ke memori berkecepatan tinggi mereka, dengan aman membagi proses akses untuk menjaga keamanan. NVIDIA juga menyebutkan NVIDIA CMX Context Memory Storage, sebuah tier konteks khusus AI untuk inferensi AI agen jangka panjang, multi-putaran, yang dibangun di atas NVIDIA STX.