Khi AI tăng nhu cầu về bộ nhớ, lưu trữ tăng tốc

Tại hội nghị Future of Memory and Storage (FMS), NVIDIA đã công bố những tiến bộ mới trong lĩnh vực lưu trữ nhằm đáp ứng nhu cầu ngày càng tăng của AI, đòi hỏi những tập dữ liệu khổng lồ và cửa sổ ngữ cảnh (context window) vượt quá dung lượng bộ nhớ hệ thống. Công ty nhấn mạnh rằng các hệ thống lưu trữ phải mã hóa, nén, xác minh và tái tạo dữ liệu một cách hiệu quả, vì đây có thể trở thành nút thắt cổ chai khi hàng nghìn agent AI truy cập bộ nhớ lưu trữ đồng thời. CPU Vera của NVIDIA, một phần của NVIDIA Vera BlueField-4 STX, mang lại thông lượng cao hơn tới 3,21 lần so với CPU x86 trong một pipeline nén và mã hóa hai giai đoạn, giúp các nền tảng lưu trữ xử lý luồng dữ liệu AI hiệu quả hơn. NVIDIA cũng thông báo sẽ mở nguồn (open source) các API cuFile, một phần của GPUDirect Storage, cho phép GPU đọc và ghi trực tiếp vào hệ thống lưu trữ với thời gian truy cập chỉ tính bằng micro giây. Ngoài ra, NVIDIA đã giới thiệu Storage-Next, một sáng kiến hợp tác với hơn 40 nhà cung cấp giải pháp lưu trữ và bộ nhớ flash như DDN, KIOXIA và Micron, nhằm phát triển các tiêu chuẩn tương thích cho lưu trữ do GPU điều khiển. Sáng kiến này bao gồm SCADA (scaled, accelerated data access - truy cập dữ liệu quy mô lớn, tăng tốc), một khung công tác (framework) cho phép các GPU xử lý song song quy mô lớn chỉ kéo dữ liệu cần thiết trực tiếp vào bộ nhớ tốc độ cao của chúng, đồng thời phân tách quy trình truy cập một cách an toàn để duy trì tính bảo mật. NVIDIA cũng đề cập đến NVIDIA CMX Context Memory Storage, một tầng lưu trữ ngữ cảnh (context tier) được thiết kế riêng cho AI, phục vụ suy luận (inference) AI dạng agentic với ngữ cảnh dài, nhiều lượt tương tác, được xây dựng trên nền tảng NVIDIA STX.