AI가 메모리 요구량을 늘리자, 스토리지가 대응에 나서다

FMS(Future of Memory and Storage, 미래의 메모리와 스토리지) 컨퍼런스에서 NVIDIA는 방대한 데이터셋과 시스템 메모리를 초과하는 컨텍스트 윈도우를 요구하는 AI의 증가하는 수요에 대응하기 위한 새로운 스토리지 기술 발전을 발표했다. NVIDIA는 스토리지 시스템이 데이터를 효율적으로 암호화, 압축, 검증, 재구성해야 하며, 수천 개의 AI 에이전트가 동시에 스토리지에 접근할 경우 이러한 작업이 병목현상이 될 수 있다고 강조했다. NVIDIA Vera BlueField-4 STX의 일부인 NVIDIA의 Vera CPU는 2단계 압축 및 암호화 파이프라인에서 x86 CPU 대비 최대 3.21배 높은 처리량을 제공하여, 스토리지 플랫폼이 AI 데이터 폭증을 보다 효율적으로 처리할 수 있게 한다. NVIDIA는 또한 GPUDirect Storage의 일부인 cuFile API를 오픈소스로 공개한다고 발표했으며, 이를 통해 GPU가 마이크로초 단위의 접근 시간으로 스토리지에 직접 읽고 쓸 수 있게 된다. 이와 함께 NVIDIA는 DDN, KIOXIA, Micron 등 40개 이상의 스토리지 및 플래시 업체들과 함께 GPU 기반 스토리지를 위한 상호운용 표준을 개발하는 이니셔티브인 Storage-Next를 발표했다. 이 이니셔티브에는 SCADA(scaled, accelerated data access, 확장형 가속 데이터 접근)가 포함되는데, 이는 대규모 병렬 GPU가 필요한 데이터만 고속 메모리로 직접 가져올 수 있게 하는 프레임워크로, 접근 프로세스를 안전하게 분할하여 보안을 유지한다. 또한 NVIDIA는 NVIDIA STX를 기반으로 구축된, 장문 컨텍스트·다중 턴·에이전틱 AI 추론을 위한 AI 네이티브 컨텍스트 계층인 NVIDIA CMX Context Memory Storage에 대해서도 언급했다.