AIがメモリへの要求を高める中、ストレージがその役割を担う

Future of Memory and Storage（FMS）カンファレンスにおいて、NVIDIAはAIの増大する需要に対応するための新しいストレージの進展を発表しました。AIには、システムメモリを超える大規模なデータセットとコンテキストウィンドウが必要とされます。同社は、ストレージシステムがデータの暗号化、圧縮、検証、再構築を効率的に行う必要があると強調しました。これは、数千のAIエージェントが同時にストレージにアクセスする際にボトルネックとなる可能性があります。NVIDIA Vera CPUは、NVIDIA Vera BlueField-4 STXの一部であり、2段階の圧縮および暗号化パイプラインにおいて、x86 CPUと比較して最大3.21倍のスループットを実現し、ストレージプラットフォームがAIデータの洪水をより効率的に処理できるようにします。また、NVIDIAは、GPUDirect Storageの一部であるcuFile APIをオープンソース化すると発表しました。これにより、GPUはマイクロ秒単位のアクセス時間でストレージに直接読み書きできるようになります。さらに、NVIDIAはStorage-Nextイニシアチブを発表しました。これは、DDN、KIOXIA、Micronなど40以上のストレージおよびフラッシュベンダーと連携し、GPU駆動ストレージのための相互運用可能な標準を開発するものです。このイニシアチブには、SCADA（スケーリング・アクセラレーテッド・データアクセス）も含まれます。これは、超並列GPUが必要なデータのみを直接高速メモリにプルし、セキュリティを維持するためにアクセスプロセスを安全に分割するフレームワークです。NVIDIAはまた、NVIDIA CMXコンテキストメモリストレージについても言及しました。これは、NVIDIA STX上に構築された、長いコンテキスト、マルチターン、エージェンティックAI推論のためのAIネイティブなコンテキスト層です。