Maxio Tech

Laatste AI-nieuws, modellen en releases van Maxio Tech.

Hardware & Inferentie 🇨🇳

AI-SSD's: een paradigmaverandering in opslag voor LLM-inferentie

AI-infrastructuur gaat verder dan ruwe rekenkracht, waarbij inferentietoestanden een eersteklas bron worden. Systemen zoals Mooncake van Moonshot AI en het CMX-platform van NVIDIA integreren opslag in het realtime datapad voor tokengeneratie. Deze verschuiving stimuleert de opkomst van AI-specifieke SSD's, ontworpen voor lage latentie, hoge duurzaamheid en intelligent databeheer.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

QbitAI 量子位07.08 · 07:02

Hardware & Inferentie 🇨🇳

HBM niet genoeg, AI-SSD klaar voor explosieve groei

Nu de inference van grote taalmodellen tegen capaciteits- en I/O-limieten aanloopt, verschuiven SSD's van statische opslag naar het real-time datapad van inference, en worden ze een formele opslaglaag naast HBM, VRAM en DRAM. De industrie ziet twee hoofdroutes: AI-belasting verbeterde enterprise-SSD's en inference-deelnemende SSD's die direct data plannen, met bedrijven zoals Phison, Longsys en de Maxio-Infplane-alliantie die de leiding nemen.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

InfoQ 中国07.08 · 06:02