Maxio Tech

En son yapay zeka haberleri, modeller ve sürümler Maxio Tech.

Donanım ve Çıkarım 🇨🇳

Yapay Zeka SSD'leri: Büyük Dil Modeli Çıkarımında Depolama Paradigması Değişimi

Yapay zeka altyapısı ham işlem gücünün ötesine geçiyor ve çıkarım durumları birinci sınıf bir kaynak haline geliyor. Moonshot AI'nin Mooncake'i ve NVIDIA'nın CMX platformu gibi sistemler, token üretimi için gerçek zamanlı veri yoluna depolamayı entegre ediyor. Bu değişim, düşük gecikme süresi, yüksek dayanıklılık ve akıllı veri yönetimi için tasarlanmış yapay zekaya özgü SSD'lerin ortaya çıkışını hızlandırıyor.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

QbitAI 量子位07.08 · 07:02

Donanım ve Çıkarım 🇨🇳

HBM Yeterli Değil, Yapay Zeka SSD'leri Patlayıcı Büyümeye Hazır

Büyük dil modeli çıkarımı kapasite ve G/Ç duvarlarına ulaşırken, SSD'ler statik depolamadan çıkarımın gerçek zamanlı veri yoluna taşınıyor ve HBM, VRAM ve DRAM'den sonra resmi bir depolama katmanı haline geliyor. Sektörde iki ana yol görülüyor: yapay zeka yükü artırılmış kurumsal SSD'ler ve verileri doğrudan zamanlayan çıkarıma katılan SSD'ler; Phison, Longsys ve Maxio-Infplane ittifakı gibi şirketler bu alanda öncülük ediyor.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

InfoQ 中国07.08 · 06:02