Maxio Tech

Uusimmat tekoälyuutiset, mallit ja julkaisut taholta Maxio Tech.

AI-SSD-levyt: Tallennuksen paradigman muutos LLM-päätöksenteossa

Tekoälyinfrastruktuuri etenee raa'an laskentatehon ohi, ja päättelytiloista on tulossa ensiluokkainen resurssi. Järjestelmät, kuten Moonshot AI:n Mooncake ja NVIDIA:n CMX-alusta, integroivat tallennuksen reaaliaikaiseen datapolkuun tokenien tuottamiseksi. Tämä muutos edistää tekoälyyn erikoistuneiden SSD-levyjen syntyä, jotka on suunniteltu matalaa viivettä, korkeaa kestävyyttä ja älykästä tiedonhallintaa varten.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

QbitAI 量子位07.08 · 07:02

Laitteisto ja päättely 🇨🇳

HBM ei riitä, tekoäly-SSD:t valmiina räjähdysmäiseen kasvuun

Kun suurten kielimallien päättely osuu kapasiteetti- ja I/O-rajoihin, SSD-levyt siirtyvät staattisesta tallennuksesta päättelyn reaaliaikaiseen datapolkuun, ja niistä tulee muodollinen tallennuskerros HBM:n, VRAM:n ja DRAM:n jälkeen. Alan kahta pääreittiä ovat tekoälykuormitusta parantavat yritys-SSD:t ja päättelyyn osallistuvat SSD:t, jotka suoraan ajoittavat dataa, ja tätä johtavat esimerkiksi Phison, Longsys sekä Maxio-Infplane-allianssi.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

InfoQ 中国07.08 · 06:02