Maxio Tech

Últimas notícias, modelos e lançamentos de IA de Maxio Tech.

Hardware e Inferência 🇨🇳

SSDs de IA: Uma Mudança de Paradigma no Armazenamento para Inferência de LLMs

A infraestrutura de IA está indo além do poder computacional bruto, com os estados de inferência se tornando um recurso de primeira classe. Sistemas como o Mooncake da Moonshot AI e a plataforma CMX da NVIDIA estão integrando o armazenamento no caminho de dados em tempo real para a geração de tokens. Essa mudança está impulsionando o surgimento de SSDs específicos para IA, projetados para baixa latência, alta durabilidade e gerenciamento inteligente de dados.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

QbitAI 量子位07.08 · 07:02

Hardware e Inferência 🇨🇳

HBM Não Basta, SSD de IA Pronto para Crescimento Explosivo

À medida que a inferência de grandes modelos de linguagem atinge limites de capacidade e de I/O, os SSDs estão migrando do armazenamento estático para o caminho de dados em tempo real da inferência, tornando-se um nível formal de armazenamento após HBM, VRAM e DRAM. A indústria está vendo duas rotas principais: SSDs empresariais aprimorados com IA e SSDs que participam da inferência, agendando dados diretamente, com empresas como Phison, Longsys e a aliança Maxio-Infplane liderando o avanço.

Moonshot AI

NVIDIA

Huawei

Maxio Tech

InfoQ 中国07.08 · 06:02