Hardware e Inferência RSS

Quatro Mac Studio em cluster com 1,5 TB de memória executam IA que não cabe em uma única GPU

Um jornalista combinou quatro unidades Mac Studio com M3 Ultra em um cluster com memória total de 1,5 TB usando tecnologia RDMA via Thunderbolt 5. O cluster executou modelos massivos de IA como o Kimi K2 Thinking (mais de 600 GB), que não podem ser carregados em um único computador. O projeto foi implementado usando a ferramenta de código aberto Exo 1.0.

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Habr — хаб ML24.07 · 04:03
Notícias frescas