Quatro Mac Studios combinados em um cluster com 1,5 TB de memória – lançada uma IA que não cabe em uma única placa gráfica

A Apple forneceu ao autor um cluster de quatro computadores Mac Studio para testar RDMA via Thunderbolt 5, um novo recurso do macOS 26.2. As máquinas foram conectadas usando o Exo 1.0, uma ferramenta de código aberto para distribuir tarefas de IA em redes locais. A memória unificada total do cluster é de 1,5 TB, custando cerca de 40.000 dólares, mas foi emprestada pela Apple. O autor comparou o chip M3 Ultra no Mac Studio com concorrentes como Nvidia DGX Spark e AMD AI Max+ 395, mostrando desempenho superior em Geekbench, FP64 HPL e tarefas de inferência. O cluster alcançou 3,7 teraflops no HPL, escalando bem apesar do desequilíbrio de memória entre os nós. Usando Exo com RDMA, o autor executou com sucesso modelos massivos como Kimi K2 Thinking (mais de 600 GB) e DeepSeek V3.1, alcançando até 32 tokens por segundo com Qwen3 235B. O autor observou que, embora o cluster seja poderoso, gerenciar clusters macOS é mais complicado do que Linux, e há desafios com gerenciamento de cabos e falta de switches Thunderbolt 5. Todo o sistema consome menos de 250 watts e opera silenciosamente.