Quatro Mac Studio em cluster com 1,5 TB de memória executam IA que não cabe em uma única GPU

A Apple forneceu ao autor quatro Mac Studio com M3 Ultra para testar a tecnologia RDMA via Thunderbolt — um novo recurso do macOS 26.2 que permite combinar a memória RAM de vários computadores em um pool comum. O volume total de memória unificada do cluster foi de 1,5 TB, e o custo desse conjunto foi de cerca de 40.000 dólares (os computadores foram emprestados para os testes). Para a distribuição de tarefas, foi utilizada a ferramenta Exo 1.0. Graças ao RDMA, a latência no acesso à memória caiu de 300 microssegundos para menos de 50 microssegundos. O cluster consome menos de 250 W e funciona quase silenciosamente. Os dois Mac Studio inferiores têm 512 GB de memória e 32 núcleos de processador (US$ 11.699 cada), os dois superiores têm metade da memória (US$ 8.099 cada). No teste HPL, um Mac Studio obteve 1,3 Tflops, e o cluster de quatro alcançou 3,7 Tflops. Para ativar o RDMA, era necessário inserir manualmente um comando no modo de recuperação. O cluster permitiu executar modelos com mais de 600 GB, como o Kimi K2 Thinking. O desempenho no benchmark Qwen3 235B foi de 32 tokens/segundo no cluster completo.