Cuatro Mac Studios combinados en un clúster con 1,5 TB de memoria – lanzaron una IA que no cabe en una sola tarjeta gráfica

Apple le proporcionó al autor un clúster de cuatro ordenadores Mac Studio para probar RDMA a través de Thunderbolt 5, una nueva funcionalidad en macOS 26.2. Las máquinas se conectaron mediante Exo 1.0, una herramienta de código abierto para distribuir tareas de inteligencia artificial en redes locales. La memoria unificada total del clúster es de 1,5 terabytes, con un coste de aproximadamente 40.000 dólares, pero fue prestado por Apple. El autor comparó el chip M3 Ultra del Mac Studio con competidores como Nvidia DGX Spark y AMD AI Max+ 395, mostrando un rendimiento superior en Geekbench, FP64 HPL y tareas de inferencia. El clúster alcanzó 3,7 teraflops en HPL, escalando bien a pesar del desequilibrio de memoria entre los nodos. Usando Exo con RDMA, el autor ejecutó con éxito modelos masivos como Kimi K2 Thinking (más de 600 gigabytes) y DeepSeek V3.1, logrando hasta 32 tokens por segundo con Qwen3 235B. El autor señaló que, aunque el clúster es potente, gestionar clústeres de macOS es más engorroso que Linux, y existen desafíos con la gestión de cables y la falta de conmutadores Thunderbolt 5. Todo el sistema consume menos de 250 vatios y funciona de forma silenciosa.