Hardware e Inferencia RSS

Cuatro Mac Studio con 1.5 TB de memoria en clúster ejecutan IA que no cabe en una sola GPU

Un periodista combinó cuatro unidades Mac Studio con M3 Ultra en un clúster con una memoria total de 1.5 TB utilizando tecnología RDMA a través de Thunderbolt 5. El clúster ejecutó modelos masivos de IA como Kimi K2 Thinking (más de 600 GB), que no pueden cargarse en una sola computadora. El proyecto se implementó utilizando la herramienta de código abierto Exo 1.0.

AppleApple NVIDIANVIDIA ExoExo Moonshot AIMoonshot AI DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen
Habr — хаб ML24.07 · 04:03
Noticias frescas