Baidu Baige lanza modelo mundial de 64 mil millones de parámetros en 512 GPU sin NVLink
Baidu
Baidu ha presentado su nueva plataforma Baige, capaz de ejecutar un modelo con 64 mil millones de parámetros en 512 unidades de procesamiento gráfico sin utilizar la tecnología NVLink de NVIDIA. Esto demuestra las capacidades de la empresa en computación de IA a gran escala.
La empresa china Baidu ha informado que su plataforma Baige (百舸), diseñada para cómputos a gran escala en inteligencia artificial, ha lanzado con éxito un modelo de 64 mil millones de parámetros (64B) en 512 unidades de procesamiento gráfico (GPU, por sus siglas en inglés). Esto se logró sin utilizar la tecnología NVLink de NVIDIA, que generalmente se emplea para la conexión de alta velocidad entre GPU. Este logro destaca la capacidad de Baidu para organizar eficientemente cómputos distribuidos para modelos grandes, lo que resulta especialmente relevante en el contexto de restricciones en el suministro de chips avanzados.
Fuente: Baidu ERNIE (GNews) —
original