Baidu Baige Lança Modelo Mundial de 64B em 512 GPUs Sem NVLink
Baidu
A Baidu apresentou sua nova plataforma Baige, capaz de executar um modelo com 64 bilhões de parâmetros em 512 unidades de processamento gráfico sem usar a tecnologia NVLink da NVIDIA. Isso demonstra as capacidades da empresa em computação de IA em larga escala.
A empresa chinesa Baidu informou que sua plataforma Baige (百舸), projetada para computação em larga escala na área de inteligência artificial, executou com sucesso um modelo com 64 bilhões de parâmetros (64B) em 512 unidades de processamento gráfico (GPU, do inglês Graphics Processing Unit). Isso foi feito sem utilizar a tecnologia NVLink da NVIDIA, que normalmente é empregada para conexão de alta velocidade entre GPUs. Essa conquista destaca a capacidade da Baidu de organizar eficientemente a computação distribuída para modelos grandes, o que é especialmente importante em meio a restrições no fornecimento de chips avançados.
Fonte: Baidu ERNIE (GNews) —
original