Baidu Baige, 512 kartta NVLink olmadan 64B dünya modelini başlattı
Baidu
Baidu Baige, NVLink ara bağlantıları gerektirmeden 512 GPU üzerinde çalışan 64B parametreli bir dünya modelini piyasaya sürdü. Bu başarı, dağıtık yapay zeka eğitimindeki ilerlemeleri vurgulamaktadır.
Baidu'nun bir yan kuruluşu olan Baidu Baige, 64 milyar parametreli bir dünya modelinin piyasaya sürüldüğünü duyurdu. Model, GPU'ları kümeler halinde birbirine bağlayan NVLink kullanılmadan 512 grafik kartı üzerinde eğitildi ve dağıtıldı. Bu, Baidu'nun büyük ölçekli dağıtık bilişim ve yapay zeka model verimliliği alanındaki ilerlemesini gösteriyor.
Kaynak: Baidu ERNIE (GNews) —
orijinal