Baidu Baige luncurkan model dunia 64B pada 512 kartu tanpa NVLink
Baidu
Baidu Baige telah meluncurkan model dunia dengan 64 miliar parameter yang berjalan pada 512 GPU tanpa memerlukan interkoneksi NVLink. Prestasi ini menyoroti kemajuan dalam pelatihan AI terdistribusi.
Anak perusahaan Baidu, Baidu Baige, mengumumkan peluncuran model dunia dengan 64 miliar parameter. Model tersebut dilatih dan dijalankan pada 512 kartu grafis tanpa menggunakan NVLink, yang biasanya menghubungkan GPU dalam kluster. Hal ini menunjukkan kemajuan Baidu dalam komputasi terdistribusi skala besar dan efisiensi model kecerdasan buatan.
Sumber: Baidu ERNIE (GNews) —
asli