ByteDance discute treinamento de modelo com mais de 5 trilhões de parâmetros; Zhang Yiming diz que não usará destilação e não se deixará levar por tendências de curto prazo como programação

A ByteDance está, segundo fontes internas, em discussões sobre o treinamento de um modelo de inteligência artificial de última geração que teria mais de 5 trilhões de parâmetros. O fundador da empresa, Zhang Yiming, afirmou que não utilizarão destilação, uma técnica em que um modelo menor aprende com um modelo maior, e aconselhou a não se distrair com tendências de curto prazo no campo, como o foco atual em codificação. Esse movimento sinaliza a ambição da ByteDance de competir na vanguarda do desenvolvimento de IA, mesmo enfrentando concorrência de outros gigantes da tecnologia na China. A notícia foi divulgada pela Sina Finance, citando conversas internas da empresa.