28 trilhões de tokens não é o limite: modelo de IA chinês Kimi K4 mira mais alto, GPUs são o gargalo
Moonshot AI
A Moonshot AI está desenvolvendo um novo modelo, o Kimi K4, que deve superar seu predecessor Kimi K3, que foi treinado em 28,8 trilhões de tokens. O CEO da empresa indicou que a escala do modelo é limitada pela disponibilidade de GPUs, destacando as restrições de hardware como um gargalo.
A Moonshot AI, desenvolvedora da série Kimi de grandes modelos de linguagem, anunciou seu modelo de próxima geração, o Kimi K4. O fundador e CEO da empresa afirmou que a escala do Kimi K4 superará a do Kimi K3, que foi treinado com 28,8 trilhões de tokens. Ele enfatizou que a principal limitação para o tamanho do modelo não é a ambição tecnológica, mas sim a disponibilidade de unidades de processamento gráfico (GPUs), apontando as restrições de hardware como o principal gargalo.
Fonte: DeepSeek (GNews) —
original