Kimi K2 lança modelo de código aberto com os maiores parâmetros globais

A Moonshot AI anunciou a abertura completa do código-fonte de seu modelo Kimi K2, que é o maior modelo de código aberto do mundo em número de parâmetros. O modelo já está disponível em várias plataformas de nuvem, incluindo Tencent Cloud, ModelScope, Replicate e CrossCompute. O Kimi K2 tem 1 trilhão de parâmetros e usa a arquitetura inovadora MoBA (Mixture of Block Attention), que otimiza o processamento de contextos longos. O modelo foi treinado em 15,5 trilhões de tokens, o que garante alto desempenho em áreas como codificação, matemática e tarefas científicas. O Kimi K2 supera modelos como GPT-4o e Claude 3.5 Sonnet em vários testes, enquanto o custo de inferência é 7 vezes menor do que o do GPT-4o. O modelo está disponível para uso comercial sob uma licença de código aberto, permitindo que desenvolvedores e empresas o utilizem para fins comerciais.