Cómo funciona Kimi K3: 2,8 billones de parámetros, atención lineal y agentes de un millón de tokens
Moonshot AI ha publicado los pesos de su modelo Kimi K3, un modelo multimodal basado en una arquitectura de mezcla de expertos con 2,8 billones de parámetros, de los cuales 104 mil millones se activan por token. En ciertos benchmarks de programación y uso de herramientas, el modelo supera a sus competidores, pero en promedio va por detrás de algunos de ellos.
Moonshot AI
Anthropic
OpenAI


