Kimi K3: Moonshot AI publica los pesos de un modelo de 2,8 billones de parámetros

El 27 de julio, Moonshot AI lanzó los pesos de Kimi K3, un modelo MoE de 2,8 billones de parámetros con 896 expertos (16 activos por token, aproximadamente 50 mil millones de parámetros activos) y un contexto de 1 millón de tokens. Obtiene 57 puntos en el índice Artificial Analysis, cuarto en la clasificación general y primero entre los modelos abiertos, superando a GLM-5.2 (51) y DeepSeek V4 Pro (44). También encabezó LMArena Frontend Code Arena, venciendo a Claude Fable 5 en el 76% de las comparaciones ciegas. La arquitectura utiliza Kimi Delta Attention y Attention Residuals, que, según el informe interno de la compañía, proporcionan una eficiencia de escalado 2,5 veces mayor que K2. Los pesos ocupan aproximadamente 1,4 TB incluso en cuantización MXFP4, lo que requiere configuraciones de servidor con múltiples GPU. Moonshot también abrió FlashKDA (kernels CUDA para atención), MoonEP (biblioteca de paralelismo de expertos) y AgentENV (entorno de pruebas para entrenamiento de agentes). La licencia es personalizada y requiere mostrar la marca para productos con más de 100 millones de usuarios activos mensuales o 20 millones de dólares en ingresos mensuales, y acuerdos separados para proveedores de MaaS (Model as a Service, modelo como servicio). Se anunció el soporte de Together AI, Fireworks, DigitalOcean, Nebius, Baseten, Modal y vLLM. El precio de la API es de 3 dólares por millón de tokens de entrada, 15 dólares por millón de tokens de salida y 0,30 dólares por tokens de entrada en caché.