Hoe Kimi K3 werkt: 2,8 biljoen parameters, lineaire aandacht en miljoenen-tokens agents
Moonshot AI heeft de gewichten van zijn Kimi K3-model vrijgegeven, een multimodaal model gebaseerd op een Mixture of Experts-architectuur met 2,8 biljoen parameters, waarvan 104 miljard per token worden geactiveerd. Op bepaalde benchmarks voor programmeren en toolgebruik presteert het model beter dan concurrenten, maar gemiddeld blijft het bij sommige achter.
Moonshot AI
Anthropic
OpenAI

