Moonshot AI onthult Kimi K3: een doorbraak in schaal, prestatie en kosten voor Chinese grensverleggende modellen

Moonshot AI heeft Kimi K3 uitgebracht, een nieuw grensverleggend model dat topprestaties levert terwijl de inferentiekosten aanzienlijk worden verlaagd. Het model behaalt concurrerende scores op benchmarks zoals AIME, GPQA en MMLU-Pro en maakt gebruik van een schaarse Mixture-of-Experts-architectuur met 44 miljard geactiveerde parameters.

Moonshot AI, de Chinese startup achter de Kimi-assistent, heeft zijn nieuwste frontier-model Kimi K3 onthuld. Het model is gebaseerd op een sparse Mixture-of-Experts (MoE)-architectuur met in totaal 123 miljard parameters, waarvan er 44 miljard per token worden geactiveerd. Kimi K3 behaalt state-of-the-art resultaten op verschillende redeneerbenchmarks, waaronder 94,1 op AIME 2024, 89,2 op GPQA Diamond en 79,1 op MMLU-Pro. Het scoort ook 98,6 op MATH-500 en 65,2 op LiveCodeBench. Volgens Moonshot AI zijn de inferentiekosten van Kimi K3 slechts 0,7 yuan per miljoen invoertokens, ongeveer 1 dollarcent, waardoor het aanzienlijk goedkoper is dan vergelijkbare modellen. Het bedrijf beweert dat het model OpenAI's o1 en DeepSeek's R1 op verschillende metrieken overtreft, terwijl het kosteneffectiever is. Kimi K3 ondersteunt een contextvenster van 128K en is in eerste instantie beschikbaar via een API; implementatie in de Kimi-app is gepland voor de toekomst.

Bron: Moonshot Kimi (GNews) — origineel