Kimi K3 ylittää maailmanlaajuiset sijoitukset 2,8 biljoonan parametrin mallilla

Moonshot AI on julkaissut Kimi K3 -kielimallin, jossa on 2,8 biljoonaa parametria ja joka on saavuttanut kärkisijan useissa alan vertailutesteissä, mukaan lukien LiveCodeBench, AIME ja MATH-500. Kimi K3 päihittää GPT-4o:n ja muut johtavat mallit näissä arvioinneissa. Mallin arkkitehtuuri käyttää asiantuntijoiden sekoitusta (Mixture of Experts, MoE), jossa on korkea harvuus, sekä kehittynyttä vahvistusoppimista pitkän ajatusketjun (Long Chain-of-Thought, Long-CoT) avulla parantaakseen päättely- ja koodauskykyjä. Uusimmassa kielimallien maailmanlaajuisessa rankingissa Kimi K3 oli korkeimmalle arvioitu kiinalainen malli. Moonshot AI korostaa, että tämä on vasta alkua heidän innovaatiomatkalleen.