Moonshot AI julkistaa Kimi K3:n: läpimurto mittakaavassa, suorituskyvyssä ja kustannuksissa kiinalaisille huippumalleille

Moonshot AI on julkaissut Kimi K3:n, uuden huippumallin, joka saavuttaa huipputason suorituskyvyn samalla kun se vähentää merkittävästi päättelyn kustannuksia. Malli osoittaa kilpailukykyisiä tuloksia vertailuarvoissa, kuten AIME, GPQA ja MMLU-Pro, ja käyttää harvaa asiantuntijasekoitusarkkitehtuuria, jossa on 44B aktivoitua parametria.

Moonshot AI, kiinalainen startup, joka tunnetaan Kimi-assistentistaan, on julkistanut uusimman huippumallinsa Kimi K3:n. Malli perustuu harvaan asiantuntijoiden sekoitus -arkkitehtuuriin (sparse Mixture-of-Experts, MoE), jossa on yhteensä 123 miljardia parametria, joista 44 miljardia aktivoituu jokaista tokenia kohden. Kimi K3 saavuttaa huipputuloksia useilla päättelykyvyn vertailutesteillä, kuten 94,1 pistettä AIME 2024 -testissä, 89,2 pistettä GPQA Diamond -testissä ja 79,1 pistettä MMLU-Pro-testissä. Se saa myös 98,6 pistettä MATH-500-testissä ja 65,2 pistettä LiveCodeBench-testissä. Moonshot AI:n mukaan Kimi K3:n päättelykustannus on vain 0,7 yuania miljoonaa syöttötokenia kohden, eli noin yksi sentti, mikä tekee siitä huomattavasti halvemman kuin vastaavat mallit. Yritys väittää, että malli ylittää OpenAI:n o1:n ja DeepSeekin R1:n useilla mittareilla, ollen samalla kustannustehokkaampi. Kimi K3 tukee 128 000 tokenin konteksti-ikkunaa ja on aluksi saatavilla sovellusrajapinnan kautta, ja käyttöönotto Kimi-sovelluksessa on suunniteltu tulevaisuuteen.

Lähde: Moonshot Kimi (GNews) — Alkuperäinen