Kimi K3: Moonshot AI avaa 2,8 biljoonan parametrin mallin painot

27. heinäkuuta Moonshot AI julkaisi Kimi K3 -mallin painot. Kyseessä on 2,8 biljoonan parametrin MoE-malli, jossa on 896 asiantuntijaa (16 aktiivista tokenia kohden, noin 50 miljardia aktiivista parametria) ja miljoonan tokenin konteksti. Se saa 57 pistettä Artificial Analysis -indeksissä, sijoittuen kokonaistuloksissa neljänneksi ja avoimista malleista ensimmäiseksi, ohittaen GLM-5.2:n (51) ja DeepSeek V4 Pron (44). Se on myös LMArena Frontend Code Arenan kärjessä ja voittaa Claude Fable 5:n 76 prosentissa sokeista vertailuista. Arkkitehtuuri käyttää Kimi Delta Attentionia ja Attention Residualsia, joiden väitetään tarjoavan 2,5-kertaisen skaalautuvuuden K2:een verrattuna yrityksen sisäisen raportin mukaan. Painot vievät noin 1,4 teratavua jopa MXFP4-kvantisoinnissa, mikä edellyttää monen näytönohjaimen palvelinkokoonpanoja. Moonshot avasi myös FlashKDA:n (CUDA-ytimet tarkkaavaisuudelle), MoonEP:n (asiantuntijarinnakkaisuuskirjasto) ja AgentENV:n (hiekkalaatikkoympäristö agenttien koulutukseen). Lisenssi on räätälöity ja edellyttää tuotemerkin esittämistä tuotteilta, joilla on yli 100 miljoonaa kuukausittaista aktiivista käyttäjää tai yli 20 miljoonan dollarin kuukausittainen liikevaihto, sekä erillisiä sopimuksia MaaS-palveluntarjoajille. Tukea ilmoittavat Together AI, Fireworks, DigitalOcean, Nebius, Baseten, Modal ja vLLM. API-hinnoittelu on 3 dollaria miljoonalta syöttötokenilta, 15 dollaria miljoonalta tulostetulta tokenilta ja 0,30 dollaria välimuistissa olevalta syötteeltä.