ByteDance rakentaa Kiinan suurimman tekoälymallin
ByteDance
Moonshot AI
Anthropic
xAI
ByteDance kouluttaa tekoälymallia, jossa on jopa kymmenen biljoonaa parametria, kolme kertaa enemmän kuin Moonshotin Kimi K3:ssa, joka on tällä hetkellä Kiinan suurin. Tämä voisi haastaa Anthropicin Mythos 5:n, jonka arvioidaan olevan noin kahdeksan biljoonaa parametria. Malli on esikoulutusvaiheessa, ja yrityksen kerrotaan luopuneen tislauksesta.
Financial Timesin mukaan ByteDance kouluttaa tekoälymallia, jossa on jopa kymmenen biljoonaa parametria, mikä tekee siitä Kiinan suurimman. Se on kolme kertaa suurempi kuin Moonshotin Kimi K3, aiempi suurin kiinalainen malli, ja lähestyy Anthropicin Mythos 5 -mallia, jonka alan arviot asettavat noin kahdeksaan biljoonaan parametriin, vaikka Anthropic ei ole paljastanut virallisia lukuja. Kolme sisäpiirin lähdettä kertoi FT:lle, että malli on esikoulutusvaiheessa, joka kestää yleensä kolmesta kuuteen kuukautta. Parametrit määräävät, kuinka paljon malli pystyy tallentamaan, mutta suorituskyky riippuu myös datan laadusta ja koulutusmenetelmistä. Eräs lähde sanoi, että ByteDance on pidättäytynyt distillaatiosta eli muiden mallien tulosten hienosäädöstä yli vuoden ajan. Perustaja Zhang Yiming on kehottanut 2000-henkistä Seed-tiimiä tavoittelemaan pitkällä aikavälillä maailmanluokan mallikyvykkyyksiä. Samaan aikaan Elon Muskin xAI:n kerrotaan kouluttavan Grok-muunnelmia kuudella ja kymmenellä biljoonalla parametrilla Colossus 2 -klusterissaan.
Lähde: The Decoder (DE) —
Alkuperäinen