Kun kysymyspankit eivät pysy perässä, tekoäly alkaa asettaa omat ongelmansa: Endless Frontier -tiimi suorittaa data-tason RSI:n
DP Technology
DeepSeek
Kiinalainen tiimi Shanghain Jiao Tong -yliopistosta, DP Technology ja Shanghain algoritmi-innovaatioiden instituutti ovat julkaisseet BigBang-V1:n, ensimmäisen perusmallin, joka on koulutettu natiivisti rekursiivista itseparannusta käyttäen. 35B-malli, jonka koulutusdata on 100-prosenttisesti tekoälyn tuottamaa, ylittää biljoonaparametriset mallit useissa tieteellisissä vertailutesteissä, esitellen itseään kehittävän dataputken.
Endless Frontier -tiimi, joka koostuu Shanghain Jiao Tong -yliopiston tekoälyinstituutin, DP Technologyn ja Shanghai Institute of Algorithm Innovationin tutkijoista, on julkaissut BigBang-V1:n, ensimmäisen perusmallin, joka on koulutettu natiivisti käyttäen rekursiivista itseparannusta (RSI). Tässä lähestymistavassa tekoäly hoitaa ongelmanluonnin, ratkaisemisen ja todentamisen, tuottaen korkealaatuista itsekehittyvää synteettistä dataa ilman ihmisen osallistumista tehtävään. Mallissa on 35 miljardia parametria ja noin 3 miljardia aktiivista parametria päättelyn aikana, se tukee 262 000 merkin pitkää kontekstia ja on kokonaan koulutettu tekoälyn syntetisoimalla datalla, joka keskittyy tieteen eturintaman tehtäviin. Se saavutti 10 ensimmäistä sijaa 35 miljardin parametrin mallien vertailussa, mukaan lukien pitkän aikavälin haku, ohjelmointi, tieteellinen tutkimus ja tekoälytutkimus, ja se jopa ylitti 1 biljoonan parametrin DeepSeek V4 Pro Preview -mallin vaikeissa tieteellisissä tehtävissä, kuten FrontierScience Research ja PaperBench. Esimerkkejä sen kyvykkyydestä ovat transposonin insertiokohdan tarkka paikantaminen liitoskohtanäytteiden avulla sekä paperin toistaminen toimivaksi koodiksi itsekorjautumalla savutestien aikana. Tiimi korostaa, että datantuotantojärjestelmää voidaan itse optimoida, mikä edellyttää tehtäviä, jotka ovat sekä eturintamassa että todennettavissa, ja he toteuttavat kaksisilmukkaisen putkilinjan: sisempi silmukka Generaattori- ja Kriitikko-agenttien kanssa, jotka tuottavat ja tarkistavat dataa, sekä ulompi silmukka, jota ohjaavat todelliset koulutustulokset järjestelmän kalibroimiseksi. Tämä data-tason RSI-silmukka estää synteettisen datan romahtamisen, kun taas ihmiset määrittelevät edelleen tavoitteet, budjetit, riskit ja hyväksymiskriteerit. Malli ja koodi on avoimen lähdekoodin julkaistu Hugging Facessa ja GitHubissa.
Lähde: QbitAI 量子位 —
Alkuperäinen
