MallitTutkimus 🇺🇸 11.08.2026 10:01

webAI esittelee TwIL-LM:n: formaalilogiikan malliperhe paikalliseen autoformalisaatioon

webAIwebAI
webAI on julkaissut TwIL-LM:n, joka koostuu kahdesta formaalilogiikan mallista, joiden parametrimäärät ovat 1,7 miljardia ja 3 miljardia. Mallit on suunniteltu toimimaan paikallisesti. Ne erikoistuvat autoformalisaatioon, eli englannin kääntämiseen ensimmäisen asteen logiikaksi. Mallit julkaistaan ei-kaupallisella lisenssillä.
webAI julkaisi TwIL-LM:n, kahden mallin muodostaman formaalisen logiikan päättelijäperheen, jonka koot ovat 1,7 ja 3 miljardia parametria. Kolmen miljardin jäsen, TwIL-LM3, on SmolLM3-3B:n yhdistetty hienosäätö; 1,7 miljardin jäsen on PEFT LoRA -sovitin SmolLM2-1.7B-Instructille. Molemmat keskittyvät autoformalisaatioon: englannin kääntämiseen ensimmäisen kertaluvun logiikaksi ja sen tarkistamiseen, seuraako johtopäätös premisseistä. Molemmat toimivat paikallisesti, ja niistä on saatavissa 1,7 miljardin kvantisoitu versio (1,06 Gt) sekä 3 miljardin Q4_K_M GGUF (1,78 Gt). webAI:n ilmoitus korostaa julkaisua, joka voittaa gpt-oss-120b:n neljässä viidestä formaalisen päättelyn osa-alueesta. Julkaisu on osittainen, sillä molemmat tarkistuspisteet julkaistaan webAI:n ei-kaupallisen lisenssin version 1.0 alla; tuloa tuottava käyttöönotto vaatii erillisen sopimuksen. Mallit on suunnattu useille toimialoille, kuten vaatimustenmukaisuuteen ja RegTechiin, rahoituspalveluihin, terveydenhuoltoon ja lääketeollisuuteen, laki- ja sopimustoimintoihin sekä formaalisten menetelmien tutkimukseen. Sovelluksiin kuuluvat ensimmäisen kertaluvun logiikan (FOL) käännös, seuraamisen luokittelu, luonnollisen kielen muuntaminen jäsennellyksi kyselyksi, Lean-formaalisaation luonnostelu ja arviointi sekä verifiointikerros. TwIL-LM3 rakennettiin neljässä vaiheessa: LoRA-ohjattu hienosäätö, tarkistuspisteen fuusio, WiSE-FT-interpolointi takaisin esikoulutettuun kantaan arvolla λ = 0,25 sekä MGPO, entropiapainotettu GRPO-vaihe, joka ajettiin ohjelmallista verifioijaa vasten. Julkaistu tarkistuspiste on vaihe 2071. TwIL-LM3 saa pisteet 96,4 sääntöjen induktiossa, 87,6 semanttisessa jäsentämisessä, 64,6 Lean-formaalisaatiossa, 52,0 tarkkaa muotoa vaativissa vastauksissa ja 68,7 seuraamisen merkinnöissä. Raidalla A sen kuuden osa-alueen keskiarvo on 0,4488 ja makroportin 0,4218, johtaen kaikki haarat LFM2.5-8B-A1B:hen asti, mutta ei kahta suurinta haaraa (Qwen3-8B ja gpt-oss-120b). Tehokkuus on keskeinen etu: TwIL-LM3 tuottaa lyhyimmät generoinnit (482 tokenia) ja eniten vastauksia sekunnissa (32,9 vs 4,2 120B:lle). TwIL-LM3 parantaa toimialan sisäistä suorituskykyä suhteellisesti +26 % ja saavuttaa myös +0,022:n parannuksen pidätetyssä ydinkeskiarvossa, ollen ainoa haara, joka parantaa molemmilla raidoilla. 1,7 miljardin malli tarjoaa erilaisen kompromissin, ja sen tulokset jakautuneen aineiston ulkopuolella ovat vaihtelevia. Keskeiset huomiot: TwIL-LM3 ja TwIL-LM on tarkoitettu formaaliin logiikkaan ei-kaupallisella lisenssillä; TwIL-LM3 jää gpt-oss-120b:stä kuuden osa-alueen keskiarvossa; sen todellinen etu on tehokkuus; WiSE-FT λ = 0,25 -arvolla on syy siihen, että toimialan sisäiset parannukset eivät romauta pidätetyn aineiston suorituskykyä.
Lähde: MarkTechPost — Alkuperäinen
Aiemmat aiheeseen liittyvät kirjoituksemme ↓
Tuoreet uutiset