Pokee AI julkaisee Pokee-Isaac 28B:n: 10 miljoonan tokenin kontekstimalli, joka toimii asiakkaan rajojen sisällä

Pokee AI julkaisi Pokee-Isaac 28B:n, 28 miljardin parametrin tekstiin perustuvan perusmallin, jossa on 10 miljoonan tokenin konteksti-ikkuna. Se on suunnattu säännellyille toimialoille ja laitteisiin asennettaviin sovelluksiin, joissa tietoja ei voi siirtää asiakkaan rajan ulkopuolelle. Malli on lisensoitu, ei avoimin painoin julkaistu, ja sitä tarjotaan OpenAI-yhteensopivan API:n kautta tai otetaan käyttöön VPC:ssä, omissa tiloissa tai laitteessa, ja se tukee vLLM:ää ja SGLangia heti ensimmäisestä päivästä lähtien. RULER-testissä Isaac saavuttaa 93,3 prosentin tuloksen 10 miljoonalla tokenilla, ylittäen kaikki vertailukohdat yli 2 miljoonan tokenin kontekstissa. Se johtaa BFCL v4 -testissä tuloksella 70,94 ja τ³-bench -testissä keskiarvolla 0,662, sijoittuu toiseksi Terminal-Bench 2.1 -testissä tuloksella 65,1 prosenttia ja kolmanneksi MCP-Atlas-testissä 74,59 prosentin kattavuudella mutta vähemmillä kierroksilla. DTAP-punatiimiharjoituksessa Isaac saa alhaisimman yhdistetyn hyökkäyksen onnistumisasteen, 35,6 prosenttia, säilyttäen samalla 82,5 prosentin hyödyllisyysasteen. Tehokkuustuloksiin kuuluu TTFT 23,6 sekuntia miljoonalla tokenilla ja 72,9 sekuntia 10 miljoonalla tokenilla yhdellä B200-luokan GPU:lla, ja esitäyttövälityksen läpäisykyky saavuttaa 137 200 tokenia sekunnissa. Hinta on väliaikainen: 0,15 dollaria miljoonalta syötetoksenilta ja 1,00 dollari miljoonalta tuotetoksenilta. Isaac toimii myös täysin laitteessa Intel Arc Pro B70:llä, Core Ultra -sarjan 3:lla ja Qualcomm Snapdragon X2 Elite -piirillä.