Pokee AI brengt Pokee-Isaac 28B uit: een agentisch model met 10 miljoen tokens context dat binnen de klantomgeving draait
Pokee AI
OpenAI
Google/DeepMind
Pokee AI heeft Pokee-Isaac 28B uitgebracht, een tekstgebaseerd basismodel met 28 miljard parameters en een contextvenster van 10 miljoen tokens, ontworpen voor implementatie binnen de grenzen van de organisatie. Het model behaalt 93,3% op RULER bij 10 miljoen tokens en is beschikbaar via een API die compatibel is met OpenAI, of kan worden gelicentieerd voor gebruik in een VPC, on-premises of op het apparaat zelf.
Pokee AI heeft Pokee-Isaac 28B uitgebracht, een tekstgebaseerd funderingsmodel van 28B met een contextvenster van 10 miljoen tokens, gericht op gereguleerde industrieën en on-device toepassingen waarbij gegevens de klantomgeving niet mogen verlaten. Het model is gelicenseerd, niet open-weight, en wordt aangeboden via een OpenAI-compatibele API of geïmplementeerd in een VPC, on-premises of on-device, met ondersteuning vanaf dag nul voor vLLM en SGLang. Op RULER scoort Isaac 93,3% bij 10 miljoen tokens, waarmee het alle benchmarks met een context van meer dan 2 miljoen tokens overtreft. Het leidt BFCL v4 met 70,94 en τ³-bench met een gemiddelde van 0,662, staat tweede op Terminal-Bench 2.1 met 65,1% en derde op MCP-Atlas met 74,59% dekking maar minder beurten. Bij DTAP red-teaming registreert Isaac het laagste gecombineerde slagingspercentage van aanvallen met 35,6%, terwijl het een goedaardig slagingspercentage van 82,5% handhaaft. Efficiëntieresultaten omvatten een TTFT van 23,6 seconden bij 1 miljoen tokens en 72,9 seconden bij 10 miljoen tokens op een enkele B200-klasse GPU, met een prefill-doorvoer van 137.200 tokens per seconde. De prijzen zijn voorlopig vastgesteld op $0,15/$1,00 per miljoen invoer-/uitvoertokens. Isaac draait ook volledig on-device op Intel Arc Pro B70, Core Ultra Series 3 en Qualcomm Snapdragon X2 Elite.
Bron: MarkTechPost —
origineel
