Pokee AI lança Pokee-Isaac 28B: um modelo agêntico com contexto de 10M de tokens que opera dentro do limite do cliente

A Pokee AI lançou o Pokee-Isaac 28B, um modelo de fundação somente texto com 28B de parâmetros e uma janela de contexto de 10M de tokens, voltado para indústrias reguladas e aplicações em dispositivos onde os dados não podem sair do limite do cliente. O modelo é licenciado, não tem pesos abertos, e é servido por meio de uma API compatível com OpenAI ou implantado em uma VPC, on-premises ou no dispositivo, com suporte desde o primeiro dia para vLLM e SGLang. No RULER, o Isaac atinge 93,3% em 10M de tokens, superando todas as linhas de base além do contexto de 2M. Ele lidera o BFCL v4 com 70,94 e o τ³-bench com uma média de 0,662, fica em segundo lugar no Terminal-Bench 2.1 com 65,1% e em terceiro no MCP-Atlas com 74,59% de cobertura, mas com menos turnos. No red-teaming do DTAP, o Isaac registra a menor taxa combinada de sucesso de ataque, com 35,6%, mantendo 82,5% de sucesso benigno. Os resultados de eficiência incluem um TTFT de 23,6s em 1M de tokens e 72,9s em 10M em uma única GPU da classe B200, com uma taxa de transferência de prefill atingindo 137.200 tokens/s. O preço é provisório em $0,15/$1,00 por milhão de tokens de entrada/saída. O Isaac também roda totalmente no dispositivo em Intel Arc Pro B70, Core Ultra Series 3 e Qualcomm Snapdragon X2 Elite.