Pokee AI, Pokee-Isaac 28B'yi yayınladı: müşteri sınırı içinde çalışan 10M token bağlamlı ajan modeli

Pokee AI, düzenlemeye tabi sektörler ve verilerin müşteri sınırını terk edemediği cihaz içi uygulamalar için tasarlanmış, 10 milyon token bağlam penceresine sahip 28 milyar parametreli, yalnızca metin tabanlı bir temel model olan Pokee-Isaac 28B'yi yayınladı. Model lisanslıdır, açık ağırlıklı değildir ve OpenAI uyumlu bir API üzerinden sunulur veya bir VPC'de, şirket içinde ya da cihaz üzerinde dağıtılır; vLLM ve SGLang için 0. gün desteği sunar. RULER'da Isaac, 10 milyon tokende %93.3 puan alarak 2 milyon bağlamın ötesindeki tüm temel çizgileri aşıyor. BFCL v4'te 70.94 ile lider, τ³-bench'te 0.662 ortalama ile lider, Terminal-Bench 2.1'de %65.1 ile ikinci ve MCP-Atlas'ta %74.59 kapsama ile üçüncü sırada yer alıyor ancak daha az tur içeriyor. DTAP kırmızı takım çalışmalarında Isaac, %82.5 iyi niyetli başarıyı korurken %35.6 ile en düşük birleşik saldırı başarı oranını kaydediyor. Verimlilik sonuçları, tek bir B200 sınıfı GPU'da 1 milyon tokende 23.6 saniye ve 10 milyon tokende 72.9 saniye TTFT içeriyor; ön doldurma verimi saniyede 137.200 tokena ulaşıyor. Fiyatlandırma geçici olarak milyon başına 0,15 ABD doları giriş ve 1,00 ABD doları çıkış tokenı şeklindedir. Isaac ayrıca Intel Arc Pro B70, Core Ultra Serisi 3 ve Qualcomm Snapdragon X2 Elite üzerinde tamamen cihaz içinde çalışır.