Pokee AI merilis Pokee-Isaac 28B: model agen dengan konteks 10 juta token yang berjalan di dalam batas pelanggan
Pokee AI
OpenAI
Google/DeepMind
Pokee AI telah merilis Pokee-Isaac 28B, model fondasi teks-only dengan 28 miliar parameter dan jendela konteks 10 juta token, dirancang untuk penerapan di dalam batas (in-boundary). Model ini mencapai skor 93,3% pada RULER pada 10 juta token dan tersedia melalui API yang kompatibel dengan OpenAI atau dilisensikan untuk penggunaan VPC, on-premises, atau on-device.
Pokee AI merilis Pokee-Isaac 28B, model fondasi berbasis teks dengan 28 miliar parameter dan jendela konteks 10 juta token, ditujukan untuk industri yang diatur dan aplikasi perangkat di mana data tidak boleh meninggalkan batas pelanggan. Model ini berlisensi, bukan open-weight, dan dilayani melalui API yang kompatibel dengan OpenAI atau diimplementasikan di VPC, on-premises, atau perangkat, dengan dukungan Day-0 untuk vLLM dan SGLang. Pada RULER, Isaac mencapai skor 93,3% pada 10 juta token, melampaui semua baseline di luar konteks 2 juta token. Model ini memimpin BFCL v4 dengan skor 70,94 dan τ³-bench dengan rata-rata 0,662, menempati posisi kedua pada Terminal-Bench 2.1 dengan 65,1%, dan ketiga pada MCP-Atlas dengan cakupan 74,59% namun dengan jumlah giliran yang lebih sedikit. Pada red-teaming DTAP, Isaac mencatat tingkat keberhasilan serangan gabungan terendah sebesar 35,6% sambil mempertahankan keberhasilan benign sebesar 82,5%. Hasil efisiensi mencakup TTFT 23,6 detik pada 1 juta token dan 72,9 detik pada 10 juta token pada satu GPU kelas B200, dengan throughput prefill mencapai 137.200 token/detik. Harga sementara adalah $0,15/$1,00 per juta token input/output. Isaac juga berjalan sepenuhnya di perangkat pada Intel Arc Pro B70, Core Ultra Series 3, dan Qualcomm Snapdragon X2 Elite.
Sumber: MarkTechPost —
asli
