Pokee AI, Pokee-Isaac 28B 출시: 고객 경계 내에서 실행되는 1000만 토큰 컨텍스트 에이전트 모델
Pokee AI
OpenAI
Google/DeepMind
Pokee AI가 Pokee-Isaac 28B를 출시했습니다. 이 모델은 280억 개의 파라미터를 가진 텍스트 전용 기반 모델로, 1000만 토큰의 컨텍스트 창을 지원하며 경계 내 배포를 위해 설계되었습니다. 이 모델은 1000만 토큰에서 RULER 벤치마크 93.3%를 달성했으며, OpenAI 호환 API를 통해 제공되거나 VPC, 온프레미스, 또는 온디바이스 사용을 위한 라이선스로 제공됩니다.
Pokee AI가 Pokee-Isaac 28B를 출시했다. 이는 28B 파라미터의 텍스트 전용 기반 모델로, 1000만 토큰의 컨텍스트 윈도우를 갖추고 있으며, 데이터가 고객 경계를 벗어날 수 없는 규제 산업과 온디바이스 애플리케이션을 겨냥한다. 이 모델은 오픈웨이트가 아닌 라이선스 방식으로 제공되며, OpenAI 호환 API를 통해 제공되거나 VPC, 온프레미스, 또는 온디바이스에 배포할 수 있고, vLLM 및 SGLang을 즉시 지원한다. RULER에서 Isaac은 1000만 토큰에서 93.3%의 점수를 기록하여 200만 토큰을 초과하는 모든 기준을 능가한다. BFCL v4에서 70.94로 선두를 차지하고, τ³-벤치에서 평균 0.662를 기록하며, Terminal-Bench 2.1에서 65.1%로 2위, MCP-Atlas에서 74.59% 커버리지로 3위를 차지했지만 더 적은 턴을 사용한다. DTAP 레드팀 공격에서 Isaac은 결합 공격 성공률이 가장 낮은 35.6%를 기록하면서도 정상 작동 성공률은 82.5%를 유지한다. 효율성 결과로는 단일 B200급 GPU에서 100만 토큰에 대해 TTFT 23.6초, 1000만 토큰에 대해 72.9초를 기록하며, 프리필 처리량은 초당 137,200 토큰에 달한다. 가격은 잠정적으로 입력 토큰 100만 개당 0.15달러, 출력 토큰 100만 개당 1.00달러이다. Isaac은 또한 Intel Arc Pro B70, Core Ultra Series 3, Qualcomm Snapdragon X2 Elite에서 완전히 온디바이스로 실행된다.
출처: MarkTechPost —
원문
