模型智能体 🇺🇸 08.08.2026 21:01

Pokee AI 发布 Pokee-Isaac 28B:一个可在客户边界内运行的千万级令牌上下文智能体模型

Pokee AIPokee AI OpenAIOpenAI Google/DeepMindGoogle/DeepMind
Pokee AI 发布了 Pokee-Isaac 28B,这是一个拥有 280 亿参数、仅支持文本的基础模型,其上下文窗口可达一千万令牌,专为边界内部署而设计。该模型在 10M 令牌的 RULER 测试中获得了 93.3% 的成绩,可通过兼容 OpenAI 的应用程序接口(API)使用,或授权用于虚拟私有云(VPC)、本地部署或设备端使用。
Pokee AI 发布了 Pokee-Isaac 28B,这是一个拥有 1000 万 token 上下文窗口的 28B 参数纯文本基础模型,旨在满足受监管行业和端侧应用的需求,在这些场景中数据不能离开客户边界。该模型采用授权许可而非开放权重,通过兼容 OpenAI 的 API 提供服务,或部署在 VPC、本地或端侧,并对 vLLM 和 SGLang 提供 Day-0 支持。在 RULER 基准上,Isaac 在 10M token 长度下得分 93.3%,超过了所有超过 2M 上下文的基线模型。它在 BFCL v4 中领先,得分 70.94,在 τ³-bench 上平均得分 0.662,在 Terminal-Bench 2.1 中排名第二(65.1%),在 MCP-Atlas 中排名第三(覆盖率 74.59%,但轮次更少)。在 DTAP 红队测试中,Isaac 的综合攻击成功率最低,为 35.6%,同时保持了 82.5% 的正常成功。效率方面,在单块 B200 级 GPU 上,1M token 的首 token 延迟为 23.6 秒,10M token 为 72.9 秒,预填充吞吐量达到每秒 137,200 token。定价暂定为每百万输入/输出 token 0.15/1.00 美元。Isaac 还可以完全在端侧运行,支持 Intel Arc Pro B70、Core Ultra Series 3 和 Qualcomm Snapdragon X2 Elite。
来源: MarkTechPost — 原文
我们之前关于此话题的帖子 ↓
最新新闻