Pokee AI、顧客境界内で動作する1000万トークンのコンテキストを持つエージェントモデル「Pokee-Isaac 28B」をリリース
Pokee AI
OpenAI
Google/DeepMind
Pokee AIは、1000万トークンのコンテキストウィンドウを持つ280億パラメータのテキスト専用基盤モデル「Pokee-Isaac 28B」をリリースしました。このモデルは境界内デプロイメント向けに設計されており、1000万トークンでRULERスコア93.3%を達成しています。OpenAI互換のAPIまたはVPC、オンプレミス、オンデバイスでの利用が可能なライセンスで提供されます。
Pokee AIは、規制産業やデータを顧客の境界の外に出せないオンデバイスアプリケーションを対象とした、28Bパラメータのテキスト専用基盤モデルであるPokee-Isaac 28Bをリリースした。このモデルは1000万トークンのコンテキストウィンドウを備えている。このモデルはライセンス提供であり、オープンウェイトではない。OpenAI互換のAPIを通じて提供されるか、VPC、オンプレミス、またはオンデバイスにデプロイされ、vLLMとSGLangのデイゼロサポートが含まれる。RULERでは、Isaacは1000万トークンで93.3%をスコアし、200万トークンを超えるコンテキストではすべてのベースラインを上回る。BFCL v4で70.94を記録してリードし、τ³ベンチで平均0.662、ターミナルベンチ2.1で65.1%で2位、MCPアトラスでは74.59%のカバレッジで3位(ただしターン数は少ない)。DTAPレッドチーミングでは、Isaacは35.6%の複合攻撃成功率で最も低く、良性成功率は82.5%を維持している。効率性の結果には、単一のB200クラスGPUでの先頭トークンまでの時間(TTFT)が100万トークンで23.6秒、1000万トークンで72.9秒、プリフィルスループットが毎秒137,200トークンに達することが含まれる。価格は暫定的に、入力トークン100万あたり0.15ドル、出力トークン100万あたり1.00ドル。Isaacはまた、Intel Arc Pro B70、Core Ultra Series 3、Qualcomm Snapdragon X2 Elite上で完全にオンデバイスで動作する。
出典: MarkTechPost —
原文
