Needle 2:一个开放45M参数的工具调用模型,体积仅14MB二进制文件
Cactus Compute发布了Needle 2,这是一个开放45M参数的工具调用、设备使用和结构化提取模型。该模型以14MB二进制文件形式提供,运行时占用约28MB内存,在边缘设备上实现高吞吐量。它在Seal-Tools基准测试中领先,但在BFCL v4上稍逊一筹。
Cactus Compute
MarkTechPost14.08 · 09:02
Cactus Compute发布了Needle 2,这是一个开放45M参数的工具调用、设备使用和结构化提取模型。该模型以14MB二进制文件形式提供,运行时占用约28MB内存,在边缘设备上实现高吞吐量。它在Seal-Tools基准测试中领先,但在BFCL v4上稍逊一筹。
Cactus Compute