Cactus Compute

Needle 2: um modelo aberto de 45 milhões de parâmetros para chamada de ferramentas em um binário de 14MB

A Cactus Compute lançou o Needle 2, um modelo aberto de 45 milhões de parâmetros para chamada de ferramentas, uso de dispositivos e extração estruturada. O modelo vem em um binário de 14MB, roda em cerca de 28MB de RAM e alcança alta produtividade em dispositivos de borda. Ele lidera nos benchmarks Seal-Tools, mas fica atrás no BFCL v4.

Cactus Compute