Cactus Compute

Needle 2: un modelo abierto de 45 millones de parámetros para llamada de herramientas en un binario de 14 MB

Cactus Compute ha lanzado Needle 2, un modelo abierto de 45 millones de parámetros para llamada de herramientas, uso de dispositivos y extracción estructurada. El modelo se distribuye como un binario de 14 MB, funciona con unos 28 MB de RAM y logra un alto rendimiento en dispositivos de borde. Lidera en los benchmarks de Seal-Tools pero se queda atrás en BFCL v4.

Cactus Compute