Cactus Compute

Needle 2 : un modèle open source de 45 millions de paramètres pour l'appel d'outils dans un binaire de 14 Mo

Cactus Compute a publié Needle 2, un modèle open source de 45 millions de paramètres pour l'appel d'outils, l'utilisation d'appareils et l'extraction structurée. Le modèle est fourni sous forme de binaire de 14 Mo, fonctionne dans environ 28 Mo de RAM et atteint un débit élevé sur les appareils de périphérie. Il est en tête des benchmarks Seal-Tools mais est en retrait sur BFCL v4.

Cactus Compute