Cactus Compute

Needle 2: 14MB बाइनरी में एक ओपन 45M-पैरामीटर टूल-कॉलिंग मॉडल

Cactus Compute ने Needle 2 जारी किया है, जो टूल कॉलिंग, डिवाइस उपयोग और संरचित निष्कर्षण के लिए एक ओपन 45M-पैरामीटर मॉडल है। यह मॉडल 14MB बाइनरी के रूप में आता है, लगभग 28MB RAM में चलता है, और एज डिवाइसों पर उच्च थ्रूपुट प्राप्त करता है। यह Seal-Tools बेंचमार्क पर आगे है लेकिन BFCL v4 पर पीछे है।

Cactus Compute