Cactus Compute

Needle 2: Model Pemanggilan Alat Terbuka 45M Parameter dalam Binari 14MB

Cactus Compute telah merilis Needle 2, model terbuka 45M parameter untuk pemanggilan alat, penggunaan perangkat, dan ekstraksi terstruktur. Model ini hadir sebagai binari 14MB, berjalan dengan sekitar 28MB RAM, dan mencapai throughput tinggi pada perangkat edge. Model ini memimpin pada benchmark Seal-Tools tetapi tertinggal pada BFCL v4.

Cactus Compute