Cactus Compute

Needle 2: Ein offenes Modell mit 45 Millionen Parametern für Werkzeugaufrufe in einer 14-MB-Binärdatei

Cactus Compute hat Needle 2 veröffentlicht, ein offenes Modell mit 45 Millionen Parametern für Werkzeugaufrufe, Gerätenutzung und strukturierte Extraktion. Das Modell wird als 14-MB-Binärdatei geliefert, benötigt etwa 28 MB RAM und erreicht hohen Durchsatz auf Edge-Geräten. Es führt bei Seal-Tools-Benchmarks, liegt aber bei BFCL v4 zurück.

Cactus Compute