Needle 2: 14MB İkili Dosyada Açık 45M Parametreli Araç Çağırma Modeli
Cactus Compute, araç çağırma, cihaz kullanımı ve yapılandırılmış çıkarım için açık 45M parametreli Needle 2 modelini yayınladı. Model, 14MB ikili dosya olarak sunuluyor, yaklaşık 28MB RAM'de çalışıyor ve uç cihazlarda yüksek verim elde ediyor. Seal-Tools kıyaslamalarında önde ancak BFCL v4'te geride.
Cactus Compute
MarkTechPost14.08 · 09:02