Groq يضاعف أداء استدلال Llama-2 70B في ثلاثة أسابيع
Meta
Groq
أعلنت شركة Groq عن مضاعفة أداء الاستدلال لنموذج Llama-2 70B في ثلاثة أسابيع فقط. تحقق هذا التحسين من خلال تحسين العتاد والبرمجيات. الآن يعالج النظام أكثر من 1250 رمزًا في الثانية لكل دفق.
أعلنت شركة Groq، المتخصصة في أجهزة وبرمجيات الاستدلال بالذكاء الاصطناعي، أنها ضاعفت أداء الاستدلال لنموذج اللغة الكبير Llama-2 70B من Meta خلال ثلاثة أسابيع فقط. وقد تحقق هذا التحسن الكبير في الأداء من خلال تحسينات برمجية فقط، دون أي تغييرات في الأجهزة الأساسية. وتذكر الشركة أن هذه التحسينات تُظهر إمكانات مجموعة برمجياتها في تعزيز كفاءة استدلال نماذج الذكاء الاصطناعي. هذا التطور مهم بشكل خاص للتطبيقات التي تتطلب معالجة عالية السرعة لنماذج الذكاء الاصطناعي الكبيرة.
المصدر: Meta AI (GNews) —
الأصلي