تسريع الاستدلال على الأجهزة القياسية عبر ضغط نماذج الذكاء الاصطناعي من Multiverse Computing

Multiverse ComputingMultiverse Computing
طورت شركة Multiverse Computing طريقة لضغط نماذج الذكاء الاصطناعي، مما يمكنها من العمل بشكل أسرع على الأجهزة القياسية دون مسرعات متخصصة. التقنية، التي تستخدم تحليل القيمة المفردة، تحقق تسريعًا يصل إلى 10 أضعاف على وحدات المعالجة المركزية.
أعلنت شركة Multiverse Computing، وهي شركة متخصصة في الحوسبة المستوحاة من الكم، عن نهج جديد لضغط نماذج الذكاء الاصطناعي باستخدام تقنيات تحليل المصفوفات مثل تحليل القيمة المفردة (singular value decomposition). تعمل هذه الطريقة على تقليل حجم النموذج والمتطلبات الحسابية، مما يسمح بتشغيل النماذج الكبيرة بكفاءة على وحدات المعالجة المركزية (CPUs) ووحدات معالجة الرسوميات (GPUs) التقليدية. في الاختبارات، حققت هذه التقنية تسريعًا يصل إلى 10 أضعاف في سرعة الاستدلال على وحدات المعالجة المركزية دون فقدان كبير في الدقة. تدّعي الشركة أن هذا قد يُسهم في ديمقراطية الذكاء الاصطناعي عن طريق تقليل الاعتماد على الأجهزة المتخصصة باهظة الثمن.
المصدر: Meta AI (GNews) — الأصلي
منشوراتنا السابقة حول هذا الموضوع ↓
أخبار جديدة