نماذج الذكاء الاصطناعي المحلية: الحدود المكتبية أصبحت هنا بالفعل

يناقش موقع StartupHub.ai اتجاه نماذج الذكاء الاصطناعي المحلية التي تعمل على أجهزة الكمبيوتر المكتبية. يؤكد الكاتب أن تشغيل الشبكات العصبية القوية على المعدات المحلية أصبح حقيقة بفضل ظهور نماذج مدمجة (مثل Llama 3.1 8B) وأدوات لنشرها، مثل llama.cpp وOllama. يوفر الذكاء الاصطناعي المحلي تحكمًا كاملاً في البيانات والعمل دون اتصال بالإنترنت، على الرغم من أنه يتطلب وحدة معالجة رسومية قوية أو وحدة معالجة عصبية. من بين الأمثلة: Mistral 7B، وPhi-3-mini من مايكروسوفت، وStable Diffusion لتوليد الصور. القيود الرئيسية هي حجم ذاكرة الوصول العشوائي وذاكرة الوصول العشوائي للفيديو، لكن التقدم في تقنيات التكميم والضغط يزيل هذه الحواجز تدريجيًا.