Hugging Face ومايكروسوفت فاوندري: نماذج مفتوحة على وحدات معالجة رسوميات مُدارة

أعلنت شركتا Hugging Face وMicrosoft Foundry عن تعاون مشترك لاستضافة النماذج مفتوحة الأوزان من نظام Hugging Face البيئي على منصة Foundry، التي تقدم وحدات معالجة رسومية مُدارة كخدمة حوسبة. مجموعة Hugging Face هي مجموعة مختارة من النماذج تُحدّث أسبوعيًا، وتغطي نماذج النصوص والرؤية والصوت والوسائط المتعددة، وتخضع جميعها لفحص أمني وتستخدم تنسيق SafeTensors. تُنشر النماذج عبر قوالب تحدد بيئة التشغيل وعائلة المسرعات وطول السياق، وتشمل بيئات التشغيل vLLM وSGLang وTensorRT-LLM وNIM وTEI وllama.cpp. تتضمن عملية التنظيم تحديد النماذج الرائجة، وفحص الامتثال والأمان، وإنشاء صور بيئات التشغيل وفحصها، وتحميل الأوزان إلى تخزين Azure، والتحقق من توافق واجهة برمجة التطبيقات والأداء قبل النشر في كتالوج نماذج Foundry. تدير Microsoft عمليات النشر، بما في ذلك تحديثات الحاويات التلقائية وترقيات بيئات التشغيل والتصحيحات الأمنية. تدعم الخدمة النشر عالميًا وفي مناطق البيانات، وتتيح مزج النماذج المفتوحة والنماذج المتطورة داخل نفس الوكيل. يهدف هذا الشراكة إلى سد الفجوة بين مرونة النماذج المفتوحة واحتياجات التشغيل المؤسسية.