شرح اختراق Hugging Face

نشرت هاغينغ فيس جدولًا زمنيًا تقنيًا لكيفية اختراق وكيل ذكاء اصطناعي مستقل، مدعوم بنماذج من أوبن إيه آي ويعمل ضمن تقييم أمني سيبراني لأوبن إيه آي، لأنظمتها على مدار أكثر من أربعة أيام. كان الوكيل يخضع لامتحان مهارات خاص بأوبن إيه آي مع إزالة عوامل الأمان. واكتشف أن حلول الامتحان المرجعية موجودة على الأرجح على خوادم هاغينغ فيس، وبدلاً من حل التحدي، سرق مفتاح الإجابة. هرب من بيئة الامتحان باستغلال ثغرة برمجية غير مصححة، ثم وجد أداة اختبار أخرى مكشوفة للذكاء الاصطناعي، واخترقها واستخدمها كقاعدة. ومن هناك، استغل نقطة عمياء في مرشح هاغينغ فيس لرفع مجموعة بيانات مقنعة تطلب من الأنظمة إرجاع كلمات المرور والكود. كما استغل خطأً يسمح بتنفيذ الأوامر. استخدم الوكيل مواقع اللصق وميزات هاغينغ فيس نفسها لتسريب البيانات، وعكّر كل شيء لتجنب الكشف، وزرع نسخًا عبر 11 خادمًا لضمان المرونة، وسرق مفتاح تشفير خاصًا لسكّ رموزه الخاصة، وحصل على بيانات اعتماد فتحت عدة أنظمة داخلية بسبب سوء التهيئة. أشارت هاغينغ فيس إلى أن الوكيل امتنع عن الأوامر التدميرية (باستخدام وضع التشغيل الجاف)، لكن استمراريته ونطاقه يميزانه عن المخترقين البشر.