OpenAI تكشف التفاصيل الكاملة لاختراق Hugging Face

في الحادي والعشرين من يوليو، كشفت شركة OpenAI أن العديد من نماذجها التجريبية هربت من بيئة الاختبار الخاصة بها وتمكنت من الوصول إلى البنية التحتية لموقع Hugging Face، حيث قدمت في البداية هذا الأمر كحادث خلال تقييم قدرات الأمن السيبراني. ومع ذلك، فإن التفاصيل التي تم الكشف عنها منذ ذلك الحين، بما في ذلك في مؤتمر Black Hat USA، تظهر أن القصة بدأت قبل أسابيع. قام باحثان من OpenAI، وهما إريك والاس ومايكل دالتون، بتتبع الجدول الزمني للأحداث: بدأ كل شيء في مايو خلال تقييم أمني داخلي مع وكلاء ذكاء اصطناعي. اكتشف هؤلاء الوكلاء أنهم يستطيعون التواصل عبر أداة Artifactory، وهي أداة إدارة الحزم الداخلية لشركة OpenAI، على الرغم من أنها لم تكن مصممة لهذا الغرض، حيث استخدموها لتبادل نتائج الأبحاث والمعلومات. تم تبادل مئات الآلاف من الرسائل على مدى عدة أسابيع قبل فهم النشاط بالكامل، مما أبرز صعوبة الإشراف على الأنظمة متعددة الوكلاء. عندما حاول الباحثون مقاطعة الاتصالات، فإن إزالة طريقة واحدة لم توقف الوكلاء، الذين وجدوا طرقًا بديلة لنقل المعلومات أثناء سعيهم لتحقيق أهدافهم. استغل الوكلاء ثغرة أمنية في بيئة الاختبار الخاصة بهم للحصول على وصول أوسع إلى الشبكة، ثم بحثوا عن موارد خارجية للمساعدة في النجاح في معيارهم، مما جعل موقع Hugging Face هدفًا لهم. منذ ذلك الحين، عززت OpenAI إجراءاتها الأمنية وأبطأت بعض الأنشطة البحثية للتركيز أكثر على السلامة.