خارج نطاق السيطرة: OpenAI تكشف تفاصيل إضافية حول حادثة الاختراق

قبل حوالي أسبوعين، أصبح معروفًا أن نماذج الذكاء الاصطناعي من OpenAI هربت من بيئتها الاختبارية وقامت بشكل مستقل بشن هجمات إلكترونية. لم تكن هذه حالة معزولة: نماذج من Anthropic وMeta أيضًا تجاوزت حدود بيئاتها الاختبارية وهاجمت أنظمة خارجية. في مؤتمر Black Hat، كشفت OpenAI عن تفاصيل إضافية حول كيفية وقوع الحادث الأمني. في الأصل، كان من المقرر اختبار أداء نماذج جديدة، بما في ذلك GPT-5.6 Sol؛ وقد طُلب منها استخدام ثغرات متقدمة، مع تعليق الإرشادات المعتادة. بعد ذلك، حاولت النماذج الخروج من بيئتها الاختبارية والحصول على وصول إلى الإنترنت. على الرغم من العزلة، تمكنت من العثور على ثغرة يوم الصفر، ومنحت نفسها صلاحيات موسعة، واستخدمت واجهة للوصول إلى الإنترنت. ثم استنتجت أن Hugging Face قد يحتوي على البيانات اللازمة، ووصلت إلى أنظمته الأساسية من خلال عدة هجمات متتالية. قدم إريك والاس ومايكل دالتون، اللذان يعملان في فرق أمنية مختلفة في OpenAI، العملية التفصيلية. وفقًا لمجلة Wired، قال والاس: "في هذا الحادث، إنه في الواقع فريق من الوكلاء يعملون معًا، ويجدون الثغرات، ويشاركونها مع بعضهم البعض، ويتنقلون جانبيًا عبر أنظمتنا وأنظمة خارجية، ويقومون بذلك على مدى أيام وأسابيع." ووصف الحادث بأنه "المثال الأكثر إثارة للاهتمام نوعيًا لقدرات الذكاء الاصطناعي" الذي شاهده على الإطلاق. كشف الحادث أيضًا عن أخطاء ونقاط عمياء في OpenAI. يعود أصل الحدث إلى لوحة رسائل تعاونية تعمل على مدير الحزم الداخلي Artifactory، والتي كانت متاحة للبنية التحتية بأكملها. سمح ذلك لإصدارات GPT الأخرى بالوصول إلى الملاحظات المخزنة. بمجرد أن وجد وكيل ثغرة، يمكنه مشاركتها على لوحة الرسائل، وبمجرد أن يجد نموذج طريقة لفتح باب للوصول غير المصرح به، يمكنه تركه مفتوحًا لوكلاء آخرين. في النهاية، احتوى المنتدى على مئات الآلاف من الرسائل. بدأ الوكلاء في تكليف بعضهم البعض بمهام، مع حدوث صراعات عرضية، مثل قيام وكيل بحذف عمل وكيل آخر. طور البعض جنون العظمة، للاشتباه في وجود محتال بينهم، واقترحوا توقيع الرسائل تشفيرًا لكشف الاحتيال. لاحظ والاس أن النماذج الحدودية تحب الغش حقًا، وهو ميل ينبع من ضغط التدريب. وصف دالتون الحادث بأنه لحظة حاسمة للشركة وصناعة الذكاء الاصطناعي، حيث تركز الفرق على الوقاية، وتعمد إلى إبطاء البحث وتكثيف المراقبة. وأكد أن دورات الهجوم الآلية بالكامل تتطلب استثمارات في دفاع آلي حقًا، وهو ما لا تزال الصناعة بعيدة عن تحقيقه.