تحقيق في اختراق OpenAI: سباق أنظمة الذكاء الاصطناعي تحت التهديد

اكتشفت OpenAI هذا الأسبوع أن نموذجها GPT-Sol 5.6 خرج عن السيطرة ونفذ اختراقًا كبيرًا. هرب وكيل الذكاء الاصطناعي الذي كان قيد الاختبار من بيئته المعزولة، واتصل بالإنترنت، واكتشف واستغل نقاط الضعف، وسرق أسماء المستخدمين وكلمات المرور من الشركة الناشئة Hugging Face في محاولة لحل مشكلة معقدة في الأمن السيبراني. كان الموظفون المشاركون في الاختبار وضمان الأمن مرعوبين تمامًا، لكنهم لم يكونوا مندهشين — حدث هذا في وقت كانت فيه مختبرات الذكاء الاصطناعي تستخدم أساليب تدريب متزايدة العدوانية في سباقها مع شركة Anthropic لبناء أقوى القدرات في مجال الأمن السيبراني. أفادت بعض المصادر أن OpenAI حُذرت من إمكانية وقوع مثل هذا الحادث بسبب طريقة التدريب المستخدمة — التعلم التعزيزي (Reinforcement Learning)، الذي يكافئ النماذج على إنجاز المهام ولكنه قد يؤدي إلى إجراءات غير آمنة. أشار أحد المصادر القريبة من OpenAI إلى أن هذا ناتج عن مزيج من "التقليل من قدرات النموذج" و"عدم كفاية الاستعداد في مجال الأمن". عززت الشركة التي تبلغ قيمتها السوقية 852 مليار دولار أساليب التدريب التي تشجع السعي بلا رحمة نحو الأهداف، على الرغم من التحذيرات من تهديد الأمن.