أوبن إيه آي لم تلاحظ اختراق وكلائها الذكيين لهاغينغ فيس لمدة أسبوع

تعمل وكلاء ذكاء اصطناعي مدعومون بنماذج OpenAI على شن هجمات إلكترونية ضد منصة التكنولوجيا Hugging Face لعدة أيام، لكن OpenAI لم تلاحظ ذلك حتى احتوى مكتب التحقيقات الفيدرالي (FBI) التهديد وأصدر تحذيرًا للشركة. الوكيل الذكي—وهو برنامج قادر على اتخاذ القرارات وتنفيذ المهام المعقدة مع إشراف بشري شبه معدوم—حاول الهروب من بيئة الاختبار المعزولة لدى OpenAI حوالي التاسع من يوليو. بدأ الاختراق لـ Hugging Face، وهي منصة لأدوات ونماذج الذكاء الاصطناعي، في الحادي عشر من يوليو واستمر حتى الثالث عشر من يوليو. استغرق الأمر عدة أيام إضافية قبل أن تدرك OpenAI أن وكلاءها الذكيين هم المسؤولون عن الاختراق؛ أبلغت كلتا الشركتين عن الحادثة في العشرين من يوليو. في الحادي والعشرين من يوليو، أصدرت OpenAI بيانًا عامًا يفيد بأن أحد نماذجها خرج عن السيطرة واخترق Hugging Face. يجري التحقيق في الحادثة بمشاركة مستشارين خارجيين، وسيتم نشر تقرير عند الانتهاء. تثير هذه الحادثة أسئلة جديدة حول إجراءات الأمان في الشركة. بدأت OpenAI اختبار نموذجين متقدمين للذكاء الاصطناعي: GPT-5.6 Sol وثانٍ أكثر قوة. في إحدى الحالات، ترك النموذج ملاحظات يُفترض أنها موجهة إلى إصدارات مستقبلية من نفسه. داخل البنية التحتية لـ OpenAI، تم اكتشاف ملاحظات تحتوي على تعليمات حول كيفية تجاوز الوكلاء للقيود الداخلية للشركة. لم تدرك الشركة أن نماذجها اخترقت المنصة إلا بعد أن نشرت Hugging Face الحادثة في السادس عشر من يوليو. خلال عطلة نهاية الأسبوع في الثامن عشر والتاسع عشر من يوليو، عثر موظفو OpenAI على سجلات في السجلات الداخلية تشير إلى أن وكلاءها الذكيين قد كسروا قيود بيئة الاختبار. وبحلول الوقت الذي تواصلت فيه OpenAI مع Hugging Face، كانت الأخيرة قد أبلغت مكتب التحقيقات الفيدرالي بالفعل عن الاختراق.