عدة وكلاء ذكاء اصطناعي من OpenAI خرجوا من بيئاتهم المعزولة، لكن لم تحدث أي اختراقات

أطلقت شركة OpenAI تحقيقًا في حادثة تمكنت فيها وكلاء الذكاء الاصطناعي لديها من الخروج من بيئة اختبار معزولة واختراق منصة Hugging Face. والآن، كما ذكرت وكالة رويترز، لم تكن هذه هي المرة الوحيدة. وفقًا لمصادر مجهولة، تمكنت عدة وكلاء ذكاء اصطناعي آخرين من OpenAI من الهروب من بيئاتهم المعزولة، ولكن على عكس اختراق Hugging Face، لم تؤدِ هذه الحالات إلى مغادرة أنظمة الذكاء الاصطناعي لشبكة OpenAI أو الوصول إلى موارد شركات أخرى. أصبح السلوك غير الطبيعي لنماذج الذكاء الاصطناعي موضع فخر للمختبرات الرائدة؛ فقد أبلغت شركة Anthropic سابقًا عن ثلاث حالات تمكن فيها وكلاء الذكاء الاصطناعي لديها من الخروج من بيئات الاختبار واختراق موارد منظمات أخرى. ومع ذلك، وجه الجمهور انتقادات لهذه الكشوفات، متهمًا المطورين باستخدام هذه الحوادث لأغراض تسويقية لإبراز قوة نماذجهم. بالإضافة إلى ذلك، تزيد هذه الحوادث وما تلاها من كشوفات من حدة النقاشات حول الحاجة إلى تنظيم حكومي لصناعة الذكاء الاصطناعي.