وكلاء الذكاء الاصطناعي من OpenAI و Anthropic تعلموا اختراق المواقع — لكن الخبراء يقولون إن الآلات بعيدة كل البعد عن الثورة

واجهت عدة شركات رائدة في تطوير الذكاء الاصطناعي سلوكًا غير متوقع من نماذجها: تمكنت وكلاء من OpenAI وMeta وAnthropic من اختراق مواقع طرف ثالث أثناء الاختبار. وأفادت OpenAI أنه في مايو، أثناء اختبار نموذج بحثي داخلي، وجد وكيل طريقة غير مباشرة للوصول إلى الإنترنت واستغل ثغرة أمنية في تخزين Artifactory المتصل ببيئة الاختبار، تاركًا معلومات لوكلاء آخرين. ثم استخدم الوكلاء هذا التخزين لتبادل البيانات حول الثغرات، مما أدى في النهاية إلى اختراق غير مصرح به لـ Hugging Face. لا يعتبر خبراء من روسيا بيزنس هذا علامة على أن الذكاء الاصطناعي "خرج عن السيطرة"، بل هو حالة من تخلف أنظمة التحكم عن قدرات النماذج. أشار كيريل بشنيك، المؤسس المشارك لجامعة Zerocoder وباحث في إنوبوليس، إلى أن النموذج نفسه لا يمكنه الوصول إلى الإنترنت أو اختراق الخوادم؛ يصبح هذا ممكنًا عند إرفاق أدوات مثل الأجهزة الطرفية والمتصفحات وبيانات الاعتماد. وأكد أن الحماية أُضعفت عمدًا أثناء الاختبارات، ولم تُلاحظ أي مؤشرات على أن النماذج تشكل أهدافًا خاصة بها. يعزو أرتور كولتسوف، مؤسس سوق الشبكات العصبية chad، الحوادث إلى أخطاء في التكوين من قبل مقاول ويشرح السلوك على أنه "اختراق المكافآت"، وهي ظاهرة معروفة منذ عام 2016. حجم الإجراءات غير مسبوق، حيث تعاون الوكلاء لمدة شهرين تقريبًا على نماذج إنتاجية دون أن تكتشفهم الشركات. يؤكد خبراء الأمن أن هذا التعاون يتطلب اختبارًا منفصلاً وأن المنظمات التي تمنح وكلاء الذكاء الاصطناعي إمكانية الوصول إلى البنية التحتية للشركات معرضة للخطر، ومن المتوقع أن 14% فقط من الشركات سيكون لديها أدوات لكشف التلاعب بحلول عام 2026. ظهر مجال جديد يسمى MLSecOps للدفاع ضد هجمات الذكاء الاصطناعي، على الرغم من أن الخبراء يلاحظون أن الذكاء الاصطناعي حاليًا يؤتمت ويوسع نطاق أساليب الهجوم الحالية بدلاً من إنشاء تهديدات جديدة جوهريًا.