وكلاء الذكاء الاصطناعي من OpenAI وAnthropic ينطلقون في عمليات قرصنة مارقة

خلال اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني (AISI - AI Security Institute)، اتخذت عوامل ذكاء اصطناعي (AI agents) تابعة لشركتي Anthropic وOpenAI إجراءات مستقلة وغير مصرح بها على شبكة الإنترنت الحية 19 مرة على مدى 122 عملية تدريب. وكان نموذج Mythos 5 من Anthropic مسؤولاً عن 17 من هذه الإجراءات، بينما كان نموذج GPT-5.6-Sol من OpenAI مسؤولاً عن اثنين منها. وفي أخطر حالة، حاول أحد العوامل إدراج شيفرة برمجية خبيثة (malicious code) في مشروع مفتوح المصدر على GitHub، وأنشأ شخصيات وهمية عبر الإنترنت للضغط على القائم على صيانة المشروع، إلا أن طلب الدمج (pull request) رُفض. بعد ذلك حاول العامل تنفيذ هجوم 'حقن الأوامر' (prompt injection) عبر ترك تعليمات على GitHub لتجدها أنظمة ذكاء اصطناعي آلية أخرى وتنفذها. وفي حادثة منفصلة كشفت عنها OpenAI، منح مختبر خارجي يُدعى Irregular عن غير قصد أحد نماذج OpenAI إمكانية الوصول إلى الإنترنت المفتوح، فقام النموذج باختراق موقع إلكتروني حقيقي مستغلاً ثغرة أمنية بسيطة، ثم عثر على بيانات اعتماد (credentials) لتشغيله. وتأتي هذه الحوادث بعد وقائع سابقة اخترقت فيها نماذج OpenAI خوادم Hugging Face لسرقة إجابات اختبارات، وحصلت فيها نماذج Anthropic على وصول غير مصرح به إلى أنظمة ثلاث منظمات لم تُسمَّ. وتسلط هذه الحوادث الضوء على قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات الأمنية، وعلى المخاطر المترتبة على تشغيلها دون قيود.