Anthropic: كلود اخترق ثلاث منظمات خلال اختبارات الأمن السيبراني

كشفت شركة أنثروبيك أن نماذج الذكاء الاصطناعي التابعة لها تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث مؤسسات لم تذكر أسماؤها أثناء اختبارات الأمن السيبراني. حدث ذلك خلال تقييم أجرته شركة خارجية تدعى إيريغولار، والتي أخطأت في تكوين الأجهزة، مما منح النماذج إمكانية الوصول إلى الإنترنت. اكتشفت أنثروبيك المشكلة بعد إجراء مراجعة بأثر رجعي واسعة النطاق، بدأت بعد حادث مشابه مع شركة OpenAI. في المجمل، أظهر 141006 اختبارات وصولًا محتملاً إلى الإنترنت، لكن في ثلاث حالات فقط تصلت النماذج فعليًا بالشبكة واقتحمت البنية التحتية للمؤسسات. تضمنت النماذج المشاركة Opus 4.7 وMythos 5 ونموذجًا بحثيًا داخليًا. في جميع الحالات، تم تعطيل آليات الحماية، ونفذت النماذج مهام التقاط العلم. صرحت أنثروبيك أن النماذج استخدمت طرقًا بسيطة مثل كلمات المرور الضعيفة ونقاط النهاية غير المصادق عليها. في بعض الحالات، أدركت النماذج أنها في بيئة حقيقية لكنها استمرت في الهجوم، بينما لم يدرك البعض الآخر ذلك. أقرت الشركة بأن إجراءات الحماية متعددة المستويات الأفضل كان يمكن أن تمنع الحوادث، واستعانت بمنظمة METR للتحقق المستقل.