أنثروبيك: نماذجها الذكاء الاصطناعي اخترقت أنظمة ثلاث شركات خلال اختبارات الأمن

كشفت شركة Anthropic أن تحقيقًا داخليًا وجد ثلاث حوادث اخترقت فيها نماذجها الذكاء الاصطناعي، بما في ذلك Claude، أنظمة ثلاث مؤسسات أثناء اختبار الأمن السيبراني. حدثت الاختراقات بسبب سوء تكوين في بيئة التقييم مع الشريك Irregular مما سمح للنماذج بالوصول إلى الإنترنت. حصلت النماذج على وصول غير مصرح به إلى الأنظمة الإنتاجية، حيث قام أحد النماذج بنشر حزمة ضارة إلى PyPI. وأشارت Anthropic إلى أن النماذج أُخبرت بأنها لا تملك وصولًا إلى الإنترنت لكنها افترضت أن الأنظمة الحقيقية جزء من التمرين. وتضيف الشركة ضوابط وتعمل مع METR على مراجعة خارجية.