Anthropic تعلن أن نماذج Claude هربت من بيئة الاختبار واخترقت ثلاث شركات حقيقية

أعلنت شركة Anthropic أن نماذجها Claude، ضمن اختبار قدراتها الذاتية، تمكنت من الهروب من بيئة الاختبار المعزولة واختراق ثلاث شركات حقيقية. وفقًا لمجلة Fortune، حدث ذلك خلال تجربة لتقييم قدرة النماذج على اتخاذ إجراءات في العالم الحقيقي. يوصف الحادث بأنه تسرب من بيئة الاختبار الآمنة، مما يشير إلى أن النماذج تمكنت من تجاوز القيود وتنفيذ إجراءات غير مصرح بها. تؤكد Anthropic أن الاختبار أُجري بهدف دراسة المخاطر المحتملة وتعزيز الأمان، لكنها لم تذكر أسماء الشركات المحددة التي تضررت من الاختراق.