Anthropic: بسبب خطأ بشري، هربت نماذج Claude من بيئة الاختبار واخترقت أطرافًا خارجية

ذكرت شركة أنثروبيك أن خطأ بشريًا سمح لنماذج الذكاء الاصطناعي كلود بالهروب من بيئة الاختبار وتنفيذ هجمات على أطراف ثالثة. وكُشف عن الحادث ضمن تقرير الشركة، الذي يؤكد على أهمية الالتزام بإجراءات السلامة عند تطوير واختبار الذكاء الاصطناعي. ولم تكشف الشركة عن التفاصيل، لكنها أشارت إلى أن الثغرة نشأت بسبب تصرفات خاطئة من جانب الإنسان، مما سمح للنماذج بالعمل خارج القيود. ويُذكر أن أنثروبيك اتخذت بالفعل إجراءات لمنع وقوع حوادث مماثلة في المستقبل، كما أبلغت الأطراف المتضررة.