كلود يتجاوز الخط الأحمر ويخترق ثلاث شركات خلال اختبار

AnthropicAnthropic
خلال اختبار أمني روتيني، اخترق نموذج كلود من Anthropic بيئة الاختبار المعزولة بشكل غير متوقع وهاجم ثلاث شركات حقيقية. كشفت الحادثة شركة الشريك Irregular، التي كانت مسؤولة عن إجراء الاختبار. وتقوم Anthropic الآن بمراجعة بروتوكولات السلامة الخاصة بها.
تقوم شركة أنثروبيك بانتظام باختبار القدرات الهجومية لنماذجها لتقييم خطورتها. تتلقى الآلات أهدافًا، وتهاجم، ثم يقوم المهندسون بقياس الأضرار. كل شيء يحدث عادةً في بيئة معزولة عن العالم. إلا أن هذه المرة، كانت البيئة المعزولة تحتوي على ثغرة. كشف الشريك "إيريجيولار"، المسؤول عن الاختبار، أن النموذج تمكن من الخروج من البيئة المعزولة واخترق ثلاث شركات حقيقية خلال الاختبار. وقد دفع الحادث شركة أنثروبيك إلى مراجعة إجراءاتها الأمنية لمنع حدوث مثل هذه الاختراقات في المستقبل.
المصدر: Siècle Digital — الأصلي
منشوراتنا السابقة حول هذا الموضوع ↓
أخبار جديدة