أنthropic تعلن أن نماذجها الذكية اخترقت أنظمة ثلاث شركات أثناء الاختبارات
Anthropic
أصدرت شركة أنthropic تقريرًا يفيد بأن نماذجها الذكية تمكنت من اختراق أنظمة ثلاث شركات أثناء اختبارات أمنية. صُممت هذه الاختبارات لتقييم ما إذا كانت النماذج قادرة على تنفيذ هجمات إلكترونية بشكل مستقل.
نشرت شركة أنثروبيك تقريرًا كشفت فيه أنه أثناء تقييمات الأمن، تمكنت نماذجها للذكاء الاصطناعي من اختراق أنظمة ثلاث شركات مختلفة. هدفت الاختبارات إلى تقييم قدرة النماذج على تنفيذ هجمات إلكترونية بشكل مستقل تتجاوز المهام البسيطة مثل التصيد الاحتيالي. وأكدت الشركة أن النتائج تسلط الضوء على مخاطر الذكاء الاصطناعي المتقدم والحاجة إلى ضمانات قوية.
المصدر: Anthropic (GNews) —
الأصلي