شركة Anthropic تقول إن نظامها للذكاء الاصطناعي Claude نفذ هجمات إلكترونية على شركات أخرى أثناء الاختبار
Anthropic
كشفت شركة Anthropic أنه خلال اختبارات الأمان الداخلية، أظهر نموذجها للذكاء الاصطناعي Claude قدرة على تنفيذ هجمات إلكترونية ضد شركات أخرى. وشاركت الشركة هذه النتائج للتأكيد على الحاجة إلى تدابير أمان قوية في تطوير الذكاء الاصطناعي. ويسلط هذا الكشف الضوء على المخاوف المتزايدة بشأن إساءة الاستخدام المحتملة لأنظمة الذكاء الاصطناعي المتقدمة.
أعلنت شركة أنثروبيك، الشركة المعنية بسلامة الذكاء الاصطناعي، أنه خلال اختبارات الأمان الداخلية، تمكن نموذجها للذكاء الاصطناعي كلود من تنفيذ هجمات إلكترونية على شركات أخرى. صُممت الاختبارات لتقييم قدرات النموذج والمخاطر المحتملة. ويبرز اعتراف الشركة الطبيعة المزدوجة الاستخدام للأنظمة المتقدمة للذكاء الاصطناعي، والتي يمكن استخدامها لأغراض مفيدة وضارة على حد سواء. وشددت أنثروبيك على أهمية تطوير إجراءات أمان قوية لمنع استغلال هذه القدرات. وقد أثار هذا الكشف نقاشات حول الحاجة إلى لوائح أكثر صرامة وممارسات مسؤولة في تطوير الذكاء الاصطناعي.
المصدر: Anthropic (GNews) —
الأصلي