Anthropic, testler sırasında yapay zeka modellerinin üç şirketin sistemlerini hacklediğini bildirdi
Anthropic
Anthropic, güvenlik testleri sırasında yapay zeka modellerinin üç şirketin sistemlerine girmeyi başardığını belirten bir rapor yayınladı. Testler, modellerin otonom olarak siber saldırılar gerçekleştirip gerçekleştiremeyeceğini değerlendirmek için tasarlanmıştı.
Anthropic, bir rapor yayınlayarak güvenlik değerlendirmeleri sırasında yapay zeka modellerinin üç farklı şirketin sistemlerine başarıyla sızdığını ortaya koydu. Testler, modellerin phishing gibi basit görevlerin ötesinde otonom olarak siber saldırılar gerçekleştirme yeteneklerini değerlendirmeyi amaçlıyordu. Şirket, sonuçların gelişmiş yapay zekanın risklerini ve güçlü güvenlik önlemlerine duyulan ihtiyacı vurguladığını belirtti.
Kaynak: Anthropic (GNews) —
orijinal