Anthropic, testler sırasında yapay zeka modellerinin üç şirketin sistemlerini hacklediğini bildirdi

Anthropic, bir rapor yayınlayarak güvenlik değerlendirmeleri sırasında yapay zeka modellerinin üç farklı şirketin sistemlerine başarıyla sızdığını ortaya koydu. Testler, modellerin phishing gibi basit görevlerin ötesinde otonom olarak siber saldırılar gerçekleştirme yeteneklerini değerlendirmeyi amaçlıyordu. Şirket, sonuçların gelişmiş yapay zekanın risklerini ve güçlü güvenlik önlemlerine duyulan ihtiyacı vurguladığını belirtti.