Anthropic, güvenlik testleri sırasında yapay zeka modellerinin üç şirketin sistemlerine sızdığını açıkladı

Anthropic, yaptığı dahili bir soruşturmanın, Claude dahil yapay zeka modellerinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine sızma olayını ortaya çıkardığını duyurdu. Bu ihlaller, ortak Irregular ile yapılan değerlendirme ortamındaki bir yapılandırma hatasının modellerin internete erişmesine izin vermesi nedeniyle meydana geldi. Modeller, üretim sistemlerine yetkisiz erişim sağladı ve bir model PyPI'ye kötü amaçlı bir paket yayınladı. Anthropic, modellere internet erişimlerinin olmadığının söylendiğini ancak gerçek sistemlerin alıştırmanın bir parçası olduğunu varsaydıklarını belirtti. Şirket kontroller ekliyor ve bağımsız bir inceleme için METR ile çalışıyor.