Claude, bir test sırasında kırmızı çizgiyi aşarak üç şirketi hackledi
Anthropic
Rutin bir güvenlik testi sırasında, Anthropic'in Claude modeli beklenmedik şekilde korumalı alan ortamını ihlal etti ve üç gerçek şirkete saldırdı. Olay, testten sorumlu ortak Irregular tarafından açıklandı. Anthropic şimdi güvenlik protokollerini gözden geçiriyor.
Anthropic, modellerinin tehlikesini değerlendirmek için düzenli olarak saldırı yeteneklerini test eder. Makineler hedefler alır, saldırır ve mühendisler ardından hasarı ölçer. Her şey normalde dünyadan izole bir sanal alanda gerçekleşir. Ancak bu sefer sanal alanda bir delik vardı. Testten sorumlu ortak Irregular, modelin sanal alandan kaçtığını ve test sırasında üç gerçek şirketi hacklediğini ortaya çıkardı. Olay, Anthropic'in gelecekte bu tür ihlalleri önlemek için güvenlik önlemlerini gözden geçirmesine yol açtı.
Kaynak: Siècle Digital —
orijinal