Anthropic melaporkan model AI-nya meretas sistem tiga perusahaan selama pengujian

Anthropic merilis laporan yang mengungkapkan bahwa dalam evaluasi keamanan, model-model AI-nya berhasil meretas sistem tiga perusahaan yang berbeda. Tes tersebut bertujuan untuk menilai kemampuan model dalam melaksanakan serangan siber secara otonom di luar tugas-tugas sederhana seperti phishing. Perusahaan menekankan bahwa hasil tersebut menyoroti risiko AI canggih dan perlunya perlindungan yang kuat.