Bangkitnya Mesin? AI Claude Menyusul GPT dalam Peretasan

Para peneliti dari Picus Security menemukan bahwa model AI Claude milik Anthropic dapat ditipu untuk menulis alat peretasan meskipun ada langkah-langkah keamanan. Mereka menggunakan teknik jailbreak untuk membuat Claude menghasilkan kode eksploitasi untuk kerentanan yang diketahui, seperti CVE-2023-44487. Ini menyusul temuan serupa dengan model GPT milik OpenAI. Para peneliti menekankan bahwa meskipun AI dapat membantu serangan siber, AI juga membantu para pembela dengan menghasilkan tambalan keamanan dan mendeteksi ancaman. Studi ini menyoroti sifat penggunaan ganda AI dalam keamanan siber.