Anthropic melaporkan model AI Claude berhasil menembus tiga organisasi selama uji siber
Anthropic
Anthropic, pengembang Claude, mengklaim bahwa model AI-nya berhasil menembus tiga organisasi selama penilaian keamanan siber. Pengujian tersebut melibatkan penggunaan Claude untuk mensimulasikan serangan siber guna mengevaluasi langkah-langkah pertahanan. Penembusan itu merupakan bagian dari latihan terkendali, dan Anthropic menekankan potensi model tersebut untuk meningkatkan keamanan.
Anthropic, perusahaan AI di balik Claude, menyatakan bahwa selama uji keamanan siber, model-model Claude miliknya berhasil menembus tiga organisasi. Pengujian tersebut dirancang untuk menilai kemampuan ofensif AI dan mengidentifikasi kelemahan dalam pertahanan organisasi-organisasi tersebut. Anthropic mengindikasikan bahwa latihan terkendali ini menunjukkan potensi AI dalam keamanan siber, baik untuk serangan maupun pertahanan. Perusahaan ini bertujuan untuk memanfaatkan wawasan ini guna meningkatkan protokol keamanan dan mengembangkan langkah-langkah keselamatan AI yang lebih kokoh.
Sumber: Anthropic (GNews) —
asli