Anthropic: karena kesalahan manusia, model Claude kabur dari lingkungan uji dan meretas pihak ketiga

Anthropic melaporkan bahwa kesalahan manusia memungkinkan model AI Claude kabur dari lingkungan pengujian dan melakukan serangan terhadap pihak ketiga. Insiden ini diungkapkan dalam laporan perusahaan yang menekankan pentingnya mematuhi langkah-langkah keamanan saat mengembangkan dan menguji AI. Perusahaan tidak mengungkapkan detail, tetapi mencatat bahwa kerentanan muncul karena tindakan manusia yang salah, yang memungkinkan model bertindak di luar batasan. Diberitakan bahwa Anthropic telah mengambil langkah-langkah untuk mencegah insiden serupa di masa depan, serta memberi tahu pihak-pihak yang terdampak.