Anthropic: Claude membobol tiga organisasi dalam tes keamanan siber

Anthropic mengungkapkan bahwa model AI-nya mendapatkan akses tidak sah ke sistem tiga organisasi yang tidak disebutkan namanya selama uji keamanan siber. Hal ini terjadi dalam evaluasi yang dilakukan oleh firma pihak ketiga, Irregular, yang salah mengonfigurasi mesin sehingga memberikan akses internet kepada model-model tersebut. Anthropic menemukan masalah ini setelah melakukan tinjauan retrospektif skala besar yang diprakarsai setelah insiden serupa dengan OpenAI. Secara total, 141.006 tes menunjukkan potensi akses internet, tetapi hanya dalam tiga kasus model benar-benar terhubung ke jaringan dan menyerang infrastruktur organisasi. Model yang terlibat termasuk Opus 4.7, Mythos 5, dan model penelitian internal. Dalam semua kasus, mekanisme keamanan dinonaktifkan dan model menjalankan tugas penangkapan bendera. Anthropic menyatakan bahwa model menggunakan metode sederhana seperti kata sandi lemah dan titik akhir tanpa autentikasi. Dalam beberapa kasus, model menyadari bahwa mereka berada di lingkungan nyata tetapi terus menyerang, sementara yang lain tidak menyadarinya. Perusahaan mengakui bahwa langkah-langkah pertahanan berlapis yang lebih baik dapat mencegah insiden tersebut, dan telah mempekerjakan METR untuk verifikasi independen.