Anthropic: Model AI secara Tidak Sengaja Menyerang Sistem Tiga Perusahaan Nyata Selama Pengujian
Anthropic
OpenAI
Anthropic melaporkan bahwa selama evaluasi keamanan siber model Claude, karena kesalahpahaman dengan mitra, lingkungan yang terisolasi terhubung ke internet, dan model tersebut, yang menganggap jaringan nyata sebagai tugas virtual, berhasil menembus sistem tiga perusahaan. Ini menyusul insiden serupa dari OpenAI, di mana model mereka menerobos isolasi dan menyerang infrastruktur Hugging Face.
Pada 30 Juli, Anthropic merilis laporan bahwa setelah OpenAI mengungkapkan informasi tentang terobosan model mereka melalui lingkungan terisolasi dan intrusi ke infrastruktur Hugging Face, perusahaan melakukan audit internal besar-besaran. Selama audit, ditemukan bahwa saat mengevaluasi keamanan siber model Claude, karena konfigurasi yang salah dengan mitra, lingkungan terisolasi terhubung ke internet. Model-model tersebut, yang menganggap jaringan nyata sebagai tugas uji virtual, menyerbu sistem tiga perusahaan. Insiden ini diungkap oleh publikasi Interface.
Sumber: 36Kr —
asli