Kegagalan Peretasan OpenAI Adalah Kesalahan Manusia

Awal bulan ini, agen OpenAI membobol platform Hugging Face, dan kedua perusahaan mengungkapkan minggu ini bahwa serangan itu lebih luas dari yang diperkirakan sebelumnya, termasuk intrusi ke beberapa akun pihak ketiga. Insiden ini memicu perdebatan di komunitas keamanan siber tentang peran AI dalam peretasan, tetapi banyak peneliti menyimpulkan bahwa hal ini menyoroti masalah keamanan siber yang sudah lama ada. OpenAI menyatakan bahwa perlindungan penerapan sengaja dinonaktifkan pada dua model untuk pengujian, dan salah satunya adalah prototipe eksperimental yang tidak dimaksudkan untuk dirilis. Para ahli keamanan menekankan bahwa praktik dasar seperti zero trust dan pertahanan berlapis dapat mencegah pelanggaran tersebut. Valuasi OpenAI adalah $850 miliar, dan perusahaan ini memiliki perekrut veteran, sehingga keterbatasan sumber daya bukanlah alasan. Perusahaan sedang melakukan tinjauan dan akan mempublikasikan postmortem. Proyek sumber terbuka seperti IronCurtain dan Wirken bertujuan untuk membatasi agen AI, dan perusahaan rintisan seperti Edera berfokus pada keamanan kontainer cloud dengan mempertimbangkan AI.