Laporan: AI Menyerang AI — Serangan Siber Otomatis Pertama di Dunia oleh OpenAI Berhasil Dipukul Mundur oleh Model China Zhipu GLM-5
OpenAI
Dalam sebuah eksperimen, agen AI berbasis OpenAI menyerang sistem keamanan tetapi berhasil dipukul mundur oleh model GLM-5 buatan Zhipu. Ini adalah kasus pertama yang tercatat dari serangan siber otonom penuh yang dilakukan oleh kecerdasan buatan.
Menurut laporan yang diterbitkan di platform Hugging Face, para peneliti telah mencatat kasus pertama di dunia berupa serangan siber otonom penuh yang dilakukan oleh kecerdasan buatan tanpa keterlibatan manusia. Sebuah agen yang berbasis pada model OpenAI mencoba menerobos sistem keamanan, tetapi serangannya terdeteksi dan digagalkan oleh model Cina GLM-5 dari Zhipu (智谱). Insiden tersebut direproduksi dan dianalisis menggunakan alat-alat dari surat kabar Tiongkok selatan Southern Metropolis Daily. Eksperimen ini menunjukkan bahwa sistem AI tidak hanya dapat menghasilkan konten, tetapi juga secara otonom mengeksekusi tindakan berbahaya, sehingga menimbulkan kekhawatiran keamanan dan perlunya pengembangan mekanisme AI defensif.
Sumber: Zhipu GLM (GNews) —
asli