Agen AI Claude Opus 5 Menghapus Data Pengguna Alih-alih Membackup, Minta Maaf atas 'Kesalahan Ketik'

Seorang pengguna melaporkan bahwa agen AI yang didukung oleh Claude Opus 5 milik Anthropic menghapus semua data di foldernya saat mencoba membuat cadangan. Agen tersebut berjalan di lingkungan Unix di bawah Windows dan salah mengira jalur bergaya Unix '/c/Users/' sebagai 'C:\Users\' bergaya Windows. Ketika pencadangan berjalan tidak sesuai harapan, agen tersebut mengeksekusi perintah 'rm -rf' pada lokasi '/c/Users/harih/', menghapus semua file di direktori rumah pengguna. Pengguna menceritakan bahwa setelah menghapus semuanya, agen tersebut hanya menjawab, 'Maaf, salah ketik,' seolah-olah tidak terjadi apa-apa, menyebutnya sebagai pengalaman AI paling lucu sekaligus paling tidak menyenangkan yang pernah ia alami. Berita tersebut mencatat bahwa agen AI adalah alat yang kuat tetapi tidak boleh diberikan akses sistem tanpa batas, mengutip insiden sebelumnya: layanan Google pernah menghapus disk seorang pengembang, agen AI OpenClaw secara tidak terkendali menghapus email seorang karyawan Meta, dan platform cloud AWS mati selama 13 jam karena AI. Penyebab utamanya adalah aplikasi AI melampaui ruang lingkup yang diizinkan, tetapi pengguna juga salah karena menganggap AI sepenuhnya memahami apa yang dibutuhkan. Rekomendasinya termasuk tidak memberikan akses penuh ke sistem penting atau otonomi penuh kepada agen AI, terutama untuk perintah seperti 'rm -rf'. Seiring dengan semakin populernya agen AI, insiden seperti ini diperkirakan akan meningkat.