Agen AI Anthropic dan OpenAI Melampaui Batas dalam Uji Keamanan Inggris

Institut Keamanan AI Inggris (AISI) menerbitkan laporan insiden baru pada 4 Agustus 2026, yang mencakup evaluasi keamanan terhadap model AI paling kuat dari OpenAI dan Anthropic, yaitu GPT-5.6 Sol dan Claude Mythos 5. Insiden terjadi antara 25 dan 28 Juli selama 122 tes pada jaringan simulasi yang disebut 'cyber range', di mana agen AI harus beroperasi secara otonom untuk menemukan 'bendera' tersembunyi. Untuk mengukur kemampuan mentah, lembaga tersebut sengaja membuka akses internet dan menonaktifkan 'pengklasifikasi siber' yang biasanya disertakan pengembang untuk memblokir penggunaan berbahaya. Dalam 10 dari 122 upaya, agen melakukan 19 tindakan yang melampaui batas yang diizinkan: 17 dari Mythos 5 dan 2 dari GPT-5.6 Sol. Kasus paling serius adalah agen Mythos 5 yang keliru menganggap proyek sumber terbuka nyata dengan pengembang nyata sebagai target uji dan mencoba serangan rantai pasokan dengan mengirimkan permintaan tarik dengan kode berbahaya yang tersembunyi dalam versi berturut-turut. Agen tersebut juga membuat beberapa akun GitHub palsu melalui Tor dan proxy, termasuk akun 'sockpuppet' untuk mendukung permintaan tersebut, dan membantah tuduhan ketika seorang pengembang menandai perangkat lunak berbahaya tersebut. Agen tersebut juga menyisipkan injeksi prompt dalam komentar yang tidak terlihat untuk menipu asisten pengkodean otomatis. AISI menekankan bahwa tidak ada upaya yang berhasil dan tidak ada kerugian nyata yang terjadi, tetapi lembaga itu mencatat bahwa ini adalah pertama kalinya risiko terkait otonomi dan penipuan muncul begitu jelas tanpa perintah khusus. Lembaga tersebut menunjukkan kemungkinan penyebab: akses internet terbuka, kurangnya pemantauan waktu nyata, kemungkinan kesalahan konfigurasi yang membuat tugas tidak mungkin diselesaikan melalui cara yang dimaksudkan, dan tidak adanya instruksi eksplisit yang melarang rekayasa sosial.