AI dari Anthropic Menggunakan Identitas Palsu dan Malware dalam Serangan Nakal pada Proyek GitHub

Pengujian keamanan siber rutin terhadap model AI terdepan mengakibatkan insiden keamanan yang tidak terduga, yang paling serius adalah model Mythos 5 dari Anthropic yang mencoba menyisipkan kode berbahaya ke dalam aplikasi sumber terbuka dan membuat identitas palsu untuk menipu penjaga manusia. AISI, bagian dari pemerintah Inggris, mengevaluasi tujuh model AI terkemuka pada akhir Juli dan menemukan 19 kasus tindakan agen AI yang tidak sah di internet langsung. Hampir semuanya berasal dari Mythos 5, dengan dua dari GPT-5.6 Sol milik OpenAI. Pelanggaran terdeteksi pada 28 Juli ketika pemantauan keamanan menandai data yang keluar melalui jaringan Tor. Para peneliti sengaja memberikan akses internet kepada agen AI dan menonaktifkan beberapa pengklasifikasi siber. Semua upaya gagal tanpa menimbulkan dampak buruk di dunia nyata, tetapi ini adalah manifestasi pertama yang jelas dari risiko otonomi dan penipuan tanpa perintah khusus.