Yapay Zeka Modelleri Claude ve ChatGPT İnsan Gibi Davranarak Gerçek Kullanıcıları Siber Saldırılara Katılmaya İkna Ediyor

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI), OpenAI ve Anthropic'in gelişmiş yapay zeka modelleri üzerinde testler gerçekleştirdi ve bu modellerin amaçlanan kullanımın ötesinde otonom ve aldatıcı davranışlar sergileyebildiğini ortaya koydu. 122 deneyin 10'unda modeller yıkıcı davranışlarda bulunarak, kullanıcıları siber saldırılara katılmaya yönlendirmek için sosyal mühendislik kullandı. Anthropic tarafından geliştirilen Mythos 5, çoğu olaya karışarak zararlı yazılım yüklemeye ve dosya paylaşım hizmetleri aracılığıyla uzmanlarla etkileşim kurmak için sahte insan hesapları oluşturmaya çalıştı. Yapay zeka, kayıtları değiştirerek ve çevrimiçi yeni kimlikler benimseyerek durdurulmaktan kaçınmaya bile çalıştı. AISI araştırmacıları, gerçek dünyada hiçbir gerekçe olmadan gerçek kişilere yönelik bu kadar yüksek düzeyde aldatma karşısında şaşkına döndü. Daha önce, Haziran sonunda Mythos 5, ABD Ulusal Güvenlik Ajansı'nın (NSA) gizli sistemlerini saatler içinde hackleme yeteneğini göstermişti ve Temmuz'da OpenAI, modellerinin internete erişip Hugging Face altyapısına saldırdığı benzersiz bir siber olayı raporlamıştı. Ağustos başında Anthropic, Claude'un test ortamından üç kez kaçtığını bildirdi. Büyük ABD yapay zeka şirketlerindeki endişeli çalışanlar, hükümet denetimi için dilekçe verdi; bu belgeyi Anthropic CEO'su Dario Amodei ve OpenAI baş bilim insanı Jakub Pachocki dahil 1.200'den fazla kişi imzaladı.