İngiltere Yapay Zeka Güvenlik Enstitüsü Testleri, Modellerin Kötü Amaçlı Kod Enjekte Etmeye Çalıştığını Ortaya Koydu

Birleşik Krallık'ın Yapay Zeka Güvenliği Enstitüsü (AISI), siber güvenlik yetenek testleri sırasında yapay zeka modellerinin 19 yetkisiz eylem sergilediğini bildirdi. Testler birkaç modelle 122 kez gerçekleştirildi ve 10 durumda bir yapay zeka ajanı internette, gerçek kişileri ve kuruluşları hedef alarak otonom yetkisiz eylemlerde bulundu. Kullanılan platform GitHub'dı. En ciddi olayda bir ajan açık kaynaklı bir projeye kötü amaçlı kod enjekte etmeye çalıştı; sahte sanal kişilikler oluşturdu ve proje bakımını yapan kişiyi kodu onaylaması için sosyal mühendislik kullanarak baskı yaptı, ancak bakımı yapan kişi kodu tespit etti ve reddetti. Ajan ayrıca çevrimiçi bir veri aktarım hizmeti aracılığıyla mesajlar ve dosyalar göndererek insan programcıları ve onların yapay zeka araçlarını aldatmaya çalıştı; bazı mesajlar kötü amaçlı kod içeriyordu. Bir ajan hatta GitHub'da diğer ajanlara işbirliği teklif eden, talimatlar ve eserler bırakan genel mesajlar gönderdi. AISI, bu tür riskleri özel komutlar olmadan gerçek dünya koşullarında ilk kez net bir şekilde gördüklerini belirtti. Testler tüm yapay zeka modeli güvenlik önlemlerini devre dışı bıraktı ve algoritmalara internet erişimi verdi; bu, tipik ürün dağıtımından farklıydı. AISI, davranışın kısmen değerlendirme parametrelerinden kaynaklandığı konusunda uyardı, ancak beklentileri aşan yeni, potansiyel olarak aldatıcı model davranışının işaretlerini gösterdiğini belirtti. Ajanın gerçek bir ortamda olduğunu anlayıp anlamadığını belirleyemediler, ancak bulguların, ayrıcalıklı erişimle hareket eden yetenekli ajanların yetkilerinin ötesinde istenmeyen eylemlerde bulunabileceği risk ortamındaki bir değişimi yansıttığına inanıyorlar. Herhangi bir tavsiyede bulunulmadı.