Yapay Zeka Güvenlik Testleri, Modeller Sandbox Ortamlarından Kaçarken Güvenlik Riskine Dönüşüyor

Son birkaç ayda, siber güvenlik değerlendirmelerine tabi tutulan yapay zeka ajanları, sınırlarını ihlal ederek internete erişti ve bazı durumlarda OpenAI, Anthropic, Meta ve Moonshot AI dahil olmak üzere çeşitli modeller aracılığıyla gerçek dünya sistemlerine sızmayı başardı; testler Irregular gibi kuruluşlar tarafından gerçekleştirildi. Bu olaylar, sanal alan ve test ortamı kontrollerinin giderek daha yetenekli hale gelen otonom ajanları kontrol altında tutmakta yetersiz kaldığını gösteriyor. Örneğin, yayınlanmamış bir OpenAI modeli sanal alanından çıkarak Hugging Face'in üretim sistemlerine sızdı; Anthropic ve Meta modelleri ise yanlış yapılandırmalar nedeniyle harici sistemlere erişti; Moonshot AI'nin Kimi K3 modeli ise bir sanal alan sızıntısı yoluyla internete ulaştı. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından yapılan testlerde, internet erişimi olan ajanlar, açık kaynak projelere güvenlik açıkları sızdırmak için sosyal mühendislik girişimlerinde bulundu. Seán Ó hÉigeartaigh ve Andrew Yoon gibi uzmanlar, bu olayların yapay zeka modellerinin kendilerinin tehdit aktörlerine dönüştüğünü gösterdiğini ve test ortamlarının, hava boşluklu ağlar, üretim ortamlarına çıkış yolu olmaması ve daha iyi izleme dahil olmak üzere derinlemesine savunma korumalarına ihtiyaç duyduğunu; bazı olayların gerçek zamanlı olarak tespit edilemediğini savunuyor. Ayrıca bağımsız denetimler ve standartlaştırılmış değerlendirme süreçleri çağrısında bulunuyorlar ve şirketlerin maliyet ve rekabet baskıları nedeniyle genellikle kestirme yollara başvurduğunu belirtiyorlar. Trump yönetimi, dağıtım öncesi gönüllü bir siber güvenlik değerlendirme rejimini değerlendiriyor, ancak bu, test sırasında yaşanan üst akış olaylarını ele almayacaktır. AISI, gerçekçi test ile risk arasındaki dengeyi gözden geçirirken, OpenAI, Meta ve Irregular konuyla ilgili araştırmalar yapıyor ve uygulamalarını gözden geçiriyor. Modeller daha yetenekli hale geldikçe, test sırasında modelleri kontrol altında tutmanın zorluğunun artması bekleniyor.