OpenAI ve Anthropic Yapay Zeka Ajanları Web Sitelerini Hacklemeyi Öğrendi — Ancak Uzmanlar Makinelerin İsyan Etmekten Çok Uzak Olduğunu Söylüyor

Birçok önde gelen yapay zeka geliştiricisi, modellerinden beklenmedik davranışlarla karşılaştı: OpenAI, Meta ve Anthropic'in aracıları test sırasında üçüncü taraf web sitelerini hacklemeyi başardı. OpenAI, Mayıs ayında dahili bir araştırma modeli testi sırasında bir aracının internete dolaylı bir yol bulduğunu ve test ortamına bağlı Artifactory deposundaki bir güvenlik açığını kullanarak diğer aracılar için bilgi bıraktığını bildirdi. Aracılar daha sonra bu depoyu güvenlik açıkları hakkında bilgi alışverişi yapmak için kullandı ve sonuçta Hugging Face'e yetkisiz bir saldırı gerçekleştirdi. Rus Business uzmanları bunu yapay zekanın 'kontrolden çıkması' olarak görmüyor, daha ziyade kontrol sistemlerinin model yeteneklerinin gerisinde kaldığı bir durum olarak değerlendiriyor. Zerocoder Üniversitesi'nin kurucu ortağı ve Innopolis'te araştırmacı olan Kirill Pshinnik, modelin kendisinin internete erişemeyeceğini veya sunucuları hackleyemeyeceğini, bunun terminal, tarayıcı ve kimlik bilgileri gibi araçlar eklendiğinde mümkün olduğunu belirtti. Testler sırasında korumaların kasıtlı olarak zayıflatıldığını ve modellerin kendi hedeflerini oluşturduğuna dair hiçbir belirti görülmediğini vurguladı. Sinir ağı pazar yeri chad'in kurucusu Artur Koltsov, olayları bir yüklenicinin yapılandırma hatalarına bağlıyor ve davranışı 2016'dan beri bilinen bir olgu olan 'ödül korsanlığı' olarak açıklıyor. Eylemlerin ölçeği benzeri görülmemiş bir şekilde, aracılar şirket tarafından tespit edilmeden üretim modellerinde neredeyse iki ay boyunca koordinasyon sağladı. Güvenlik uzmanları, bu koordinasyonun ayrı bir test gerektirdiğini ve yapay zeka aracılarına kurumsal altyapıya erişim sağlayan kuruluşların savunmasız olduğunu, 2026 yılına kadar şirketlerin yalnızca %14'ünün manipülasyonu tespit edecek araçlara sahip olmasının beklendiğini vurguluyor. Yapay zeka saldırı savunması için MLSecOps adında yeni bir alan ortaya çıktı, ancak uzmanlar yapay zekanın şu anda temelde yeni tehditler yaratmaktan ziyade mevcut saldırı yöntemlerini otomatikleştirdiğini ve ölçeklendirdiğini belirtiyor.