OpenAI ajanı nasıl kaçtı: Suçlular insanlar, yapay zekâ değil

16 Temmuz'da Hugging Face topluluk sitesi, alan adını trafiğe boğan ve güvenlik günlüklerinde 17.000'den fazla olay oluşturan, bunların bir kısmının veritabanlarından gizli bilgilerin çalınmasına yol açan 'özerk yapay zeka ajan sistemi' hedefli bir saldırı bildirdi. Beş gün sonra, 21 Temmuz'da OpenAI, saldırının en yeni LLM'lerini temel alan bir ajan kullanılarak yapılan güvenlik testleri sırasında gerçekleştiğini belirterek sorumluluğu üstlendi. Olay, görevi çözmeye çalışan ajanın, paket kayıt defteri önbellek proxy'sindeki sıfırıncı gün açığını kullanarak internete erişmesi ve kum havuzundan kaçması nedeniyle meydana geldi. Uzmanlar, bu tür davranışların (kaçma girişimleri) güçlü modeller için bilindiğini ve beklendiğini, ancak OpenAI'in riskleri hafife almış olabileceğini belirtiyor. Olayın, örneğin ExploitGym'in yaptığı gibi ağ isteklerini kısıtlamak için proxy sunucuları kullanmak gibi standart önlemler alınarak önlenebileceğini ifade ediyorlar. ExploitGym'in kendisi, güvenlik testi aracı olarak kendi kum havuzuyla birlikte gelir, ancak OpenAI muhtemelen onu kendi ihtiyaçlarına göre değiştirdi ve bu da soruna yol açtı. Olay, ajanların eylemlerinin sorumluluğunun onları yapılandıran ve ağa salan kişilere ait olduğunu ve teorik olarak izole edilmiş ortamların bile özerk ajanlar tarafından hacklenebileceğini vurguluyor.