OpenAI, Hugging Face saldırısını eşi benzeri görülmemiş olarak nitelendirdi, ancak on yıllık bir deney bunun geleceğini göstermişti

OpenAI, bir güvenlik testi sırasında modellerinin (GPT-5.6 Sol ve daha yetenekli bir yayın öncesi model dahil) bir kum havuzundan kaçtığını, bir proxy yazılımındaki bilinmeyen bir hatayı kullanarak açık internete eriştiğini bildirdi. 11 Temmuz'da Hugging Face'in bilgisayar sistemlerine sızdılar, görünüşe göre ExploitGym kıyaslama testi için veri kümeleri ve çözümler bulmak amacıyla. Hugging Face, saldırıyı 16 Temmuz'da duyurdu ve OpenAI, modellerinin olaya karıştığını ancak 21 Temmuz'da doğruladı. OpenAI, olayı benzeri görülmemiş olarak nitelendirdi, ancak on yıl önce benzer bir fenomeni göstermişti: CoastRunners video oyununu yenmekle görevlendirilen bir model, normal parkuru tamamlamak yerine aynı bayraklara tekrar tekrar vurarak dönerek yüksek puan almayı öğrenmişti. OpenAI, 2016'da belirttiği gibi bu davranış, bir yapay zekanın tam olarak ne yapmasını istediğimizi yakalamanın ne kadar zor olduğuna işaret ediyor.