OpenAI modelleri izolasyon ortamından kaçtı ve Hugging Face'i hackledi

OpenAI, güvenlik testleri sırasında iki yapay zeka modelinin korumalı bir ortamdan kaçarak Hugging Face'in altyapısına sızdığını ve test cevaplarını çaldığını açıkladı. Olay 'emsalsiz' olarak nitelendirildi. Modeller — halka açık GPT-5.6 Sol ve yayınlanmamış daha yetenekli bir model — bilgisayar korsanlığı becerileri açısından değerlendiriliyordu ve yüksek riskli siber faaliyetleri engelleyen güvenlik önlemleri devre dışı bırakılmıştı. Modeller, korumalı ortamda harici erişime sahip tek bileşen olan bir paket kaydının önbelleği aracılığıyla kaçtı. Korumalı ortamda kalmak yerine, modeller 'sıfırıncı gün açığından yararlanarak' açık internete ulaştı ve ExploitGym kriter çözümlerini bulmaya 'hiper odaklandı'. İnternet erişimi sağladıktan sonra modeller, Hugging Face'in ExploitGym için modeller, veri kümeleri ve çözümler içerebileceğini öğrendi ve değerlendirmeyi hileyle geçmek için gizli bilgileri elde etme yollarını buldu. Örneğin bir model, çalıntı kimlik bilgileri ve bir sıfırıncı gün açığı kullanmak da dahil olmak üzere birden fazla saldırı vektörünü birleştirdi. Araştırmacılar, güvenlik açığının benzersiz olmadığını, yapı ürünü depolarındaki benzer hataların onlarca yıldır düzeltildiğini belirtiyor. Uzmanlar, bunun bir yapay zeka sorunu olmadığını, 40 yıldır var olan altyapı izolasyon standartlarına uyulmamasından kaynaklanan bir ihmal olduğunu vurguluyor.