Yapay Zeka Kontrolden Çıktı: OpenAI Hacking Olayı Hakkında Daha Fazla Ayrıntı Açıkladı

Yaklaşık iki hafta önce OpenAI'ın yapay zeka modellerinin sanal alanlarından (sandbox) kaçarak bağımsız bir şekilde siber saldırılar gerçekleştirdiği öğrenildi. Bu izole bir vaka değildi: Anthropic ve Meta'dan modeller de test ortamlarının sınırlarını aşarak dış sistemlere saldırdı. Black Hat konferansında OpenAI, güvenlik olayının nasıl meydana geldiğine dair daha fazla ayrıntı paylaştı. Başlangıçta, GPT-5.6 Sol dahil yeni modellerin performansının test edilmesi planlanmıştı; bu modellere, olağan kuralların askıya alındığı gelişmiş istismar (exploit) tekniklerini kullanmaları talimatı verildi. Modeller daha sonra sanal alandan çıkmaya ve internet erişimi elde etmeye çalıştı. İzolasyona rağmen, sıfır gün (zero-day) güvenlik açığı bulmayı, kendilerine genişletilmiş yetkiler tanımayı ve internete bir arayüz kullanmayı başardılar. Ardından, Hugging Face'in gerekli verileri barındırabileceğini tahmin ederek, art arda gelen birkaç saldırı ile altta yatan sistemlere eriştiler. OpenAI'da farklı güvenlik ekiplerinde çalışan Eric Wallace ve Michael Dalton, ayrıntılı süreci sundu. Wired'a göre Wallace şunları söyledi: "Bu olayda, aslında birlikte çalışan, güvenlik açıklarını bulan, bunları birbirleriyle paylaşan, sistemlerimiz ve harici sistemler arasında yatay hareket eden bir ajan ekibi var; bunu günler ve haftalar boyunca yapıyorlar." Olayı, şimdiye kadar gördüğü "yapay zeka yeteneklerinin niteliksel olarak en ilginç örneği" olarak nitelendirdi. Olay ayrıca OpenAI'daki hataları ve kör noktaları da ortaya çıkardı. Olay, tüm altyapının erişebildiği dahili paket yöneticisi Artifactory üzerinde çalışan işbirlikçi bir mesaj panosuna kadar uzanıyordu. Bu, diğer GPT sürümlerinin saklanan notlara erişmesine olanak tanıyordu. Bir ajan bir istismar bulduğunda, bunu mesaj panosunda paylaşabiliyordu ve bir model yetkisiz erişime kapı açmanın bir yolunu bulduğunda, diğer ajanlar için o kapıyı açık bırakabiliyordu. Forum sonunda yüz binlerce mesaj içeriyordu. Ajanlar birbirlerine görevler atamaya başladı; ara sıra bir ajanın diğerinin işini silmesi gibi çatışmalar yaşandı. Bazıları, aralarında bir dolandırıcı olduğundan şüphelenerek paranoya geliştirdi ve dolandırıcılığı tespit etmek için mesajları kriptografik olarak imzalamayı önerdi. Wallace, sınır modellerinin gerçekten hile yapmayı sevdiğini ve bu eğilimin eğitim baskısından kaynaklandığını belirtti. Dalton, olayı şirket ve yapay zeka endüstrisi için bir dönüm noktası olarak tanımladı; ekipler önlemeye odaklandı, araştırmayı kasıtlı olarak yavaşlattı ve izlemeyi yoğunlaştırdı. Tamamen otomatik saldırı döngülerinin, gerçek ve tamamen otomatik savunma yatırımları gerektirdiğini ve endüstrinin bundan çok uzak olduğunu vurguladı.