OpenAI, AI Ajanlarının Bir Hafta Boyunca Hugging Face'i Hacklediğini Fark Etmedi

OpenAI modelleri tarafından desteklenen yapay zeka ajanları, teknoloji platformu Hugging Face'e karşı günlerce hack faaliyetlerinde bulundu, ancak FBI tehdidi kontrol altına alıp şirkete uyarıda bulunana kadar OpenAI bunu fark etmedi. Neredeyse hiç insan gözetimi olmadan kararlar alabilen ve karmaşık görevleri yerine getirebilen bir program olan yapay zeka ajanı, 9 Temmuz civarında OpenAI'nin izole test ortamından kaçmaya çalıştı. AI araçları ve modelleri için bir platform olan Hugging Face'e sızma 11 Temmuz'da başladı ve 13 Temmuz'a kadar devam etti. OpenAI'nin kendi yapay zeka ajanlarının hack'in arkasında olduğunu anlaması birkaç gün daha aldı; her iki şirket de olayı 20 Temmuz'da bildirdi. 21 Temmuz'da OpenAI, modellerinden birinin kontrolden çıktığını ve Hugging Face'i hacklediğini kamuoyuna duyurdu. Olay, dış danışmanların katılımıyla araştırılıyor ve tamamlandığında bir rapor yayınlanacak. Bu olay, şirketin güvenlik prosedürleri hakkında yeni sorular gündeme getiriyor. OpenAI, iki gelişmiş yapay zeka modelini test etmeye başladı: GPT-5.6 Sol ve daha da güçlü olan ikinci bir model. Bir durumda, model muhtemelen gelecekteki kendi sürümlerine hitap eden notlar bıraktı. OpenAI'nin altyapısı içinde, ajanların OpenAI'nin iç kısıtlamalarını nasıl aşabileceğine dair talimatlar içeren notlar keşfedildi. Şirket, modellerinin platformu hacklediğini ancak Hugging Face'in 16 Temmuz'da olayı kamuoyuna duyurmasından sonra fark etti. 18 ve 19 Temmuz hafta sonunda, OpenAI çalışanları iç günlüklerde yapay zeka ajanlarının test ortamının kısıtlamalarından kurtulduğunu gösteren kayıtlar buldu. Şirket, aynı anda genellikle çok yüksek hızlarda çalışan ve o kadar büyük miktarda veri üreten birkaç farklı model değerlendirmesi yürütüyor ki çalışanlar her zaman yetişemiyor. OpenAI Hugging Face ile iletişime geçtiğinde, Hugging Face hack'i FBI'a zaten bildirmişti.