Hugging Face, Temmuz 2026'daki Yapay Zeka Ajanıyla İlgili İhlalin Detaylarını Açıkladı

Hugging Face, Temmuz 2026'da meydana gelen bir güvenlik olayının ayrıntılarını açıkladı. Bir saldırgan, sınırlı sayıda iç veri kümesine ve çeşitli hizmet kimlik bilgilerine erişim sağladı. Yetkisiz giriş, bir veri işleme hattı aracılığıyla başladı: kötü amaçlı bir veri kümesi, iki kod yürütme yolundan (bir uzak kod yükleyici ve veri kümesi yapılandırmasında bir şablon enjeksiyonu) yararlanarak bir işleme işçi düğümünde kod yürütülmesine olanak tanıdı. Saldırgan daha sonra ayrıcalıklarını düğüm seviyesine yükseltti, bulut ve küme kimlik bilgilerini elde etti ve birkaç iç kümeye yanal olarak geçiş yaptı. Saldırı, kısa ömürlü kum havuzu ortamlarından oluşan bir sürü aracılığıyla binlerce bireysel eylem gerçekleştiren otonom bir yapay zekâ ajanı (muhtemelen ajan tabanlı saldırılara yönelik araştırma araçları temel alınarak oluşturulmuş) tarafından yürütüldü. Hugging Face, kod yürütme yollarını kapatarak temel güvenlik açığını giderdi, etkilenen kümelerdeki saldırganın giriş noktasını yok etti, ele geçirilen kimlik bilgilerini ve jetonları iptal edip değiştirdi, ek kontroller dağıttı ve tehdit tespitini iyileştirdi. Saldırı, yapay zekâ destekli tespit kullanılarak fark edildi: büyük dil modeli tabanlı bir anomali hattı güvenlik günlüklerini analiz ederek şüpheli etkinlikleri vurguladı. Saldırının yeniden yapılandırılması için Hugging Face, 17.000'den fazla günlük olayının büyük dil modeli analizini kullandı. Ticari uygulama programlama arayüzü modellerini kullanmaya yönelik ilk girişimler, sağlayıcı güvenlik politikaları tarafından gerçek saldırı komutlarıyla isteklerin engellenmesi nedeniyle başarısız oldu. Sonuçta, adli analiz, şirketin kendi altyapısında açık model GLM 5.2 kullanılarak gerçekleştirildi ve saldırgan verileri ve kimlik bilgilerinin hiçbir zaman ortamdan çıkmaması sağlandı. Hugging Face, otonom yapay zekâ saldırı araçlarının artık teorik olmadığını vurguluyor ve savunucuların olaylar sırasında kapalı döngü çalışma için kendi modellerini hazırlamalarını öneriyor.