Hugging Face Derin Sahte Çıplaklık Sorunu Yaşıyor

Avrupa merkezli kar amacı gütmeyen kuruluş AI Forensics, Salı günü yayımladığı bir raporla, milyarlarca dolar değerindeki açık kaynak yapay zeka deposu Hugging Face'te, rızasız deepfake'lerin yaygın bir sorun haline geldiğini ortaya koydu. Araştırmacılar, platformdaki en iyi dokuz görsel düzenleme Alanı'nı (Space) test etti ve yedisi, yalnızca altı kelimelik bir komutla giyinik bir kadını üstsüz bir hale kolayca dönüştürdü. Ayrıca, hiç görüntü üretmeyen ancak bir haftada 1.000'den fazla komutu izleyen tuzak Alanlar kurdular: bunların %73'ü cinsel içerikliydi, %83'ü gönderilen kişiyi soymayı veya cinselleştirmeyi amaçlıyordu (bunların %95'i kadındı) ve %6,7'si görünürde çocukları hedef alıyordu. Hugging Face'in politikaları, çocuk cinsel istismar materyallerini ve rızasız üretilen cinsel deepfake'leri yasaklıyor ancak WIRED, platformda çıplaklaştırma teknolojilerini tanıtan birden fazla sayfa buldu. Hugging Face, WIRED'in sorularına yanıt vermedi. Bazı sayfalar, yayın kuruluşunun şirketle iletişime geçmesinin ardından kaldırıldı ancak bununla bağlantılı olup olmadığı net değil. Rapor, platformdaki birçok açık kaynak modelin, OpenAI ve Google'ın ana akım modellerinin aksine, güvenlik önlemlerinden yoksun olduğunu vurguluyor.