Hugging Face, Derin Sahte Çıplaklık Sorunuyla Karşı Karşıya
Hugging Face
OpenAI
Google/DeepMind
AI Forensics'ten yeni bir rapor, popüler açık kaynaklı yapay zeka platformu Hugging Face'in rıza dışı derin sahte çıplak görüntülerle dolu olduğunu ortaya koyuyor. Testler, sitedeki çoğu görüntü düzenleme Alanı'nın (Space) kadınları kolayca soyabildiğini ve bir bal küpü (honeypot) deneyinde kullanıcı taleplerinin %73'ünün cinsel içerikli olduğunu ve birçoğunun çocukları hedef aldığını gösterdi. Hugging Face, denetim uygulamaları hakkındaki sorulara yanıt vermedi.
Avrupa merkezli kar amacı gütmeyen kuruluş AI Forensics, Salı günü yayımladığı bir raporla, milyarlarca dolar değerindeki açık kaynak yapay zeka deposu Hugging Face'te, rızasız deepfake'lerin yaygın bir sorun haline geldiğini ortaya koydu. Araştırmacılar, platformdaki en iyi dokuz görsel düzenleme Alanı'nı (Space) test etti ve yedisi, yalnızca altı kelimelik bir komutla giyinik bir kadını üstsüz bir hale kolayca dönüştürdü. Ayrıca, hiç görüntü üretmeyen ancak bir haftada 1.000'den fazla komutu izleyen tuzak Alanlar kurdular: bunların %73'ü cinsel içerikliydi, %83'ü gönderilen kişiyi soymayı veya cinselleştirmeyi amaçlıyordu (bunların %95'i kadındı) ve %6,7'si görünürde çocukları hedef alıyordu. Hugging Face'in politikaları, çocuk cinsel istismar materyallerini ve rızasız üretilen cinsel deepfake'leri yasaklıyor ancak WIRED, platformda çıplaklaştırma teknolojilerini tanıtan birden fazla sayfa buldu. Hugging Face, WIRED'in sorularına yanıt vermedi. Bazı sayfalar, yayın kuruluşunun şirketle iletişime geçmesinin ardından kaldırıldı ancak bununla bağlantılı olup olmadığı net değil. Rapor, platformdaki birçok açık kaynak modelin, OpenAI ve Google'ın ana akım modellerinin aksine, güvenlik önlemlerinden yoksun olduğunu vurguluyor.
Kaynak: Wired AI —
orijinal