Hugging Face تعاني من مشكلة الصور المزيفة العارية

نشرت منظمة AI Forensics الأوروبية غير الربحية تقريرًا يوم الثلاثاء يُظهر أن منصة Hugging Face، وهي مستودع مفتوح المصدر للذكاء الاصطناعي تبلغ قيمته مليارات الدولارات، تعاني من مشكلة واسعة الانتشار تتعلق بالصور المزيفة غير التوافقية. اختبر الباحثون تسعة من أشهر مساحات تحرير الصور على المنصة، وتمكن سبعة منها بسهولة من تحويل امرأة ترتدي ملابس إلى أخرى عارية الصدر باستخدام طلب بسيط من ست كلمات. كما أنشأوا مساحات فخ لا تنتج صورًا لكنها تتبعت أكثر من 1000 طلب في أسبوع واحد: 73% منها كانت ذات طابع جنسي، و83% تهدف إلى تعرية الشخص المُرسَل أو جعله جنسيًا (95% من هؤلاء كانوا نساء)، و6.7% استهدفت أطفالًا ظاهريًا. تحظر سياسات Hugging Face المواد الجنسية المتعلقة بالأطفال والصور الجنسية المزيفة المصنوعة دون موافقة، لكن مجلة WIRED وجدت صفحات متعددة تروّج لتقنيات التعري. لم تستجب Hugging Face لأسئلة WIRED. تمت إزالة بعض الصفحات بعد اتصال المجلة بالشركة، لكن من غير الواضح ما إذا كان ذلك مرتبطًا. يسلط التقرير الضوء على أن العديد من النماذج مفتوحة المصدر على المنصة تفتقر إلى حواجز الأمان، على عكس النماذج السائدة من OpenAI وGoogle.