ميتا عرضت إعلانات تحتوي على صور اعتداء جنسي على الأطفال مولّدة بالذكاء الاصطناعي

وفقًا لتفاصيل شاركتها مع WIRED، قامت شركة Meta بتشغيل أكثر من 50 إعلانًا للصور ومقاطع الفيديو تحتوي على محتوى صريح لاعتداء جنسي على الأطفال تم إنشاؤه بواسطة الذكاء الاصطناعي خلال الأشهر التسعة الماضية. الإعلانات، التي اكتشفها مشروع الشفافية التقنية، ظهرت على فيسبوك، وإنستغرام، ومسنجر، وثريدز، واستهدفت مستخدمين في الولايات المتحدة والمملكة المتحدة وأكثر من اثنتي عشرة دولة أوروبية. بعض الإعلانات كانت مرتبطة بتطبيقات للتعرية أو إزالة الملابس، وأحد إعلانات الفيديو حوّل وجه طفل إلى مشهد جنسي. أبلغ مشروع الشفافية التقنية عن هذه الإعلانات إلى خط الإبلاغ الإلكتروني التابع للمركز الوطني للأطفال المفقودين والمستغلين. قامت Meta بإزالة الإعلانات بعد تواصل WIRED معها، مشيرةً إلى انتهاكها للسياسات. كان لعدد قليل من الإعلانات وصول محدود، لكن أحدها وصل إلى 2,563 حسابًا في أوروبا. وجد مشروع الشفافية التقنية أن بعض الإعلانات المماثلة التي أزيلت سابقًا لانتهاكها السياسات عادت للظهور، مما أثار تساؤلات حول تنفيذ Meta للسياسات. كانت الإعلانات في معظمها منشورة من حسابات ذات متابعين قليلين، وحيثما تم الكشف عن المعلنين، كانت مرتبطة بشركات صينية، بما في ذلك Meet Social. عدة إعلانات كانت مرتبطة بتطبيق MaskAI على متجر تطبيقات Apple، والذي احتوى على مواد إباحية مولّدة بالذكاء الاصطناعي وميزات لتبديل الوجوه؛ وأزالته Apple بعد تواصل WIRED معها. تقول Meta إنها أزالت أكثر من 36 مليون قطعة من محتوى استغلال الأطفال العام الماضي وتتخذ إجراءات قانونية ضد مطوري تطبيقات التعرية. أليكسيوس مانتزارليس، المؤسس المشارك لمنظمة Indicator، أبلغ عن أكثر من 25,000 إعلان لتطبيقات تعرية مولّدة بالذكاء الاصطناعي على منصات Meta وينتقد التنفيذ المتردد.