मेटा ने एआई-जनित बाल यौन शोषण इमेजरी वाले विज्ञापन चलाए

वायर्ड के साथ साझा किए गए विवरणों के अनुसार, मेटा ने पिछले नौ महीनों में स्पष्ट AI-जनित बाल यौन शोषण सामग्री (CSAM) वाले 50 से अधिक इमेज और वीडियो विज्ञापन चलाए हैं। टेक ट्रांसपेरेंसी प्रोजेक्ट (TTP) द्वारा खोजे गए ये विज्ञापन फेसबुक, इंस्टाग्राम, मैसेंजर और थ्रेड्स पर चले, और अमेरिका, यूके और एक दर्जन से अधिक यूरोपीय देशों के उपयोगकर्ताओं को लक्षित किया। कुछ विज्ञापन न्यूडिफाई या ड्रेसिंग ऐप्स से जुड़े थे, और एक वीडियो विज्ञापन में एक बच्चे के चेहरे को यौन कृत्य में बदल दिया गया था। TTP ने इन विज्ञापनों की सूचना नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन की साइबरटिपलाइन को दी। वायर्ड के संपर्क में आने के बाद मेटा ने नीति उल्लंघन का हवाला देते हुए विज्ञापनों को हटा दिया। कई विज्ञापनों की पहुंच न्यूनतम थी, लेकिन एक यूरोप में 2,563 खातों तक पहुंच गया। TTP ने पाया कि कुछ समान विज्ञापन जो पहले नीति उल्लंघन के लिए हटा दिए गए थे, वे वापस आ गए थे, जिससे मेटा के प्रवर्तन पर सवाल उठते हैं। विज्ञापन ज्यादातर कम फॉलोअर्स वाले खातों द्वारा पोस्ट किए गए थे, और जहां विज्ञापनदाताओं का खुलासा किया गया था, वे चीनी कंपनियों से जुड़े थे, जिनमें मीट सोशल भी शामिल था। कई विज्ञापन ऐप्पल ऐप स्टोर पर मास्कएआई ऐप से जुड़े थे, जिसमें AI-जनित पोर्न और चेहरा बदलने की सुविधाएँ थीं; ऐप्पल ने वायर्ड द्वारा संपर्क करने के बाद इसे हटा दिया। मेटा का कहना है कि उसने पिछले साल 36 मिलियन से अधिक बाल यौन शोषण सामग्री हटाई और न्यूडिफाई ऐप डेवलपर्स के खिलाफ कानूनी कार्रवाई करता है। इंडिकेटर के सह-संस्थापक एलेक्सियोस मांटज़ारलिस ने मेटा के प्लेटफार्मों पर 25,000 से अधिक AI न्यूडिफायर विज्ञापनों की रिपोर्ट की है और अनिर्णायक प्रवर्तन की आलोचना की है।