Meta julkaisi mainoksia tekoälyllä luoduista lapsiin kohdistuvista seksuaalirikoskuvista

WIREDin jakamien tietojen mukaan Meta on ajanut yli 50 kuva- ja videomainosta, jotka sisältävät selkeää tekoälyllä tuotettua lasten seksuaaliseen hyväksikäyttöön liittyvää materiaalia (CSAM) viimeisen yhdeksän kuukauden aikana. Tech Transparency Projectin (TTP) löytämät mainokset näkyivät Facebookissa, Instagramissa, Messengerissä ja Threadsissa, ja ne kohdistuivat käyttäjiin Yhdysvalloissa, Isossa-Britanniassa ja yli tusinassa eurooppalaisessa maassa. Jotkut mainokset linkittivät nudify- tai riisumissovelluksiin, ja yksi videomainos muutti lapsen kasvot seksuaaliseksi teoksi. TTP ilmoitti mainoksista National Center for Missing and Exploited Children -järjestön CyberTipline-palveluun. Meta poisti mainokset sen jälkeen, kun WIRED otti yhteyttä, vedoten käytäntörikkomuksiin. Monilla mainoksilla oli vähäinen kattavuus, mutta yksi tavoitti 2 563 tiliä Euroopassa. TTP havaitsi, että osa aiemmin käytäntörikkomusten vuoksi poistetuista samanlaisista mainoksista oli palannut, mikä herättää kysymyksiä Metan valvonnasta. Mainokset julkaisivat enimmäkseen tilit, joilla oli vähän seuraajia, ja siinä tapauksessa, että mainostaja oli ilmoitettu, ne liittyivät kiinalaisiin yrityksiin, mukaan lukien Meet Social. Useat mainokset linkittivät MaskAI-sovellukseen Applen App Storessa, joka sisälsi tekoälyllä tuotettua pornografiaa ja kasvojenvaihto-ominaisuuksia; Apple poisti sen sen jälkeen, kun WIRED otti heihin yhteyttä. Meta sanoo poistaneensa viime vuonna yli 36 miljoonaa lasten seksuaalista hyväksikäyttöä sisältävää sisältöä ja ryhtyvänsä oikeustoimiin nudify-sovellusten kehittäjiä vastaan. Alexios Mantzarlis, Indicatorin perustajajäsen, on raportoinut yli 25 000 tekoälyllä toimivaa riisumissovellusmainosta Metan alustoilla ja kritisoi heikkoa valvontaa.