Meta, AI 생성 아동 성학대 이미지가 포함된 광고를 게재

WIRED에 공유된 세부 내용에 따르면, Meta는 지난 9개월간 노골적인 AI 생성 아동 성적 학대물(CSAM, child sexual abuse material)이 포함된 이미지 및 동영상 광고를 50건 이상 게재한 것으로 나타났다. 테크 투명성 프로젝트(Tech Transparency Project, TTP)가 발견한 이 광고들은 Facebook, Instagram, Messenger, Threads에서 게재됐으며, 미국·영국을 비롯해 유럽 12개국 이상의 사용자를 타깃으로 삼았다. 일부 광고는 옷 벗기기(누디파이) 앱으로 연결됐고, 한 동영상 광고는 아동의 얼굴을 성행위 장면에 합성한 것으로 나타났다. TTP는 이 광고들을 전미실종학대아동센터(National Center for Missing and Exploited Children)의 사이버팁라인(CyberTipline)에 신고했다. Meta는 WIRED가 문의한 뒤 정책 위반을 이유로 해당 광고들을 삭제했다. 많은 광고는 노출 규모가 미미했지만, 그중 한 건은 유럽에서 2,563개 계정에 도달한 것으로 확인됐다. TTP는 과거 정책 위반으로 삭제됐던 것과 동일한 광고 일부가 다시 게재되고 있다는 사실을 발견했으며, 이는 Meta의 단속 실효성에 의문을 제기한다. 이 광고들은 대부분 팔로워가 적은 계정을 통해 게재됐고, 광고주가 공개된 경우 Meet Social을 포함한 중국 기업들과 연계돼 있었다. 여러 광고는 Apple의 App Store에 등록된 MaskAI 앱으로 연결됐는데, 이 앱에는 AI로 생성된 포르노와 얼굴 합성 기능이 포함돼 있었다. Apple은 WIRED의 연락을 받은 뒤 해당 앱을 삭제했다. Meta는 지난해 3,600만 건 이상의 아동 성 착취물 콘텐츠를 삭제했으며, 누디파이 앱 개발자들을 상대로 법적 조치를 취하고 있다고 밝혔다. Indicator의 공동창업자인 알렉시오스 만차를리스(Alexios Mantzarlis)는 Meta 플랫폼에서 2만 5,000건 이상의 AI 누디파이어 광고를 신고했다며, 미온적인 단속을 비판했다.