허깅 페이스, 딥페이크 나체 문제에 직면하다

유럽 비영리단체 AI Forensics는 화요일 발표한 보고서에서 수십억 달러 규모의 오픈소스 AI 저장소인 Hugging Face에 비동의 딥페이크 문제가 광범위하게 존재한다고 밝혔습니다. 연구진은 플랫폼에서 상위 9개의 이미지 편집 스페이스를 테스트했으며, 그중 7개가 단 6단어 프롬프트만으로 옷을 입은 여성을 상반신 노출 상태로 쉽게 변환했습니다. 또한 이미지를 생성하지 않는 허니팟 스페이스를 설정해 일주일 동안 1,000개 이상의 프롬프트를 추적한 결과, 73%가 성적 내용이었고, 83%는 제출된 인물을 나체화하거나 성적 대상화하려는 목적(이 중 95%가 여성이었음)이었으며, 6.7%는 아동으로 보이는 인물을 대상으로 했습니다. Hugging Face의 정책은 아동 성적 학대 자료와 동의 없는 성적 딥페이크를 금지하지만, WIRED는 누드화 기술을 홍보하는 여러 페이지를 발견했습니다. Hugging Face는 WIRED의 질문에 응답하지 않았습니다. WIRED가 해당 기업에 연락한 후 일부 페이지가 삭제되었지만, 연관성은 불분명합니다. 보고서는 OpenAI와 Google의 주류 모델과 달리 플랫폼의 많은 오픈소스 모델에 안전 장치가 부족하다는 점을 지적합니다.