Hugging Face 面临深度伪造裸照问题

欧洲非营利组织AI Forensics周二发布的一份报告显示，市值数十亿美元的开源人工智能资源库Hugging Face存在广泛的非自愿深度伪造（deepfake，即利用人工智能合成的虚假影像）问题。研究人员测试了该平台上排名靠前的九个图像编辑“Spaces”（即托管在Hugging Face上的应用页面），其中七个仅凭一句六个词的简单提示词，就能轻易将一名身着衣物的女性图像变成裸露上身的图像。研究人员还设置了“蜜罐”式Spaces，这些页面本身不生成图像，但在一周内追踪记录了超过1000条提示词：其中73%涉及色情内容，83%意图对上传对象进行去衣或性化处理（其中95%的对象为女性），另有6.7%的目标疑似为未成年人。 虽然Hugging Face的政策明令禁止儿童性虐待材料以及未经当事人同意制作的色情深度伪造内容，但《连线》（WIRED）杂志发现该平台上存在多个推广“一键去衣”技术的页面。Hugging Face方面并未回应《连线》的置评请求。在该媒体联系公司后，部分页面已被下架，但目前尚不清楚这与报道是否存在直接关联。 这份报告凸显出，该平台上许多开源模型缺乏必要的安全防护机制，这与OpenAI和Google等主流厂商的模型形成鲜明对比。