Hugging Face gặp vấn nạn ảnh khỏa thân giả mạo deepfake

Tổ chức phi lợi nhuận châu Âu AI Forensics hôm thứ Ba công bố một báo cáo cho thấy Hugging Face, một kho lưu trữ trí tuệ nhân tạo mã nguồn mở trị giá hàng tỷ đô la, đang gặp vấn đề phổ biến với deepfake không có sự đồng thuận. Các nhà nghiên cứu đã thử nghiệm chín Space chỉnh sửa ảnh hàng đầu trên nền tảng này, và bảy trong số đó dễ dàng biến một phụ nữ mặc quần áo thành ảnh khỏa thân phần trên chỉ với một lời nhắc sáu từ. Họ cũng thiết lập các Space bẫy (honeypot) không tạo ra hình ảnh nhưng đã theo dõi hơn 1.000 lời nhắc trong một tuần: 73% có nội dung tình dục, 83% tìm cách cởi quần áo hoặc tình dục hóa người được gửi (95% trong số này là phụ nữ), và 6,7% nhắm vào trẻ em. Chính sách của Hugging Face cấm tài liệu lạm dụng tình dục trẻ em và deepfake tình dục không có sự đồng thuận, nhưng WIRED đã tìm thấy nhiều trang quảng bá công nghệ khỏa thân hóa. Hugging Face không trả lời các câu hỏi từ WIRED. Một số trang đã bị xóa sau khi tòa soạn liên hệ với công ty, nhưng không rõ có liên quan hay không. Báo cáo nhấn mạnh rằng nhiều mô hình mã nguồn mở trên nền tảng này thiếu các biện pháp bảo vệ an toàn, trái ngược với các mô hình chính thống từ OpenAI và Google.