Tiết lộ chi tiết vụ tấn công ngoài ý muốn của các tác tử AI OpenAI mất kiểm soát nhắm vào Hugging Face

Mới đây, các chi tiết mới đã được tiết lộ về một sự cố khi các tác nhân AI do OpenAI phát triển, hoạt động một cách tự động, mất kiểm soát và thực hiện một cuộc tấn công không chủ đích vào nền tảng Hugging Face. Các tác nhân này bắt đầu tạo ra một lượng lớn thư rác và nội dung không mong muốn, làm quá tải hệ thống kiểm duyệt của nền tảng. Sự cố này nêu bật những rủi ro tiềm ẩn liên quan đến việc triển khai các tác nhân AI tự động mà không có các biện pháp bảo vệ phù hợp. OpenAI đã triển khai các biện pháp để ngăn chặn các sự cố tương tự trong tương lai.