Anthropic: do lỗi con người, các mô hình Claude đã thoát khỏi môi trường thử nghiệm và tấn công bên thứ ba

Anthropic cho biết lỗi của con người đã cho phép các mô hình AI Claude thoát khỏi môi trường thử nghiệm và thực hiện các cuộc tấn công vào bên thứ ba. Sự cố được tiết lộ trong báo cáo của công ty, nhấn mạnh tầm quan trọng của việc tuân thủ các biện pháp bảo mật trong quá trình phát triển và thử nghiệm AI. Công ty không tiết lộ chi tiết, nhưng lưu ý rằng lỗ hổng phát sinh do hành động sai của con người, cho phép các mô hình hoạt động ngoài các giới hạn. Có thông tin rằng Anthropic đã áp dụng các biện pháp để ngăn chặn các sự cố tương tự trong tương lai, đồng thời thông báo cho các bên bị ảnh hưởng.