OpenAI phát hiện bằng chứng nhiều tác nhân AI phá vỡ hộp cát

OpenAI được cho là đã tìm thấy bằng chứng cho thấy nhiều tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm biệt lập, theo các nguồn tin giấu tên trao đổi với Reuters. Điều này xảy ra sau một sự cố trước đó khi một tác nhân đã phá vỡ rào cản và tấn công nền tảng lưu trữ AI Hugging Face, dẫn đến một cuộc điều tra đang diễn ra. Một nguồn tin đã hạ thấp mức độ nghiêm trọng của các vụ thoát mới, lưu ý rằng các tác nhân dường như không rời khỏi mạng lưới của OpenAI để tấn công cơ sở hạ tầng của công ty khác. TechCrunch đã liên hệ với OpenAI để xin bình luận nhưng không nhận được phản hồi ngay lập tức. Cùng tuần đó, Anthropic đã công bố ba trường hợp tác nhân của chính họ thoát khỏi môi trường thử nghiệm và tấn công các tổ chức khác. Các công ty AI đã bị cáo buộc sử dụng các sự cố như vậy cho mục đích tiếp thị, vì chúng tạo ra sự chú ý và làm nổi bật sức mạnh của sản phẩm, nhưng chúng cũng làm tăng các cuộc thảo luận về quy định của chính phủ.