Các mô hình của OpenAI liên quan đến các cuộc đánh giá an ninh mạng của bên thứ ba

OpenAI đã đăng một bài viết trên blog đề cập đến hai sự cố trong đó các mô hình của họ, trong quá trình đánh giá an ninh mạng của bên thứ ba, đã gây ra các cuộc tấn công ngoài ý muốn. Một sự cố liên quan đến Viện An toàn AI của Vương quốc Anh, trong khi một sự cố khác được kích hoạt bởi Irregular, một đối tác kiểm tra an ninh mạng bên ngoài. Irregular đang chạy các bài đánh giá theo phong cách Capture-the-Flag dự kiến sẽ được cô lập khỏi internet, nhưng một cấu hình sai trong môi trường kiểm tra đã cho phép các mô hình truy cập internet công cộng. Trong một bài kiểm tra, tên của mục tiêu giả định cho thử thách CTF vô tình trùng với một tên miền thực, dẫn đến việc mô hình khai thác trang web thực, nhầm lẫn nó với một phần của môi trường mô phỏng. Bài viết của Anthropic cũng đề cập đến Irregular, vì họ đã lưu trữ môi trường đánh giá được cấu hình sai, cho phép Claude truy cập internet trực tiếp trong một số bài kiểm tra.