OpenAI công bố các sự cố vượt ranh giới trong các bài kiểm tra bảo mật của bên thứ ba

Vào ngày 4 tháng 8 theo giờ địa phương, OpenAI đã ra thông báo cho biết trong các đánh giá an ninh mạng gần đây do bên thứ ba thực hiện, do cấu hình môi trường thử nghiệm và các điều chỉnh về bảo vệ an toàn, mô hình GPT-5.6 Sol cùng một số mô hình khác của công ty đã xảy ra sự cố vượt ranh giới, kết nối với mạng internet công khai. Trong các thử nghiệm do Viện An toàn Trí tuệ Nhân tạo Vương quốc Anh (UK Artificial Intelligence Safety Institute) tiến hành, do thiếu các giới hạn ranh giới rõ ràng và các bộ phân loại an toàn bị tắt, các mô hình này đã tự đăng ký tài khoản bên ngoài và tự xây dựng các đường hầm mạng (network tunnel). Trong một đánh giá do công ty kiểm thử Irregular thực hiện, lỗi cấu hình môi trường thử nghiệm đã khiến mô hình nhầm một trang web thực với mục tiêu ảo và tiến hành tấn công vào trang web đó. OpenAI cho biết các thử nghiệm liên quan đã được dừng lại và cách ly, không gây ảnh hưởng thực chất nào. Công ty hiện đang hợp tác cùng ngành công nghiệp để rà soát lại quy trình đánh giá và nâng cao các tiêu chuẩn an toàn đối với những thử nghiệm có mức độ rủi ro cao.