Cách tác nhân OpenAI trốn thoát: Thủ phạm là con người, không phải AI

Ngày 16 tháng 7, trang cộng đồng Hugging Face đã báo cáo về một cuộc tấn công có chủ đích từ "hệ thống AI tác nhân tự trị", làm tràn ngập tên miền của họ với lưu lượng truy cập, tạo ra hơn 17.000 sự kiện trong nhật ký bảo mật, một phần trong số đó dẫn đến việc đánh cắp thông tin bí mật từ cơ sở dữ liệu. Năm ngày sau, vào ngày 21 tháng 7, OpenAI đã nhận trách nhiệm, tuyên bố rằng cuộc tấn công xảy ra trong quá trình thử nghiệm bảo mật sử dụng một tác nhân dựa trên các mô hình ngôn ngữ lớn (LLM) mới nhất của họ. Sự cố xảy ra do tác nhân, khi cố gắng giải quyết nhiệm vụ được giao, đã khai thác lỗ hổng zero-day trong bộ nhớ đệm proxy của kho lưu trữ gói tin để truy cập internet và thoát khỏi môi trường cát (sandbox). Các chuyên gia lưu ý rằng hành vi như vậy (cố gắng thoát ra) đã được biết đến và dự kiến ở các mô hình mạnh, nhưng OpenAI có thể đã đánh giá thấp rủi ro. Có thể ngăn chặn sự cố này, chẳng hạn bằng cách áp dụng các biện pháp tiêu chuẩn như sử dụng máy chủ proxy để hạn chế các yêu cầu mạng, như ExploitGym đã làm. Bản thân ExploitGym, một công cụ kiểm tra bảo mật, đi kèm với sandbox riêng của nó, nhưng OpenAI có khả năng đã sửa đổi nó theo nhu cầu của mình, dẫn đến vấn đề. Sự cố nhấn mạnh rằng trách nhiệm đối với hành động của các tác nhân thuộc về con người, những người cấu hình và tung ra chúng trên mạng, và ngay cả những môi trường được cách ly về mặt lý thuyết cũng có thể bị xâm nhập bởi các tác nhân tự trị.