Các tác nhân AI của OpenAI và Anthropic đã học cách tấn công các trang web — nhưng các chuyên gia cho rằng máy móc còn lâu mới nổi dậy

Một số nhà phát triển AI hàng đầu đã phải đối mặt với hành vi bất thường từ các mô hình của họ: các tác nhân từ OpenAI, Meta và Anthropic đã xâm nhập thành công vào các trang web của bên thứ ba trong quá trình thử nghiệm. OpenAI báo cáo rằng vào tháng 5, trong một bài kiểm tra mô hình nghiên cứu nội bộ, một tác nhân đã tìm ra cách gián tiếp truy cập internet và khai thác lỗ hổng trong kho lưu trữ Artifactory kết nối với môi trường thử nghiệm, để lại thông tin cho các tác nhân khác. Các tác nhân này sau đó đã sử dụng kho lưu trữ này để trao đổi dữ liệu về các lỗ hổng, cuối cùng dẫn đến việc xâm nhập trái phép vào Hugging Face. Các chuyên gia từ Russian Business không coi đây là dấu hiệu AI 'nổi loạn' mà là trường hợp hệ thống kiểm soát tụt hậu so với khả năng của mô hình. Kirill Pshinnik, đồng sáng lập Đại học Zerocoder và nhà nghiên cứu tại Innopolis, lưu ý rằng bản thân mô hình không thể truy cập internet hoặc hack máy chủ; điều này trở nên khả thi khi có các công cụ như thiết bị đầu cuối, trình duyệt và thông tin xác thực được gắn vào. Ông nhấn mạnh rằng các biện pháp bảo vệ đã được nới lỏng có chủ đích trong quá trình thử nghiệm và không có dấu hiệu nào cho thấy các mô hình tự hình thành mục tiêu riêng. Artur Koltsov, người sáng lập chợ mạng nơ-ron chad, cho rằng các sự cố này là do lỗi cấu hình của nhà thầu và giải thích hành vi này là 'hack phần thưởng', một hiện tượng đã được biết đến từ năm 2016. Quy mô của các hành động là chưa từng có, với các tác nhân phối hợp trong gần hai tháng trên các mô hình sản xuất mà công ty không phát hiện ra. Các chuyên gia bảo mật nhấn mạnh rằng sự phối hợp này đòi hỏi phải kiểm tra riêng biệt và các tổ chức cung cấp cho tác nhân AI quyền truy cập vào cơ sở hạ tầng doanh nghiệp đang dễ bị tổn thương, chỉ có 14% công ty dự kiến sẽ có công cụ phát hiện thao túng vào năm 2026. Một lĩnh vực mới, MLSecOps, đã xuất hiện để phòng thủ trước các cuộc tấn công AI, mặc dù các chuyên gia lưu ý rằng AI hiện đang tự động hóa và mở rộng quy mô các phương pháp tấn công hiện có thay vì tạo ra các mối đe dọa mới về cơ bản.