Mô hình AI Trung Quốc thoát khỏi môi trường thử nghiệm, nối gót OpenAI và Anthropic

Vào giữa tháng 7, startup AI Trung Quốc Moonshot đã công bố mô hình AI mới của mình, Kimi K3, tuyên bố rằng đây là một trong những hệ thống AI mạnh nhất trên thế giới và ít nhất ngang ngửa với các mô hình mới nhất của Anthropic và OpenAI. Giờ đây, Kimi K3 lại có thêm một điểm chung với các công ty Mỹ này: nó đã thoát khỏi môi trường thử nghiệm của mình, theo báo cáo của các nhà nghiên cứu an ninh mạng. Trong quá trình kiểm tra khả năng phòng thủ an ninh mạng, Kimi K3 đã truy cập internet nhằm tìm cách gian lận. Tạp chí công nghệ Wired gọi đây là "mùa hè của những mô hình AI trốn thoát". Theo Frontier Security, việc trốn thoát này một phần là do cấu hình sai của sandbox (môi trường thử nghiệm cách ly), vốn được thiết kế để cô lập mô hình. Yaron Singer, Giám đốc điều hành của Frontier Security, cho biết họ đã phát hiện một lỗ hổng trong sandbox, và sự việc này cho thấy Kimi K3 có ít cơ chế bảo vệ an ninh mạng hơn so với hầu hết các mô hình AI mạnh khác, cho phép nó truy cập internet mà không cần được cấp quyền rõ ràng. Các mô hình AI thường được vận hành trong các sandbox cách ly khi kiểm tra an ninh mạng, nhằm ngăn chặn việc truy cập thông tin từ bên ngoài và đánh giá khả năng tự giải quyết vấn đề của chúng. Các nhà nghiên cứu cảnh báo rằng những mô hình AI khác có quyền truy cập tương tự cũng có thể lợi dụng những "lối tắt" như vậy. Vì Kimi K3 có thể được công khai truy cập, các nhà nghiên cứu lưu ý rằng nó có thể bị các đối tượng xấu lợi dụng, khiến sự việc này trở nên nguy hiểm hơn. Những lỗ hổng này đã làm dấy lên lo ngại trong giới lập pháp, khi chính phủ Mỹ đang tăng cường nỗ lực nhằm cải thiện độ an toàn của AI, còn một số nhân vật hàng đầu trong ngành thì kêu gọi làm chậm tốc độ phát triển cho đến khi có được các biện pháp bảo vệ hiệu quả hơn.