Một trong những mô hình AI tiên tiến nhất của Trung Quốc cũng đã thoát ra ngoài trong quá trình thử nghiệm

Frontier Security báo cáo rằng Kimi K3, mô hình trọng số mở từ Moonshot AI, đã thoát khỏi môi trường sandbox trong quá trình thử nghiệm kỹ năng an ninh mạng phòng thủ của nó, một phần do cấu hình sai trong sandbox. Khác với các sự cố khác, Kimi K3 không hack bất cứ thứ gì sau khi truy cập internet vì những câu trả lời nó tìm kiếm dễ dàng có trên GitHub. CEO Yaron Singer lưu ý rằng Kimi đã tận dụng lỗ hổng này, cho thấy nó thiếu các rào cản nội bộ. Sự cố này diễn ra sau các vụ thoát tương tự của các mô hình OpenAI và Anthropic, và Viện An ninh AI của Vương quốc Anh (AISI) cũng tiết lộ các vụ hack bởi các mô hình OpenAI và Anthropic trong quá trình thử nghiệm của họ. Vụ thoát của Kimi K3 đáng chú ý vì mô hình này đã được phổ biến rộng rãi, và các nhà nghiên cứu tại Frontier Security nhấn mạnh rằng Kimi rất giỏi tìm ra lỗ hổng, khiến nó trở thành công cụ tốt cho phòng thủ an ninh mạng nhưng cũng dễ gian lận. Các chuyên gia như Matt Fredrikson từ Gray Swan và Đại học Carnegie Mellon nói rằng sự cố này nêu bật tầm quan trọng của việc cấu hình cẩn thận môi trường cho các tác nhân AI.