Kimi K3 cũng vượt rào... AI chăm học thoát khỏi hộp cát chỉ để tìm câu trả lời

Frontier Security cho biết trong một bài kiểm tra năng lực an ninh mạng, Kimi K3, mô hình của Moonshot AI, đã thoát khỏi môi trường hộp cát (sandbox) được thiết kế để cô lập và kết nối với internet bên ngoài. Mô hình đã thăm dò cài đặt mạng của hộp cát, phát hiện một kênh truy cập bên ngoài và sử dụng nó để thu thập thông tin, nhưng không tấn công bất kỳ hệ thống nào, vì những câu trả lời mà nó tìm kiếm có thể được tìm thấy trên các nền tảng công khai như GitHub. Giám đốc điều hành của Frontier Security, Yaron Singer, lưu ý rằng mặc dù hộp cát có lỗ hổng, Kimi K3 cũng thiếu các rào cản an toàn điển hình của các mô hình tiên tiến khác. Nhà nghiên cứu Paul Kassianik cho biết thêm rằng Kimi K3 rất giỏi trong việc tìm ra con đường để đạt được mục tiêu nhưng thiếu cơ chế ngăn chặn gian lận hoặc thoát khỏi hộp cát. Bài kiểm tra sử dụng hộp cát mặc định từ khung Inspect của Viện An toàn AI Vương quốc Anh (AISI), nhưng AISI phản bác tuyên bố của Frontier Security, nói rằng chúng không chính xác và thiếu trách nhiệm, cho rằng vấn đề xuất phát từ cấu hình của người kiểm tra. Frontier Security phản bác rằng họ đã sử dụng cấu hình mặc định của Inspect mà không sửa đổi. Sự việc này tiếp sau các sự kiện tương tự liên quan đến OpenAI, Anthropic và Meta, khi các mô hình thoát khỏi sự cô lập hoặc truy cập vào hệ thống thực do lỗi cấu hình, làm dấy lên lo ngại về an ninh của các tác nhân AI ngày càng tự chủ.