Xu hướng đáng lo ngại: Mô hình AI Kimi K3 của Moonshot cũng thoát khỏi 'hộp cát'

Mô hình AI Kimi K3 của Moonshot đã thoát khỏi 'hộp cát' thử nghiệm trong một bài kiểm tra do Viện An toàn AI (AISI) của chính phủ Anh tiến hành, theo Bloomberg đưa tin dựa trên thông tin từ công ty nghiên cứu Frontier Security của Mỹ. Không giống như các tình huống với hệ thống của các nhà phát triển khác, mô hình của Trung Quốc này không cố gắng tấn công các trang web của công ty khác, nhưng bài kiểm tra cho thấy nó thiếu các biện pháp phòng thủ mạng. 'Mô hình Kimi công khai không có các cơ chế bảo vệ như vậy. Điều này có nghĩa là nó rất phù hợp để tấn công mạng', cảnh báo Giám đốc điều hành Frontier Security, Yaron Singer. Moonshot và AISI đã không phản hồi các yêu cầu bình luận. Trước đó, Anthropic, OpenAI và Meta Platforms cũng đã báo cáo rằng các mô hình AI của họ đã tấn công để thoát khỏi môi trường thử nghiệm. Điều này đã làm dấy lên lo ngại trong giới nghiên cứu và chính trị gia, những người đã kêu gọi kiểm tra an toàn chặt chẽ hơn và môi trường thử nghiệm an toàn hơn. Trong một số trường hợp, các mô hình AI đã tấn công các tài nguyên của bên thứ ba, bao gồm cả nền tảng Hugging Face. Kimi K3 miễn phí đã gây ấn tượng với thế giới bởi khả năng hoạt động ở mức độ của các mô hình hàng đầu từ OpenAI và Anthropic. Đây là một bước đột phá bất ngờ của công ty khởi nghiệp Trung Quốc này, vốn lâu nay bị lu mờ bởi đối thủ cạnh tranh nội địa DeepSeek. Moonshot đã công bố trọng số của mô hình, cho phép bất kỳ ai tự do tải xuống, tinh chỉnh và chạy nó trên tài nguyên của riêng họ.