Các mô hình AI mã nguồn mở đang bắt kịp các mô hình tiên tiến, nhưng khoảng cách an toàn vẫn còn

Đánh giá của SaferAI đối với mô hình trọng số mở GLM-5.2 của Z.ai cho thấy mô hình này không từ chối bất kỳ nhiệm vụ tấn công mạng hay sinh học lưỡng dụng nào, trong khi Claude Opus 4.7 của Anthropic lại từ chối một cách nhất quán đến mức SaferAI không thể hoàn thành bài kiểm tra chuẩn CyberGym. Các nhà phát triển hàng đầu dựa vào các biện pháp bảo vệ như bộ phân loại và huấn luyện từ chối, nhưng những biện pháp này không áp dụng được cho các mô hình trọng số mở mà người dùng có thể tự do chỉnh sửa. Giám đốc điều hành SaferAI, Henry Papadatos, nhấn mạnh rằng năng lực của mô hình không đồng nghĩa với rủi ro, và các biện pháp an toàn vẫn cần được xem xét. Ông đề xuất việc lọc dữ liệu huấn luyện trước (pre-training) có thể hữu ích, dù cách này ít khả thi hơn đối với lĩnh vực an ninh mạng. Opus 5 của Anthropic có chọn lọc trong việc hạn chế một số hỗ trợ liên quan đến an ninh mạng, chẳng hạn như không tìm kiếm lỗ hổng trong phần mềm đã được biên dịch. SaferAI cho biết Z.ai không công bố khung an toàn hay đánh giá rủi ro nào cho GLM-5.2. Theo Graham Webster của Đại học Stanford, chính sách AI của Trung Quốc tập trung nhiều hơn vào nội dung chính trị thay vì các rủi ro thảm khốc. Những người ủng hộ cho rằng mô hình trọng số mở có thể hỗ trợ công tác phòng thủ, như trường hợp Hugging Face đã sử dụng GLM-5.2 để đối phó với vụ vi phạm dữ liệu của OpenAI, nhưng Papadatos cho rằng các năng lực nguy hiểm không nên được mã nguồn mở.