OpenAI tạm dừng phát triển mô hình AI Astra — vì quá mạnh mẽ

OpenAI thông báo tạm dừng phát triển mô hình AI mới Astra vì mô hình này chưa đáp ứng các tiêu chuẩn an toàn mới mà công ty đang triển khai. Thông báo này được đưa ra sau sự cố với nền tảng Hugging Face bị tấn công bởi một trong các mô hình của OpenAI. Theo OpenAI, các đánh giá nội bộ gần đây về Astra trong vài ngày qua cho thấy sự tiến bộ đáng kể trong lĩnh vực lập trình tác tử và an ninh mạng. Những kết quả này, cùng với đánh giá của các chuyên gia, đã khiến công ty kết luận rằng họ không thể loại trừ các khả năng an ninh mạng quan trọng trong Khung chuẩn bị sẵn sàng của mình. Khung chuẩn bị sẵn sàng là phương pháp nội bộ của OpenAI để theo dõi, đánh giá và quản lý các rủi ro liên quan đến các khả năng AI tiên tiến. Theo khung này, một mô hình AI đạt đến ngưỡng quan trọng trong an ninh mạng nếu nó có thể xác định và phát triển các lỗ hổng zero-day có chức năng ở mọi mức độ nghiêm trọng trong nhiều hệ thống quan trọng được bảo vệ trong thế giới thực mà không cần sự can thiệp của con người, hoặc có thể phát triển và thực hiện các chiến lược tấn công mạng mới phức tạp nhằm vào các mục tiêu được bảo vệ chỉ với một mô tả cấp cao về mục tiêu mong muốn. Theo OpenAI, Astra không liên quan đến vụ vi phạm nền tảng Hugging Face. Công ty có kế hoạch áp dụng các biện pháp an toàn chặt chẽ hơn cho các mô hình có khả năng cao hơn và các hoạt động liên quan, đồng thời đã giới thiệu giám sát toàn diện đối với các hành động có rủi ro tiềm ẩn và sự không nhất quán trên tất cả các ứng dụng tác tử cho Astra.