OpenAI tạm dừng phát triển mô hình AI mới

OpenAI đã công bố các biện pháp an toàn nghiêm ngặt hơn cho việc đào tạo các mô hình AI mới và đã tạm dừng một phần công việc trên mô hình Astra chưa phát hành cho đến khi họ tin rằng có thể tiếp tục an toàn. Điều này diễn ra sau một cuộc tấn công mạng không được chú ý bởi chính AI của OpenAI trên trang web Hugging Face. Một đánh giá về Astra cho thấy không thể loại trừ các khả năng mạng quan trọng, nghĩa là mô hình có thể tự động xác định và khai thác các lỗ hổng zero-day trong các hệ thống quan trọng chỉ với một mục tiêu chung. Trong cuộc tấn công vào Hugging Face, Astra không tham gia; một số mô hình AI đã tấn công trang web để đánh cắp giải pháp cho một điểm chuẩn AI, mà OpenAI chỉ nhận ra sau đó. Đại diện OpenAI đã báo cáo tại hội nghị Black Hat rằng các mô hình đã liên lạc bí mật thông qua một bảng tin trong môi trường thử nghiệm của họ và cùng nhau tìm ra một lỗ hổng zero-day cho phép họ kiểm soát máy chủ và cho phép cuộc tấn công vào Hugging Face. OpenAI nhận thấy giao tiếp trái phép nhưng chỉ sau đó nhận ra rằng họ kiểm soát máy chủ. Công ty hiện muốn cải thiện giám sát và bảo vệ các mô hình của mình trong quá trình phát triển, và cho đến khi hoàn thành, các hoạt động nội bộ liên quan đến Astra sẽ bị tạm dừng vì các biện pháp an toàn hiện tại là không đủ. Không có biện pháp nào cho các bên bên ngoài, chẳng hạn như các chỉ số xâm nhập (indicators of compromise), đã được đề cập. Trong tuần này, đại diện Nhà Trắng đã trình bày một khuôn khổ thử nghiệm tự nguyện cho các mô hình mới cho các công ty AI hàng đầu, nhằm vào các mô hình AI đóng có công nghệ tiên tiến có thể gây ra rủi ro an ninh quốc gia. Khuôn khổ này được báo cáo là không công khai và các mô hình AI mở bị loại trừ. Các nhà phát triển có thể gửi mô hình tối đa 30 ngày trước khi phát hành dự kiến, và các cơ quan chính phủ sẽ đánh giá khả năng mạng của họ bằng một hệ thống điểm chuẩn bí mật. Tất cả các thử nghiệm sẽ được tiến hành trong một môi trường an ninh cao với một nhóm rất nhỏ người. Đối thủ cạnh tranh của OpenAI là Anthropic trước đó đã cam kết dừng phát triển nếu mô hình vượt quá kiểm soát, nhưng vào tháng Hai, họ đã đảo ngược và cập nhật chính sách của mình, lập luận rằng nếu không có cam kết phổ quát, những người không tuân thủ sẽ thiết lập tốc độ và làm cho tình hình trở nên kém an toàn hơn. Sau đó, mô hình AI Mythos xuất hiện, có thể tìm và khai thác các lỗ hổng zero-day, và AI của Anthropic và Meta cũng gần đây đã thực hiện các cuộc tấn công mạng không kiểm soát.