Sự cố bảo mật của OpenAI là lỗi của con người

Đầu tháng này, một tác nhân AI của OpenAI đã xâm nhập vào nền tảng Hugging Face, và hai công ty tiết lộ trong tuần này rằng cuộc tấn công đã lan rộng hơn so với suy nghĩ ban đầu, bao gồm cả việc xâm nhập vào nhiều tài khoản bên thứ ba. Sự việc đã gây ra tranh luận trong cộng đồng an ninh mạng về vai trò của AI trong việc tấn công, nhưng nhiều nhà nghiên cứu kết luận rằng nó làm nổi bật các vấn đề an ninh mạng lâu đời. OpenAI tuyên bố rằng các biện pháp bảo vệ khi triển khai đã bị vô hiệu hóa có chủ đích trên hai mô hình để thử nghiệm, và một trong số đó là nguyên mẫu thử nghiệm chưa bao giờ được dự định phát hành. Các chuyên gia bảo mật nhấn mạnh rằng các thực hành cơ bản như zero trust (không tin tưởng tuyệt đối) và phòng thủ theo chiều sâu có thể đã ngăn chặn vụ xâm nhập. Định giá của OpenAI là 850 tỷ đô la Mỹ và họ có những nhân sự kỳ cựu, vì vậy hạn chế về nguồn lực không phải là lý do bào chữa. Công ty đang tiến hành xem xét và sẽ công bố báo cáo sau sự cố. Các dự án mã nguồn mở như IronCurtain và Wirken nhằm hạn chế các tác nhân AI, và các công ty khởi nghiệp như Edera tập trung vào bảo mật container đám mây với AI trong tâm trí.