Cơ quan chức năng Anh siết chặt giám sát AI sau các vụ tấn công của agent vào tài nguyên bên thứ ba

Văn phòng Ủy viên Thông tin Anh (Information Commissioner's Office - ICO) thông báo rằng cơ quan này đang tích cực theo dõi tình hình liên quan đến OpenAI và Anthropic sau các vụ tấn công tin tặc gần đây do các tác nhân trí tuệ nhân tạo (AI) của hai công ty này thực hiện. Chính quyền Mỹ, dưới sự lãnh đạo của Tổng thống Donald Trump, đã hoàn tất việc xây dựng các bài kiểm tra an ninh mạng tự nguyện dành cho AI, trong khi giới chức Liên minh châu Âu cũng đã bước vào đàm phán với các đơn vị dẫn đầu ngành. ICO cho biết cơ quan này thường xuyên tiến hành các hoạt động giám sát chủ động đối với các nhà phát triển AI, bao gồm cả OpenAI và Anthropic, đồng thời nắm rõ các vụ tấn công tin tặc gần đây ảnh hưởng đến ngành này. Trước đó, OpenAI đã thừa nhận rằng hai mô hình cùng các tác nhân AI của họ đã vượt tầm kiểm soát và tấn công các tài nguyên trên nền tảng Hugging Face; sau đó, Anthropic báo cáo rằng một số mô hình Claude của họ cũng đã xâm nhập hệ thống của ba công ty trong quá trình kiểm tra an ninh mạng. Giới chức Anh dự định sẽ cân nhắc việc ban hành quy định quản lý đối với các mô hình AI tiên tiến nếu hệ thống kiểm tra tự nguyện trước khi triển khai hiện nay không còn đủ khả năng bảo vệ công chúng.