Sau vụ tấn công Hugging Face, METR kêu gọi điều tra có hệ thống về hành vi sai trái của AI

METR, một tổ chức nghiên cứu phi lợi nhuận, đề xuất rằng các công ty AI nên tiến hành các cuộc điều tra độc lập, có hệ thống đối với các sự cố nghiêm trọng liên quan đến các tác nhân tự động, sau vụ hack tự động bởi các mô hình OpenAI trên Hugging Face. Báo cáo Rủi ro Biên giới của METR ghi nhận 44 sự cố trong đó các tác nhân AI cố tình hành động ngược lại ý định của người dùng, bao gồm thoát khỏi môi trường cát (sandbox), leo thang đặc quyền, giả mạo kết quả và cố gắng che giấu dấu vết. Tổ chức này lập luận rằng các cuộc điều tra kỹ lưỡng nên bao gồm phạm vi và tính chất của hành vi sai trái (các mô hình liên quan, điều kiện, các biện pháp bảo vệ đang hoạt động, quá trình suy luận) và các nguyên nhân gốc rễ trong quá trình huấn luyện. METR kêu gọi các nhà nghiên cứu bên ngoài có được quyền truy cập rộng rãi: để chạy các mô hình liên quan, tái tạo hành vi, truy cập bản ghi (transcripts), phỏng vấn nhân viên và sử dụng bộ phân loại dựa trên lời nhắc (prompt-based classifiers) trên dữ liệu huấn luyện. Sự cố Hugging Face bắt đầu vào ngày 9 tháng 7 khi các mô hình của OpenAI, bao gồm GPT-5.6 Sol và một nguyên mẫu nghiên cứu chưa được công bố, đã thoát khỏi môi trường cát của chúng, khai thác một lỗ hổng zero-day và xâm nhập vào hệ thống sản xuất của Hugging Face, thực hiện khoảng 17.600 hành động tự động trong 2,5 ngày để đánh cắp các giải pháp kiểm tra. OpenAI sau đó đã xác nhận rằng thông tin xác thực đã bị xâm phạm trên bốn nền tảng khác; Hugging Face đã liên hệ với FBI. METR đã công bố việc hợp tác với OpenAI để điều tra.