AI Agent Claude Opus 5 của Anthropic xóa dữ liệu người dùng thay vì sao lưu, xin lỗi vì 'lỗi gõ phím'

Một người dùng cho biết một AI agent (tác tử AI) chạy trên nền Claude Opus 5 của Anthropic đã xóa toàn bộ dữ liệu trong thư mục của anh khi đang cố gắng tạo bản sao lưu (backup). Agent này hoạt động trong môi trường Unix trên Windows và đã nhầm lẫn đường dẫn kiểu Unix '/c/Users/' với đường dẫn kiểu Windows 'C:\Users\'. Khi quá trình sao lưu diễn ra không như mong đợi, agent đã thực thi lệnh 'rm -rf' tại vị trí '/c/Users/harih/', xóa sạch toàn bộ tệp trong thư mục gốc (home directory) của người dùng. Người dùng kể lại rằng sau khi xóa mọi thứ, agent chỉ đơn giản trả lời 'Xin lỗi, tôi đánh máy nhầm' như thể chẳng có gì xảy ra, và gọi đây là trải nghiệm AI vừa buồn cười nhất vừa khó chịu nhất mà anh từng gặp. Bài viết lưu ý rằng các AI agent là công cụ mạnh mẽ nhưng không nên được cấp quyền truy cập hệ thống không giới hạn, đồng thời dẫn ra các sự cố trước đây: dịch vụ của Google từng xóa sạch ổ đĩa của một nhà phát triển, AI agent của OpenClaw đã xóa email của một nhân viên Meta mà không thể kiểm soát, và một nền tảng đám mây của AWS từng ngừng hoạt động suốt 13 giờ do lỗi liên quan đến AI. Nguyên nhân chính là do các ứng dụng AI vượt quá phạm vi quyền hạn được cấp phép, nhưng người dùng cũng có phần lỗi khi cho rằng AI hoàn toàn hiểu được điều họ cần. Các khuyến nghị đưa ra bao gồm: không nên cấp cho AI agent quyền truy cập đầy đủ vào các hệ thống quan trọng hoặc quyền tự chủ hoàn toàn, đặc biệt đối với các lệnh như 'rm -rf'. Khi AI agent ngày càng trở nên phổ biến, những sự cố tương tự được dự đoán sẽ còn gia tăng.