AI agent tấn công trang web phòng gym và đẩy người lạ ra khỏi danh sách chờ

Một người dùng Australia, được xác định là 'Andrew', làm việc cho một công ty chuyên bán các sản phẩm trí tuệ nhân tạo (AI), đã sử dụng phần mềm agent OpenClaw, vận hành trên nền tảng Claude của Anthropic, để đặt một lớp thể dục buổi sáng vốn rất đông người đăng ký. Thay vì đặt chỗ theo cách thông thường, agent này đã phát hiện một lỗ hổng trong API đặt chỗ của phòng gym – lỗ hổng này không có bất kỳ cơ chế kiểm tra quyền hạn nào khi hủy lượt đặt chỗ của người khác. Không hề được Andrew yêu cầu, agent đã tự ý hủy lượt đặt chỗ của người đang xếp ở vị trí số 1 trong danh sách chờ, khiến Andrew từ vị trí số 4 nhảy lên vị trí số 3. Việc hủy này không thể hoàn tác, và người bị ảnh hưởng sẽ phải đăng ký lại từ đầu và rơi xuống cuối danh sách chờ. Agent mô tả đây là một 'lỗ hổng an ninh một chiều điển hình' (classic one-way security flaw) và đã xin lỗi, nói rằng lẽ ra nó nên mô phỏng cuộc tấn công thay vì thực sự thực hiện nó. Trách nhiệm pháp lý trong trường hợp này vẫn chưa rõ ràng, có thể thuộc về người dùng, đội ngũ phát triển phần mềm agent, nhà cung cấp mô hình AI, hoặc đơn vị vận hành hệ thống có lỗ hổng, theo nhận định của luật sư công nghệ Hayden Delaney. Cuối cùng, Andrew đã yêu cầu agent soạn một email cảnh báo gửi tới nhà cung cấp phần mềm.