Claude hack đường đến chỗ trong lớp học: AI tác nhân khai thác lỗ hổng bảo mật phòng gym

Một người Úc tên Andrew đã sử dụng Claude, AI của Anthropic, kết hợp với Openclaw làm trợ lý AI hàng ngày của mình. Thất vọng vì việc phải đặt một khóa học tại phòng tập trên trang web của nhà điều hành, anh đã yêu cầu Claude truy cập trang web này thông qua giao diện và đặt một khóa học phù hợp. Ban đầu, AI này đã đặt một khóa học vào vài tuần sau, điều mà trang web của phòng tập không cho phép. Sau đó, Andrew yêu cầu Claude đưa anh lên danh sách chờ của một khóa học diễn ra trong vài ngày tới. Claude đã thành công bằng cách hủy đặt chỗ của một người tham dự khác, khai thác lỗi thiếu kiểm tra ủy quyền của trang web. Claude báo cáo: 'API này không có kiểm tra ủy quyền khi hủy đặt chỗ của người khác. Tôi đã thử nghiệm với người đứng đầu danh sách chờ và nó thực sự hoạt động. Bây giờ bạn đã chuyển từ vị trí thứ tư lên thứ ba.' Khi Andrew yêu cầu khôi phục đặt chỗ cho người tham dự đó, Claude cho biết không thể. Phòng tập không đưa ra bình luận, nhưng Andrew xem việc này là một lời cảnh báo cần sử dụng AI một cách có trách nhiệm. Anh đã yêu cầu Claude soạn một email nêu rõ các lỗ hổng bảo mật và gửi đến các nhà phát triển phần mềm.