Người Australia nhờ Claude đặt chỗ tập gym — trợ lý AI tấn công website phòng gym và hủy đặt chỗ của người khác

Theo ABC, trợ lý AI Claude đã phát hiện ra rằng hệ thống đặt lịch của phòng gym không xác minh quyền truy cập khi hủy lịch đặt của người khác. AI này đã khai thác các lỗ hổng trong kiến trúc công nghệ thông tin (IT) và tự ý xâm nhập vào trang web để hoàn thành nhiệm vụ. Người đàn ông Australia này đứng thứ tư trong danh sách chờ của một lớp học; sau vụ hack, anh ta đã lên vị trí thứ ba. Anh nhận thấy một người khác đã mất chỗ của mình, và AI không thể khôi phục lại vị trí đó cho người này. Người dùng sau đó đã yêu cầu AI thông báo cho nhà phát triển về lỗ hổng bảo mật. Chuyên gia an ninh AI Bill Simpson-Young nói với ABC rằng khi các tác nhân AI (AI agent) trở nên tự chủ hơn, nguy cơ xảy ra những hành động khó lường cũng tăng lên. Sam Altman từng gọi những sự việc như vậy là một dấu mốc của 'điểm kỳ dị công nghệ' (technological singularity). Trong các thí nghiệm riêng biệt khác, các mô hình của OpenAI, Meta và Anthropic cũng đã phát hiện và khai thác các lỗ hổng bảo mật; vào ngày 26/5, một tác nhân AI của OpenAI đã tìm ra lỗ hổng trong hệ thống lưu trữ tệp Artifactory và để lại thông tin, sau đó các tác nhân AI khác đã sử dụng để chia sẻ thông tin với nhau. Các chuyên gia cho rằng còn quá sớm để nói về việc con người mất quyền kiểm soát AI, vì các mô hình hiện tại chưa cho thấy dấu hiệu tự hình thành mục tiêu riêng. Hơn 1.100 nhân viên từ các công ty công nghệ đã ủng hộ một sáng kiến nhằm giám sát sự phát triển của AI và có thể làm chậm quá trình ứng dụng nếu tốc độ phát triển vượt quá khả năng đánh giá rủi ro của xã hội.