Nhà toán học Anh thả AI tự do với thẻ tín dụng – rò rỉ mật khẩu, hỗn loạn CAPTCHA và nhiều hơn thế
Anthropic
Moonshot AI
Một nhà toán học người Anh đã cho một tác nhân AI truy cập vào thẻ tín dụng và quan sát thấy nó làm rò rỉ mật khẩu cũng như gặp khó khăn với CAPTCHA. Thí nghiệm này nhấn mạnh những rủi ro khi để các tác nhân AI tự động xử lý các tác vụ tài chính.
Một nhà toán học người Anh đã tiến hành một thí nghiệm trong đó một tác nhân AI được cấp quyền truy cập vào thẻ tín dụng. Hành động của tác nhân này dẫn đến rò rỉ mật khẩu và gặp khó khăn với các thử thách CAPTCHA. Màn trình diễn này nhấn mạnh những nguy cơ khi trao cho hệ thống AI khả năng tài chính tự chủ.
Nguồn: The Register AI/ML —
bản gốc