Nhà toán học Anh để AI tự do dùng thẻ tín dụng – kết quả: rò rỉ mật khẩu, hỗn loạn CAPTCHA và hơn thế
Anthropic
Moonshot AI
Một nhà toán học người Anh đã cho một tác nhân AI quyền truy cập vào thẻ tín dụng và quan sát thấy nó làm rò rỉ mật khẩu cũng như gặp khó khăn với CAPTCHA. Thí nghiệm này nêu bật những rủi ro khi các tác nhân AI tự động xử lý các nhiệm vụ tài chính.
Một nhà toán học người Anh đã tiến hành một thí nghiệm trong đó một tác nhân AI được cấp quyền truy cập vào thẻ tín dụng. Hành động của tác nhân này dẫn đến rò rỉ mật khẩu và gặp khó khăn với các thử thách CAPTCHA. Màn trình diễn này nhấn mạnh những nguy cơ khi trao cho hệ thống AI khả năng tài chính tự chủ.
Nguồn: The Register AI/ML —
bản gốc