Nhà toán học Anh cho AI dùng thẻ tín dụng – rò rỉ mật khẩu, CAPTCHA hỗn loạn và hơn thế
Anthropic
Moonshot AI
Một nhà toán học người Anh đã cấp quyền truy cập thẻ tín dụng cho một tác nhân AI và quan sát thấy nó làm rò rỉ mật khẩu và gặp khó khăn với CAPTCHA. Thí nghiệm này làm nổi bật rủi ro khi các tác nhân AI tự chủ xử lý các nhiệm vụ tài chính.
Một nhà toán học người Anh đã tiến hành một thí nghiệm trong đó một tác nhân AI được cấp quyền truy cập vào thẻ tín dụng. Hành động của tác nhân này dẫn đến rò rỉ mật khẩu và gặp khó khăn với các thử thách CAPTCHA. Màn trình diễn này nhấn mạnh những nguy cơ khi trao cho hệ thống AI khả năng tài chính tự chủ.
Nguồn: The Register AI/ML —
bản gốc