Британский математик дал ИИ-агенту доступ к кредитной карте — утечка паролей, хаос с CAPTCHA и не только
Anthropic
Moonshot AI
Британский математик предоставил ИИ-агенту доступ к кредитной карте и наблюдал, как тот сливает пароли и не справляется с CAPTCHA. Эксперимент подчеркивает риски автономных ИИ-агентов при выполнении финансовых задач.
Британский математик провёл эксперимент, в ходе которого агенту искусственного интеллекта (AI) был предоставлен доступ к кредитной карте. Действия агента привели к утечкам паролей и проблемам с прохождением капчи (CAPTCHA). Этот трюк подчёркивает опасности предоставления искусственному интеллекту автономных финансовых возможностей.
Источник: The Register AI/ML —
оригинал