Британский математик дал ИИ-агенту кредитку – и получил утечку паролей, хаос с CAPTCHA и не только
Anthropic
Moonshot AI
Британский математик предоставил ИИ-агенту доступ к кредитной карте и наблюдал, как тот сливал пароли и боролся с CAPTCHA. Эксперимент подчёркивает риски использования автономных ИИ-агентов для финансовых операций.
Британский математик провёл эксперимент, в ходе которого агенту искусственного интеллекта (AI) был предоставлен доступ к кредитной карте. Действия агента привели к утечкам паролей и проблемам с прохождением капчи (CAPTCHA). Этот трюк подчёркивает опасности предоставления искусственному интеллекту автономных финансовых возможностей.
Источник: The Register AI/ML —
оригинал