Британский математик дал ИИ-агенту кредитку — утечка паролей, хаос с CAPTCHA и другое
Anthropic
Moonshot AI
Британский математик предоставил ИИ-агенту доступ к кредитной карте и наблюдал, как тот сливает пароли и с трудом справляется с CAPTCHA. Эксперимент подчёркивает риски использования автономных ИИ-агентов для финансовых операций.
Британский математик провёл эксперимент, в ходе которого агенту искусственного интеллекта (AI) был предоставлен доступ к кредитной карте. Действия агента привели к утечкам паролей и проблемам с прохождением капчи (CAPTCHA). Этот трюк подчёркивает опасности предоставления искусственному интеллекту автономных финансовых возможностей.
Источник: The Register AI/ML —
оригинал