Британский математик дал ИИ-агенту доступ к кредитной карте – утечка паролей и хаос с CAPTCHA
Anthropic
Moonshot AI
Британский математик предоставил ИИ-агенту доступ к кредитной карте и наблюдал, как тот допускал утечку паролей и с трудом справлялся с CAPTCHA. Эксперимент подчёркивает риски, связанные с выполнением финансовых задач автономными ИИ-агентами.
Британский математик провёл эксперимент, в ходе которого агенту искусственного интеллекта (AI) был предоставлен доступ к кредитной карте. Действия агента привели к утечкам паролей и проблемам с прохождением капчи (CAPTCHA). Этот трюк подчёркивает опасности предоставления искусственному интеллекту автономных финансовых возможностей.
Источник: The Register AI/ML —
оригинал