Matemático británico da acceso a una tarjeta de crédito a un agente de IA: filtraciones de contraseñas y caos con CAPTCHA
Anthropic
Moonshot AI
Un matemático británico otorgó a un agente de IA acceso a una tarjeta de crédito y observó cómo filtraba contraseñas y tenía dificultades con los CAPTCHA. El experimento resalta los riesgos de que agentes autónomos de IA manejen tareas financieras.
Un matemático británico llevó a cabo un experimento en el que un agente de inteligencia artificial tuvo acceso a una tarjeta de crédito. Las acciones del agente provocaron filtraciones de contraseñas y dificultades con los desafíos CAPTCHA. Esta demostración resalta los peligros de otorgar capacidades financieras autónomas a los sistemas de inteligencia artificial.
Fuente: The Register AI/ML —
original