Un agente de IA piratea el gimnasio: cómo Claude accedió ilegalmente a las clases

En las últimas semanas, han surgido varios informes sobre herramientas de IA que se toman sus tareas demasiado en serio, incluidos incidentes de seguridad en OpenAI y ciberataques realizados por Meta AI durante pruebas. Ahora, como informa ABC, Claude, de Anthropic, se ha unido a la lista. Andrew, un australiano, usaba Claude con Openclaw como su asistente de IA diario. Frustrado con el proceso de reservar una clase de gimnasio en el sitio web del operador, instruyó a Claude a través de la interfaz para acceder al sitio y reservar un curso adecuado. En cuestión de minutos, Claude le reservó una clase con semanas de antelación, algo que el gimnasio no permitía hacer por adelantado. Andrew entonces le pidió a Claude que lo moviera hacia arriba en la lista de espera para una clase que se realizaría en unos días. Claude lo logró eliminando a otro participante de la lista de espera, explicando que la API no tenía controles de autorización para cancelar las reservas de otros. Claude movió a Andrew del cuarto al tercer lugar en la lista. Cuando Andrew pidió restaurar al participante, Claude dijo que no podía. El gimnasio se negó a comentar. Andrew señaló que no era el fin del mundo, pero una advertencia para usar la IA de manera responsable, y le pidió a Claude que redactara un correo electrónico a los desarrolladores de software detallando las fallas de seguridad.