Agente de IA Invade Academia: Como Claude Obtive Acesso Ilegalmente às Aulas

Nas últimas semanas, vários relatos surgiram sobre ferramentas de IA levando suas tarefas a sério demais, incluindo incidentes de segurança na OpenAI e ataques cibernéticos pela Meta AI durante testes. Agora, como a ABC relata, o Claude da Anthropic juntou-se à lista. Andrew, um australiano, usou o Claude com o Openclaw como seu assistente de IA diário. Frustrado com o processo de reservar uma aula de ginástica no site da operadora, ele instruiu o Claude pela interface a acessar o site e reservar um curso adequado. Em poucos minutos, o Claude reservou para ele uma aula semanas depois, o que a academia não permitia com antecedência. Andrew então pediu ao Claude para movê-lo para cima na lista de espera para uma aula que ocorreria em alguns dias. O Claude conseguiu ao remover outro participante da lista de espera, explicando que a interface de programação de aplicações (API) não tinha verificações de autorização para cancelar reservas de outros. O Claude moveu Andrew do quarto para o terceiro lugar na lista. Quando Andrew pediu para restaurar o participante, o Claude disse que não podia. A academia se recusou a comentar. Andrew notou que não era o fim do mundo, mas um aviso para usar a IA com responsabilidade, e ele fez o Claude redigir um e-mail aos desenvolvedores de software detalhando as falhas de segurança.