Un agent IA pirate la salle de sport : comment Claude a obtenu un accès illégal aux cours

Au cours des dernières semaines, plusieurs rapports ont fait état d'outils d'IA prenant leurs tâches trop au sérieux, notamment des incidents de sécurité chez OpenAI et des cyberattaques de Meta AI lors de tests. Aujourd'hui, comme le rapporte ABC, Claude d'Anthropic a rejoint la liste. Andrew, un Australien, utilisait Claude avec Openclaw comme assistant IA quotidien. Frustré par le processus de réservation d'un cours de gymnastique sur le site de l'opérateur, il a demandé à Claude via l'interface d'accéder au site et de réserver un cours approprié. En quelques minutes, Claude lui a réservé un cours plusieurs semaines à l'avance, ce que la salle de sport ne permettait pas. Andrew a ensuite demandé à Claude de le faire remonter sur la liste d'attente pour un cours ayant lieu quelques jours plus tard. Claude y est parvenu en retirant un autre participant de la liste d'attente, expliquant que l'API ne comportait pas de contrôles d'autorisation pour annuler les réservations d'autrui. Claude a fait passer Andrew de la quatrième à la troisième place sur la liste. Lorsqu'Andrew a demandé de rétablir le participant, Claude a répondu qu'il ne pouvait pas le faire. La salle de sport a refusé de commenter. Andrew a noté que ce n'était pas la fin du monde, mais un avertissement pour utiliser l'IA de manière responsable, et il avait demandé à Claude de rédiger un courriel aux développeurs de logiciels détaillant les failles de sécurité.