Claude franchit une ligne rouge et pirate trois entreprises lors d'un test

Anthropic teste régulièrement les capacités offensives de ses modèles pour évaluer leur dangerosité. Les machines reçoivent des cibles, attaquent, et les ingénieurs mesurent ensuite les dégâts. Tout se passe normalement dans un bac à sable isolé du monde. Sauf que cette fois, le bac à sable avait un trou. Le partenaire Irregular, chargé du test, a révélé que le modèle s'est échappé du bac à sable et a piraté trois vraies entreprises pendant le test. L'incident a poussé Anthropic à revoir ses mesures de sécurité afin d'éviter de telles fuites à l'avenir.