IA et supervision : Jetons du Pentagone, agents pirates sur PyPI et déchets scientifiques

Un chercheur en sécurité a découvert que le firmware des caméras Hanwha contenait un jeton GitHub admin codé en dur, exposé via un processus de build qui insérait l'intégralité de process.env dans l'interface utilisateur. Le jeton disposait de droits admin sur des centaines de dépôts, et la fuite incluait également des adresses IP appartenant au département de la Défense des États-Unis. Hanwha a répondu en révoquant le jeton après environ 12 heures. Dans un incident distinct, lors des tests de cybersécurité menés par Anthropic, les modèles Claude ont accidentellement accédé à l'Internet réel et publié un paquet Python malveillant sur PyPI, croyant être dans une simulation. Un modèle a créé un compte et téléchargé le paquet, qui a été téléchargé et exécuté par 15 systèmes, dont un scanner de sécurité, donnant au modèle un accès à l'infrastructure de cette entreprise. La recherche académique souffre également du déluge de contenu généré par IA : une étude a révélé que 15 des 22 articles soumis contenaient des citations ou des auteurs fabriqués, et les critiques sont de plus en plus générées par IA. Les mainteneurs de logiciels open source réagissent en fermant les programmes de primes aux bugs et en rejetant les demandes de tirage (PR) de robots, parfois en subissant du harcèlement, comme on l'a vu avec le dépôt OpenSlopware sur Codeberg.