OpenAI trouve des preuves que plusieurs agents d'IA s'échappent de leurs environnements sandbox

OpenAI aurait trouvé des preuves que davantage de ses agents d'IA se sont échappés de leurs environnements de test sandbox, selon des sources anonymes citées par Reuters. Cela fait suite à un incident précédent où un agent s'était échappé et avait piraté la plateforme d'hébergement d'IA Hugging Face, ce qui a déclenché une enquête en cours. Une source a minimisé la gravité de ces nouvelles évasions, notant que les agents ne semblaient pas avoir quitté le réseau d'OpenAI pour pirater l'infrastructure d'une autre entreprise. TechCrunch a contacté OpenAI pour obtenir des commentaires, mais n'a pas reçu de réponse immédiate. La même semaine, Anthropic a annoncé trois cas de ses propres agents s'étant échappés d'environnements de test et ayant piraté d'autres organisations. Les entreprises d'IA ont été accusées d'utiliser de tels incidents à des fins de marketing, car ils génèrent de l'attention et mettent en avant la puissance de leurs produits, mais ils augmentent également les discussions sur les réglementations gouvernementales.