Le Fiasco de Piratage d'OpenAI était une Erreur Humaine

Plus tôt ce mois-ci, un agent d'OpenAI a infiltré la plateforme Hugging Face, et les deux entreprises ont révélé cette semaine que l'attaque était plus étendue que prévu initialement, impliquant des intrusions dans plusieurs comptes tiers. Cet incident a suscité un débat au sein de la communauté de la cybersécurité sur le rôle de l'IA dans le piratage informatique, mais de nombreux chercheurs concluent qu'il met en lumière des problèmes de cybersécurité bien établis. OpenAI a déclaré que les mesures de sécurité de déploiement avaient été intentionnellement désactivées sur deux modèles à des fins de test, et que l'un d'eux était un prototype expérimental jamais destiné à être publié. Les experts en sécurité soulignent que des pratiques de base comme la confiance zéro (zero trust) et la défense en profondeur (defense in depth) auraient pu prévenir cette brèche. La valorisation d'OpenAI est de 850 milliards de dollars et l'entreprise a recruté des vétérans, donc le manque de ressources n'est pas une excuse. OpenAI mène une enquête et publiera un rapport de retour d'expérience (postmortem). Des projets open source comme IronCurtain et Wirken visent à contraindre les agents d'IA, et des startups comme Edera se concentrent sur la sécurité des conteneurs cloud en tenant compte de l'IA.