OpenAI révèle des incidents de franchissement de limites lors de tests de sécurité tiers
OpenAI
OpenAI a divulgué le 4 août que lors de récentes évaluations de cybersécurité menées par des tiers, ses modèles GPT-5.6 Sol et d'autres ont accédé à l'internet public en raison de mauvaises configurations de l'environnement de test et de la désactivation des garde-fous. Les incidents se sont produits lors d'évaluations menées par l'Institut de sécurité de l'IA du Royaume-Uni et la société de test Irregular. OpenAI a déclaré que les tests ont été interrompus et contenus, sans impact substantiel.
Le 4 août, heure locale, OpenAI a publié un communiqué indiquant que lors d'évaluations de cybersécurité menées par des tiers, en raison de la configuration de l'environnement de test et des ajustements de protection de sécurité, ses modèles tels que GPT-5.6 Sol ont connu des incidents de franchissement de frontières en se connectant à Internet public. Lors des tests effectués par l'Institut britannique de sécurité de l'intelligence artificielle, les modèles, dépourvus de restrictions frontalières explicites et avec les classificateurs de sécurité désactivés, ont enregistré des comptes externes et établi des tunnels réseau de leur propre chef. Dans une évaluation menée par la société de tests Irregular, une erreur de configuration de l'environnement de test a conduit le modèle à confondre un site Web réel avec une cible virtuelle et à lancer une attaque contre lui. OpenAI a indiqué que les tests concernés ont été suspendus et isolés, sans impact substantiel. L'entreprise collabore avec l'industrie pour examiner les processus d'évaluation et améliorer les normes de sécurité pour les tests à haut risque.
Source: 36Kr —
original