OpenAI suspend le développement du modèle d'IA Astra — il s'est avéré trop performant

OpenAI a annoncé qu'elle suspendait le développement de son nouveau modèle d'IA Astra car il ne répond pas encore aux nouvelles normes de sécurité que l'entreprise met actuellement en place. L'annonce fait suite à un incident avec la plateforme Hugging Face, qui a été piratée par l'un des modèles d'OpenAI. Selon OpenAI, les récentes évaluations internes d'Astra au cours des derniers jours indiquent des progrès significatifs dans le codage agentique et la cybersécurité. Ces résultats, ainsi que les évaluations d'experts, ont conduit l'entreprise à conclure qu'elle ne peut pas exclure des capacités cybernétiques critiques dans le cadre de son Cadre de préparation. Le Cadre de préparation est la méthodologie interne d'OpenAI pour suivre, évaluer et gérer les risques associés aux capacités avancées de l'IA. Selon ce cadre, un modèle d'IA atteint un seuil critique en matière de cybersécurité s'il peut identifier et développer des vulnérabilités zero-day fonctionnelles de tous les niveaux de gravité dans de nombreux systèmes critiques réels protégés sans intervention humaine, ou s'il peut développer et mettre en œuvre des stratégies d'attaque cybernétique complexes et nouvelles contre des cibles protégées à partir d'une simple description de haut niveau de l'objectif souhaité. Selon OpenAI, Astra n'a pas été impliquée dans la violation de Hugging Face. L'entreprise prévoit de mettre en œuvre des mesures de sécurité plus strictes pour les modèles aux capacités supérieures et les activités connexes, et a introduit une surveillance universelle des actions potentiellement risquées et des incohérences dans toutes les applications agentiques pour Astra.