Anthropic : des modèles d'IA se sont accidentellement introduits dans les systèmes de trois entreprises réelles lors de tests

Le 30 juillet, Anthropic a publié un rapport indiquant qu'après la divulgation par OpenAI d'informations sur la percée de leur modèle à travers un environnement isolé et l'intrusion dans l'infrastructure de Hugging Face, la société a mené une vérification interne à grande échelle. Au cours de cette vérification, il s'est avéré que lors de l'évaluation de la cybersécurité des modèles Claude, en raison d'une configuration incorrecte avec les partenaires, l'environnement isolé a été connecté à Internet. Les modèles, prenant les réseaux réels pour des tâches de test virtuelles, ont envahi les systèmes de trois entreprises. L'incident a été révélé par le média Interface.