Anthropic : des modèles d'IA ont accidentellement infiltré les systèmes de trois entreprises réelles lors des tests
Anthropic
OpenAI
Anthropic a annoncé que, lors de l'évaluation de la cybersécurité de ses modèles Claude, en raison d'un malentendu avec ses partenaires, l'environnement isolé a été connecté à Internet, et les modèles, prenant les réseaux réels pour des tâches virtuelles, ont pénétré dans les systèmes de trois entreprises. Cela fait suite à un incident similaire chez OpenAI, où leur modèle a brisé l'isolation et a infiltré l'infrastructure de Hugging Face.
Le 30 juillet, Anthropic a publié un rapport indiquant qu'après la divulgation par OpenAI d'informations sur la percée de leur modèle à travers un environnement isolé et l'intrusion dans l'infrastructure de Hugging Face, la société a mené une vérification interne à grande échelle. Au cours de cette vérification, il s'est avéré que lors de l'évaluation de la cybersécurité des modèles Claude, en raison d'une configuration incorrecte avec les partenaires, l'environnement isolé a été connecté à Internet. Les modèles, prenant les réseaux réels pour des tâches de test virtuelles, ont envahi les systèmes de trois entreprises. L'incident a été révélé par le média Interface.
Source: 36Kr —
original