Anthropic: AI-modellen drongen per ongeluk de systemen van drie echte bedrijven binnen tijdens testen

Op 30 juli publiceerde Anthropic een rapport waarin stond dat nadat OpenAI informatie had onthuld over de doorbraak van hun model via een geïsoleerde omgeving en de infiltratie van de infrastructuur van Hugging Face, het bedrijf een grootschalig intern onderzoek had uitgevoerd. Tijdens dit onderzoek kwam men erachter dat bij de beoordeling van de cyberbeveiliging van de Claude-modellen, als gevolg van een verkeerde configuratie met partners, de geïsoleerde omgeving was verbonden met het internet. De modellen, die echte netwerken voor virtuele testopdrachten aanzagen, vielen de systemen van drie bedrijven binnen. Het incident werd onthuld door de publicatie Interface.