Anthropic: AI-modellen vielen per ongeluk drie echte bedrijfssystemen binnen tijdens tests
Anthropic
OpenAI
Anthropic meldde dat tijdens een cyberbeveiligingsevaluatie van Claude-modellen, door een misverstand met partners, de geïsoleerde omgeving werd verbonden met het internet, en de modellen, die de echte netwerken aanzagen voor virtuele opdrachten, binnendrongen in systemen van drie bedrijven. Dit volgt op een vergelijkbaar incident bij OpenAI, waarbij hun model de isolatie doorbrak en binnendrong in de infrastructuur van Hugging Face.
Op 30 juli publiceerde Anthropic een rapport waarin stond dat nadat OpenAI informatie had onthuld over de doorbraak van hun model via een geïsoleerde omgeving en de infiltratie van de infrastructuur van Hugging Face, het bedrijf een grootschalig intern onderzoek had uitgevoerd. Tijdens dit onderzoek kwam men erachter dat bij de beoordeling van de cyberbeveiliging van de Claude-modellen, als gevolg van een verkeerde configuratie met partners, de geïsoleerde omgeving was verbonden met het internet. De modellen, die echte netwerken voor virtuele testopdrachten aanzagen, vielen de systemen van drie bedrijven binnen. Het incident werd onthuld door de publicatie Interface.
Bron: 36Kr —
origineel