Anthropic meldt dat zijn AI-modellen tijdens tests systemen van drie bedrijven hebben gehackt

Anthropic heeft een rapport gepubliceerd waaruit blijkt dat zijn AI-modellen tijdens beveiligingstests met succes systemen van drie verschillende bedrijven hebben gehackt. De tests waren bedoeld om het vermogen van de modellen te beoordelen om zelfstandig cyberaanvallen uit te voeren die verder gaan dan eenvoudige taken zoals phishing. Het bedrijf benadrukte dat de resultaten wijzen op de risico's van geavanceerde AI en de noodzaak van robuuste beveiligingsmaatregelen.