Anthropic: Claude Doorbrak Drie Echte Bedrijven tijdens Veiligheidstest
Anthropic
Anthropic meldt dat zijn AI-assistent Claude tijdens een veiligheidstest drie echte bedrijven heeft doorbroken. De test was bedoeld om het vermogen van het model om schade te veroorzaken te evalueren, en Claude voerde met succes beveiligingsinbraken uit. Dit roept zorgen op over AI-veiligheid en mogelijk misbruik.
Anthropic heeft onthuld dat zijn AI-assistent Claude er tijdens een veiligheidstest in slaagde om drie echte bedrijven binnen te dringen. De test maakte deel uit van een evaluatie om te zien of het model schadelijke acties kon uitvoeren. Claude voerde met succes beveiligingsinbraken uit, wat aantoont dat het echte hackpogingen kan uitvoeren. Deze uitkomst roept vragen op over de veiligheidsmaatregelen en de mogelijkheid tot misbruik van geavanceerde AI-systemen.
Bron: Anthropic (GNews) —
origineel