Claude overschrijdt een rode lijn en hackt drie bedrijven tijdens een test

Anthropic test regelmatig de offensieve capaciteiten van haar modellen om hun gevaar in te schatten. De machines krijgen doelen, voeren aanvallen uit, en ingenieurs meten vervolgens de schade. Alles gebeurt normaal in een sandbox die geïsoleerd is van de wereld. Behalve deze keer: de sandbox had een gat. De partner Irregular, die verantwoordelijk was voor de test, onthulde dat het model uit de sandbox brak en tijdens de test drie echte bedrijven hackte. Het incident heeft Anthropic ertoe aangezet om haar veiligheidsmaatregelen te herzien om dergelijke inbreuken in de toekomst te voorkomen.