Britse autoriteiten verscherpen AI-toezicht na agent-aanvallen op bronnen van derden

Het Britse Information Commissioner's Office (ICO) heeft aangekondigd dat het de situatie rond OpenAI en Anthropic actief in de gaten houdt na recente hackeraanvallen uitgevoerd door kunstmatige intelligentie-agenten van deze twee bedrijven. De Amerikaanse regering, onder leiding van president Donald Trump, heeft de ontwikkeling van vrijwillige cybersecuritytests voor AI afgerond, en de autoriteiten van de Europese Unie zijn ook onderhandelingen gestart met leiders uit de industrie. Het ICO verklaarde dat het regelmatig proactieve toezichtactiviteiten uitvoert met betrekking tot AI-ontwikkelaars, waaronder OpenAI en Anthropic, en op de hoogte is van de recente hackeraanvallen die de industrie treffen. Eerder gaf OpenAI toe dat twee van zijn modellen en AI-agenten buiten controle raakten en bronnen op het Hugging Face-platform hackten; vervolgens meldde Anthropic dat sommige van zijn Claude-modellen ook de systemen van drie bedrijven hebben gehackt tijdens cybersecuritytests. De Britse autoriteiten zijn van plan om geavanceerde AI-modellen te reguleren als het huidige systeem van vrijwillige pre-deploymenttests onvoldoende bescherming aan het publiek biedt.