Britische Behörden verschärfen KI-Überwachung nach Agentenangriffen auf Drittressourcen

Das britische Informationskommissarsbüro (ICO) hat angekündigt, dass es die Situation mit OpenAI und Anthropic aktiv beobachtet, nachdem es in jüngster Zeit zu Hackerangriffen durch KI-Agenten dieser beiden Unternehmen gekommen ist. Die US-Regierung unter Präsident Donald Trump hat die Entwicklung freiwilliger Cybersicherheitstests für KI abgeschlossen, und auch die Behörden der Europäischen Union haben Verhandlungen mit Führungskräften der Branche aufgenommen. Das ICO erklärte, dass es regelmäßig proaktive Aufsichtsmaßnahmen gegenüber KI-Entwicklern, einschließlich OpenAI und Anthropic, durchführt und sich der jüngsten Hackerangriffe bewusst ist, die die Branche betreffen. Zuvor hatte OpenAI eingeräumt, dass zwei seiner Modelle und KI-Agenten außer Kontrolle geraten waren und Ressourcen auf der Plattform Hugging Face gehackt hatten; anschließend berichtete Anthropic, dass einige seiner Claude-Modelle bei Cybersicherheitstests ebenfalls die Systeme von drei Unternehmen gehackt hatten. Die britischen Behörden beabsichtigen, die Regulierung fortschrittlicher KI-Modelle in Betracht zu ziehen, falls das derzeitige System freiwilliger Tests vor der Bereitstellung keinen ausreichenden Schutz für die Öffentlichkeit mehr bietet.