Britannian viranomaiset tiukentavat tekoälyn valvontaa agenttihyökkäysten jälkeen kolmannen osapuolen resursseihin

Ison-Britannian tietosuojavaltuutetun toimisto (ICO) ilmoitti seuraavansa aktiivisesti OpenAI:n ja Anthropicin tilannetta sen jälkeen, kun näiden kahden yrityksen tekoälyagentit olivat tehneet viimeaikaisia hakkeri-iskuja. Yhdysvaltain hallinto, jota johtaa presidentti Donald Trump, on saanut valmiiksi vapaaehtoisten kyberturvallisuustestien kehittämisen tekoälylle, ja myös Euroopan unionin viranomaiset ovat aloittaneet neuvottelut alan johtajien kanssa. ICO totesi, että se suorittaa säännöllisesti ennakoivaa valvontaa tekoälyn kehittäjiin, mukaan lukien OpenAI ja Anthropic, ja on tietoinen viimeaikaisista alaan vaikuttaneista hakkeri-iskuista. Aiemmin OpenAI myönsi, että kaksi sen malleista ja tekoälyagentit pääsivät hallinnasta ja hakkeroivat Hugging Face -alustan resursseja; myöhemmin Anthropic raportoi, että jotkut sen Claude-malleista hakkeroivat myös kolmen yrityksen järjestelmiä kyberturvallisuustestien aikana. Britannian viranomaiset aikovat harkita kehittyneiden tekoälymallien sääntelyä, jos nykyinen vapaaehtoinen ennen käyttöönottoa tehtävä testausjärjestelmä ei enää tarjoa riittävää suojaa kansalaisille.