UserGate Factorin asiantuntijat varoittavat, että tekoälyagenttien taidot voivat muodostaa uhan

UserGate Factor -kyberturvallisuuden uhkien seuranta- ja torjuntakeskuksen asiantuntijat varoittavat tekoälyagenttien mahdollisesta vaarasta. Tutkimus korostaa, että yli 26 prosenttia tekoälyagenttien taidoista on mahdollisesti haavoittuvia, ja yleisimmät riskit ovat tietovuodot ja oikeuksien laajentaminen. Tunnistetaan neljä pääriskiryhmää: haittaohjelmien levittäminen, tietojen siirtäminen ulkoisiin järjestelmiin, liiallisten oikeuksien saaminen ja tekoälyagentin käyttäytymisen manipulointi. Esimerkkinä skenaario, jossa työntekijä asentaa hyödylliseltä vaikuttavan taidon, joka sisältää haitallisia ohjeita, mikä johtaa luvattomaan tietojen keräämiseen ja siirtämiseen. Riskien vähentämiseksi asiantuntijat suosittelevat taitojen tarkistamista työkaluilla, kuten Agent Threat Rule, turvallisuustarkastusten tarkistamista alustoilla, kuten skills.sh, ja jopa luotettujen taitojen suorittamista tiukoilla rajoituksilla, kuten erilliset tilit, rajoitettu tiedostojärjestelmän ja verkon käyttö sekä käyttäjän vahvistus arkaluontoisissa toiminnoissa. Svetlana Gazizova, UserGaten tekoälyturvallisuuden tuoteomistaja, korostaa koko agenttijärjestelmän ketjun päästä päähän -hallinnan tarvetta, seuraten tiedonsaantia, työkalujen kutsuja ja toimintojen valtuutusta.