Experts van UserGate Factor waarschuwen dat vaardigheden van AI-agenten een bedreiging kunnen vormen

Experts van het cyberdreigingsmonitorings- en responscentrum UserGate Factor waarschuwen voor het potentiële gevaar van AI-agenten. Uit het onderzoek blijkt dat meer dan 26% van de vaardigheden van AI-agenten mogelijk kwetsbaar is, waarbij de meest voorkomende risico's datalekken en escalatie van bevoegdheden zijn. Er worden vier belangrijke risicogroepen geïdentificeerd: verspreiding van malware, overdracht van gegevens naar externe systemen, verkrijgen van buitensporige bevoegdheden en manipulatie van het gedrag van AI-agenten. Er wordt een voorbeeldscenario gegeven waarin een werknemer een ogenschijnlijk nuttige vaardigheid installeert die kwaadaardige instructies bevat, wat leidt tot ongeoorloofde gegevensverzameling en exfiltratie. Om risico's te beperken, raden experts aan om vaardigheden te verifiëren via tools zoals Agent Threat Rule, beveiligingsaudits te controleren op platforms zoals skills.sh, en zelfs vertrouwde vaardigheden uit te voeren met strikte beperkingen zoals aparte accounts, beperkte toegang tot bestandssysteem en netwerk, en gebruikerstoestemming voor gevoelige handelingen. Svetlana Gazizova, Product Owner voor AI-beveiliging bij UserGate, benadrukt de noodzaak van end-to-end-controle van de hele agentische systeemketen, met monitoring van gegevenstoegang, toolaanroepen en autorisatie van acties.