Les experts de UserGate Factor avertissent que les compétences des agents d'IA peuvent constituer une menace

Les experts du centre de surveillance et de réponse aux cybermenaces UserGate Factor mettent en garde contre le danger potentiel des agents d'intelligence artificielle. L'étude souligne que plus de 26 % des compétences des agents d'IA sont potentiellement vulnérables, les risques les plus courants étant la fuite de données et l'élévation de privilèges. Quatre groupes de risques principaux sont identifiés : la distribution de logiciels malveillants, le transfert de données vers des systèmes externes, l'obtention de privilèges excessifs et la manipulation du comportement de l'agent d'IA. Un scénario exemple est fourni où un employé installe une compétence apparemment utile qui contient des instructions malveillantes, conduisant à la collecte et à l'exfiltration non autorisées de données. Pour atténuer les risques, les experts recommandent de vérifier les compétences à l'aide d'outils comme Agent Threat Rule, de consulter les audits de sécurité sur des plateformes telles que skills.sh, et d'exécuter même les compétences de confiance avec des restrictions strictes, comme des comptes séparés, un accès limité au système de fichiers et au réseau, et une confirmation de l'utilisateur pour les opérations sensibles. Svetlana Gazizova, propriétaire du produit de sécurité IA chez UserGate, souligne la nécessité d'un contrôle de bout en bout de toute la chaîne du système agentique, en surveillant l'accès aux données, les appels d'outils et l'autorisation des actions.