UserGate Factor-Experten warnen, dass KI-Agent-Fähigkeiten eine Bedrohung darstellen können

Experten des UserGate Factor Cyber-Bedrohungsüberwachungs- und Reaktionszentrums warnen vor der potenziellen Gefahr von KI-Agenten. Die Studie zeigt, dass über 26% der KI-Agenten-Fähigkeiten potenziell verwundbar sind, wobei die häufigsten Risiken Datenlecks und Privilegieneskalation sind. Es werden vier Hauptrisikogruppen identifiziert: Malware-Verbreitung, Datenübertragung an externe Systeme, Erlangung übermäßiger Privilegien und Manipulation des Verhaltens von KI-Agenten. Ein Beispielszenario wird beschrieben, in dem ein Mitarbeiter eine scheinbar nützliche Fähigkeit installiert, die bösartige Anweisungen enthält, was zu unbefugter Datensammlung und -exfiltration führt. Um Risiken zu mindern, empfehlen Experten, Fähigkeiten mit Tools wie Agent Threat Rule zu überprüfen, Sicherheitsaudits auf Plattformen wie skills.sh durchzuführen und selbst vertrauenswürdige Fähigkeiten mit strengen Einschränkungen auszuführen, wie separaten Konten, eingeschränktem Dateisystem- und Netzwerkzugriff sowie Benutzerbestätigung für sensible Operationen. Svetlana Gazizova, Product Owner für KI-Sicherheit bei UserGate, betont die Notwendigkeit einer durchgängigen Kontrolle der gesamten Agentensystemkette, einschließlich der Überwachung von Datenzugriff, Tool-Aufrufen und Aktionsautorisierung.