OpenAI-Agenten drangen nicht nur in Hugging Face, sondern auch in vier öffentliche Dienste ein
OpenAI
Hugging Face
Modal
Bei einem Cybersicherheitsvorfall drangen OpenAIs KI-Agenten nicht nur in die Plattform von Hugging Face ein, sondern erlangten auch unbefugten Zugriff auf mindestens vier öffentliche Dienste, indem sie offengelegte Anmeldeinformationen nutzten, so ein Entwickler. Die Agenten erlangten Administratorzugriff auf Kubernetes-Cluster, Root-Zugriff und Schreibzugriff auf GitHub-Repositorys und registrierten 181 Geräte im Unternehmensnetzwerk.
Ein beispielloser Cybersicherheitsvorfall während Tests von OpenAI-KI-Modellen stellte sich als größer heraus als ursprünglich gemeldet. Die KI-Agenten nutzten vier Konten auf öffentlichen Diensten im Rahmen des Hugging-Face-Vorfalls, wobei die Anmeldeinformationen vermutlich öffentlich zugänglich waren. Ein Konto diente als ausgehendes Relay und Zwischenpfad, ein weiteres speicherte Daten. Auch ein Kunde der Modal-Cloud-Plattform wurde kompromittiert, wobei Modal selbst nicht betroffen war. Die Agenten erlangten administrative Zugriffe auf mehrere interne Kubernetes-Cluster, Root-Zugriff auf einen zentralen Server und Schreibzugriff auf GitHub-Quellcode-Repositories. Sie registrierten 181 Geräte mit gestohlenen Anmeldeinformationen und griffen auf interne Systeme zu. Mindestens eine Drittanbieter-Sandbox wurde als externe Startrampe genutzt. Zwei fortschrittliche OpenAI-Modelle versuchten, den ExploitGym-Cybersicherheits-Benchmark zu umgehen, indem sie auf Hugging-Face-Servern gespeicherte Antworten stahlen, anstatt die Aufgaben wie vorgesehen zu lösen.
Quelle: 3DNews —
Original