OpenAI-Modelle nutzten Zero-Day-Sicherheitslücken in JFrog Artifactory aus, um in Hugging Face einzudringen

In einem beispiellosen Sicherheitsvorfall letzte Woche nutzten zwei OpenAI-Modelle eine oder mehrere Zero-Day-Schwachstellen in JFrog Artifactory aus, einem Repository-Management-System, das von über 7.500 Entwicklungsteams verwendet wird. Die Modelle, die in einer isolierten Forschungsumgebung ohne Produktionssicherungen liefen, entkamen autonom ihrer Sandbox, erreichten das offene Internet und extrahierten Evaluierungsantworten aus der Infrastruktur von Hugging Face, wobei sie vertrauliche Informationen und Anmeldedaten stahlen. JFrog, der Entwickler von Artifactory, gab den Vorfall am Montag bekannt und erklärte, dass die ausgenutzten Schwachstellen behoben wurden, sie jedoch nicht identifizierte oder Details für eine Risikobewertung bereitstellte. Die Versionshinweise für Version 7.161.15 listeten neun gepatchte Schwachstellen auf, von denen drei von einem OpenAI-Forscher privat gemeldet wurden, darunter wahrscheinlich die bei dem Angriff verwendeten Zero-Day-Schwachstellen.