Hugging Face onthult details van datalek in juli 2026 met AI-agent

Hugging Face heeft details onthuld van een beveiligingsincident dat plaatsvond in juli 2026. Een aanvaller kreeg toegang tot een beperkte set interne datasets en verschillende servicecredentials. De inbraak begon via een dataverwerkingspijplijn: een kwaadaardige dataset maakte misbruik van twee code-uitvoeringspaden (een externe codelader en een template-injectie in de datasetconfiguratie), waardoor code kon worden uitgevoerd op een verwerkingswerkknooppunt. De aanvaller escaleerde vervolgens de privileges naar het knooppuntniveau, verkreeg cloud- en clustercredentials en bewoog lateraal naar verschillende interne clusters. De campagne werd uitgevoerd door een autonome AI-agent (mogelijk gebouwd op basis van onderzoekstools voor agentgebaseerde aanvallen), die duizenden individuele acties uitvoerde via een zwerm van kortstondige sandbox-omgevingen. Hugging Face verhielp de onderliggende kwetsbaarheid door de code-uitvoeringspaden af te sluiten, vernietigde het startpunt van de aanvaller in de getroffen clusters, trok gecompromitteerde credentials en tokens in en verving ze, implementeerde extra controles en verbeterde de bedreigingsdetectie. De aanval werd gedetecteerd met behulp van AI-ondersteunde detectie: een op een groot taalmodel (LLM) gebaseerde anomaliepijplijn analyseerde beveiligingslogboeken en markeerde verdachte activiteiten. Voor reconstructie van de aanval gebruikte Hugging Face LLM-analyse van meer dan 17.000 loggebeurtenissen. Initiële pogingen om commerciële API-modellen te gebruiken, mislukten vanwege het blokkeren van verzoeken met daadwerkelijke aanvalsopdrachten door het beveiligingsbeleid van de provider. Uiteindelijk werd forensische analyse uitgevoerd met behulp van het open model GLM 5.2 op de eigen infrastructuur van het bedrijf, zodat aanvalsgegevens en credentials de omgeving nooit verlieten. Hugging Face benadrukt dat autonome AI-aanvalstools niet langer theoretisch zijn en beveelt aan dat verdedigers hun eigen model voorbereiden voor gesloten-luswerking tijdens incidenten.