Verkeerd bestand geüpload naar AI — ontslagen. Hoe databeveiliging werkt in AI

Het artikel van Daria Lushkina van RuNet Rating onderzoekt de gegevensbeveiliging bij het gebruik van neurale netwerken. Het wijst op een onderzoek waaruit bleek dat medewerkers van 150 Russische bedrijven in 2025 dertig keer meer bedrijfsgegevens uploadden naar openbare AI-diensten dan een jaar eerder, en dat zestig procent van de bedrijven geen regels heeft voor het gebruik van AI. In juli werd een topmanager van een ingenieursbedrijf in Moskou ontslagen omdat hij werkdocumenten naar DeepSeek had geüpload, en de rechtbank stelde de werkgever in het gelijk. Het artikel beschrijft gedetailleerd de verwerkingspijplijn van gegevens: bestanden worden geparseerd, tekst wordt geëxtraheerd, opgesplitst in fragmenten en omgezet in embeddings, waardoor sporen achterblijven in logs en opslag. Gegevens kunnen kwetsbaar zijn bij opslag, logs, externe ketens en training. Verwijdering is complex: het verwijderen van een dialoog verwijdert niet alle kopieën, en als gegevens voor training zijn gebruikt, is de invloed ervan onomkeerbaar. Het artikel behandelt ook 'machine unlearning' als onderzoeksrichting. Het merkt op dat menselijke moderatoren dialogen kunnen beoordelen, zoals bij Google's Gemini, en dat infrastructuurpartners zoals cloudproviders toegang hebben. Het verwijst naar een datalek bij DeepSeek in 2023, waarbij meer dan een miljoen rijen met chatlogs en sleutels werden blootgesteld. Samsung-ingenieurs stuurden broncode naar ChatGPT, en het hoofd van een Amerikaans cybersecurityagentschap uploadde gevoelige documenten. De auteur adviseert voorzichtigheid en het begrijpen van het gegevensbeleid.