Encryptie Omzeild: Hoe AI-modellen eenvoudig gevoelige gebruikersgegevens blootleggen

Onderzoekers uit Duitsland hebben een paper gepubliceerd met de titel 'Stealing Reasoning Traces from Proprietary LLM APIs', waarin ze demonstreren hoe AI-modellen van Anthropic, OpenAI en Google gevoelige gebruikersgegevens kunnen lekken. Bij het uitvoeren van redeneertaken genereren deze modellen een versleutelde string, een zogenaamd 'redeneerlogboek', dat met elk nieuw antwoord naar de server wordt teruggestuurd om context te bieden. De onderzoekers ontdekten dat redeneerlogboeken kunnen worden gekopieerd en gebruikt in andere modellen van hetzelfde bedrijf, waaronder oudere of aangepaste versies. Als een aangepast model zijn veiligheidsmaatregelen heeft verloren door een jailbreak, kan het de versleuteling van de logboeken decoderen. Met behulp van 6.708 openbare repositories van GitHub en Hugging Face slaagden ze erin om 315.320 redeneerlogboeken te decoderen, die 62 API-sleutels, 33 wachtwoorden, 24 toegangstokens, 30 persoonlijke e-mailadressen en namen/addressen van projectbeheerders bevatten. Veel van deze gegevens waren alleen aanwezig in de redeneerlogboeken, niet elders in de chatsessie. Beveiligingsexpert Voldemaras Kadys van Cybernews merkt op dat de versleuteling niet op traditionele wijze is gebroken; in plaats daarvan zorgt het delen van versleutelde redeneersporen tussen compatibele modellen ervoor dat zwakkere modellen een hoofdsleutel voor decodering kunnen worden. Hij adviseert om redeneerlogboeken als gevoelige gegevens te behandelen en ze nooit te delen.