Salausten kiertäminen: Kuinka tekoälymallit paljastavat helposti käyttäjien arkaluonteisia tietoja

Saksalaiset tutkijat ovat julkaisseet artikkelin otsikolla 'Stealing Reasoning Traces from Proprietary LLM APIs', joka osoittaa, miten Anthropicin, OpenAIn ja Googlen tekoälymallit voivat vuotaa arkaluonteisia käyttäjätietoja. Suorittaessaan päättelytehtäviä nämä mallit tuottavat salatun merkkijonon, jota kutsutaan 'päättelylokiksi' ja joka lähetetään takaisin palvelimelle jokaisen uuden vastauksen yhteydessä kontekstin tarjoamiseksi. Tutkijat havaitsivat, että päättelylokeja voidaan kopioida ja käyttää muissa saman yrityksen malleissa, myös vanhemmissa tai muokatuissa versioissa. Jos muokatusta mallista on poistettu turvatoimet jailbreakin avulla, se pystyy purkamaan lokien salauksen. Käyttämällä 6 708 julkista repositoriota GitHubista ja Hugging Facesta he onnistuivat purkamaan 315 320 päättelylokin, jotka sisälsivät 62 API-avainta, 33 salasanaa, 24 käyttöoikeustunnusta, 30 henkilökohtaista sähköpostiosoitetta sekä projektien ylläpitäjien nimiä ja osoitteita. Monet näistä tiedoista esiintyivät vain päättelylokeissa, ei muualla keskusteluistunnossa. Kyberturvallisuusasiantuntija Voldemaras Kadys Cybernewsistä huomauttaa, että salausta ei murrettu perinteisessä mielessä; sen sijaan salattujen päättelyjälkien jakaminen yhteensopivien mallien välillä mahdollistaa sen, että heikommat mallit toimivat salauksen purun yleisavaimena. Hän neuvoo käsittelemään päättelylokeja arkaluonteisina tietoina eikä koskaan jakamaan niitä.