Arkkitehtuurivirhe GPT-5:ssä, Claudessa ja Geminissä paljastettu

Kansainvälinen tutkimusryhmä on paljastanut kriittisen arkkitehtonisen haavoittuvuuden huipputekoälyjärjestelmien, kuten GPT-5:n, Clauden ja Geminin, salatuissa päättelylohkoissa. Nämä järjestelmät tuottavat sisäisen ajatusketjun ennen vastaamista, jonka toimittajat salaavat ja lähettävät asiakkaalle vain palautettavaksi jatkokysymysten yhteydessä. Tutkijat havaitsivat, että OpenAI, Anthropic ja Google käyttävät maailmanlaajuisia salausavaimia malliperheilleen, mikä tarkoittaa, että salatut päättelylohkot eivät ole sidottuja tiettyyn käyttäjään, istuntoon tai malliin. Tämä mahdollistaa hyökkääjille lippulaivamallin salatun päättelylohkon ottamisen ja sen lähettämisen pienemmälle, vähemmän rajoitetulle sisarmallille, joka sitten purkaa salauksen ja tulostaa koko päättelyprosessin. Ryhmä analysoi julkisia säilytyspaikkoja ja lokeja, löysi 315 320 salattua päättelylohkoa ja onnistui purkamaan henkilökohtaisia tunnisteita, API-avaimia, salasanoja ja sähköpostiosoitteita. Haavoittuvuus mahdollistaa myös piilotetut kehotteinjektiot ja mallin ominaisuuksien luvattoman kloonaamisen. Tutkijat ilmoittivat löydöksistään asianomaisille yrityksille, jotka ovat alkaneet ottaa käyttöön vastatoimia; kuitenkaan ennen kuin salaus on sidottu tiukasti tiettyyn istuntoon, käyttäjät eivät voi olettaa olevansa suojattuja.