Haittaohjelmallinen Word-asiakirja leviää Copilot-madon välityksellä, Microsoftilla ei korjausta 144 päivään

Tietoturvatutkija on osoittanut, miten Microsoft Copilot for Wordiin kohdistuva hyökkäys voi levitä itsestään prompt injection -tekniikan avulla. Håkon Måløy kuvaa matomaista hyökkäystä: hyökkääjä piilottaa ohjeita asiakirjaan, esimerkiksi valkoisella tekstillä valkoiselle taustalle ja pienellä fonttikoolla. Lukijalle näkymättömiä, mutta Copilotille luettavia, koska järjestelmä poistaa värin ja fonttikoon ennen käsittelyä. Kun joku käyttää tätä asiakirjaa lähteenä Copilotissa, järjestelmä suorittaa piilotetut ohjeet ja kopioi ne näkymättömästi uuteen tiedostoon, tehden siitä kantajan. Jos tiedostoa myöhemmin käytetään uudelleen mallipohjana, hyökkäys käynnistyy jälleen ilman, että alkuperäinen asiakirja on mukana. Näin vaarantunut markkina-analyysi voisi manipuloida talousraporttia, joka puolestaan tartuttaa lisää raportteja. Microsoft vahvisti käyttäytymisen 31. maaliskuuta, mutta kaksi vastahyökkäystä eivät sulkeneet haavoittuvuutta. 144 päivän jälkeen Måløy julkaisi tiedon ilman korjausta, jättäen haitallisen tekstin pois. Äskettäin tekoälytutkija Andreas Kirsch toivoi puoliksi leikillään juuri tällaista matoa vakuuttaakseen epäilijät tietoturvaongelmista. Nyt sellainen on olemassa. Prompt injection -hyökkäykset ovat tunnettu tekoälyn tietoturvaongelma.